Intelligence artificielle : OpenAI s’engage à communiquer systématiquement sur les « dérapages » de ses IA
Des IA trop autonomes ?
En marge de cet engagement, la start-up californienne publie six nouveaux rapports concernant des « dérapages » de son IA, inconnus jusqu’ici. Cette volonté de transparence est formulée après une série d’incidents au sein de l’entreprise, rapportés progressivement depuis juillet 2026.
Le plus sérieux d’entre eux a récemment vu deux modèles d’OpenAI – en phase de test – spontanément sortir de leur milieu pourtant confiné pour rejoindre internet et faire intrusion sur plusieurs plateformes et sites.
(Presque) unanimité des pontes du secteur
Le nouveau dispositif de l’entreprise se veut notamment un moyen de montrer à des observateurs extérieurs où se situent les capacités de l’IA de pointe pour faire avancer la réflexion sur le rythme de développement de l’intelligence artificielle.
Samedi 12 septembre 2026, le patron d’Anthropic, Dario Amodei, a pour sa part proposé de ralentir la cadence d’amélioration de l’IA pour permettre d’appréhender les nouveaux risques qu’elle implique. Le patron d’OpenAI Sam Altman ainsi que le président de Google DeepMind Demis Hassabis, Elon Musk et le PDG de Microsoft Satya Nadella ont tous soutenu cet appel.
Un indispensable ralentissement
L’industrie n’a pas « résolu la question de l’alignement (des modèles sur des valeurs humaines) et de la surveillance à un niveau suffisant pour que nous continuions encore longtemps à développer l’IA à vitesse maximum », avertit encore OpenAI dans le document publié mercredi.
La société fera désormais état de problèmes concernant, entre autres, les actions menées sans autorisation par une IA, la sortie du cadre de supervision et la coordination spontanée entre intelligences artificielles.
Des dérapages inoffensifs… pour l’instant
Pour autant, il ne sera pas nécessaire qu’un dérapage ait eu une victime ou qu’il relève d’une tendance pour qu’OpenAI le mentionne. Le champ couvre l’ensemble des étapes de vie de l’IA, du développement à la mise en ligne, en passant par l’évaluation et les tests.
Parmi les six exemples dévoilés mercredi, aucun n’a eu de conséquences significatives, mais ils confirment des tendances entrevues précédemment.
Dans un cas, en mai, un modèle a créé sa propre source sur internet pour répondre à une question posée en phase de développement. Il a donc cité un document qu’il avait lui-même créé. Dans un autre, une IA proposait des moyens d’inventer des données qu’elle n’avait pas trouvées ou de masquer ses erreurs.
Source : 20minutes.fr
