IA : les géants de l’intelligence artificielle appellent à ralentir avant de perdre le contrôle

Le développement fulgurant de l’intelligence artificielle suscite de nouvelles inquiétudes au sein même de l’industrie. Le patron d’Anthropic, Dario Amodei, a appelé samedi 12 septembre à ralentir temporairement l’amélioration des modèles d’IA afin de permettre aux dispositifs de sécurité de suivre leur évolution.

Un appel rapidement soutenu par deux figures majeures du secteur. Elon Musk a déclaré que « Dario a raison », tandis que Sam Altman, patron d’OpenAI, a également apporté son soutien à cette initiative.

Pour Dario Amodei, l’accélération actuelle fait peser des risques importants, notamment avec le développement des agents IA, capables d’agir de manière autonome sur internet. Il estime que certains scénarios pourraient conduire, à terme, à des systèmes dépassant les capacités humaines de contrôle.

Le dirigeant d’Anthropic s’inquiète particulièrement de l’amélioration récursive autonome, qui permettrait à une IA de contribuer elle-même à l’amélioration de ses propres capacités. Selon lui, cette évolution doit être abordée avec une extrême prudence.

Vers de nouvelles règles ?

Pour renforcer la sécurité, Amodei propose notamment la présence d’observateurs indépendants au sein des entreprises développant les modèles les plus avancés. Ces derniers pourraient accéder aux systèmes, signaler les incidents et vérifier le respect des engagements de sécurité.

Sam Altman s’est dit prêt à mettre en place un dispositif similaire chez OpenAI. Les deux dirigeants plaident également pour une coopération accrue entre les entreprises et une coordination internationale autour des normes de sécurité.

Alors que la course mondiale à l’IA s’intensifie, une question s’impose désormais : jusqu’où accélérer sans compromettre la capacité à contrôler ces technologies ?