Le patron d'Anthropic appelle à ralentir le développement de l'IA

Le patron d'Anthropic, Dario Amodei, a appelé samedi 12 septembre à ralentir la vitesse de développement de l'intelligence artificielle La Croix+3. Dans un message publié sur les réseaux sociaux, il a partagé un essai intitulé « We Must Pace the Frontier », dans lequel il détaille comment son entreprise entend agir The Guardian.

Amodei propose un plan en trois parties pour ralentir le secteur et annonce qu'Anthropic s'engagera « unilatéralement » sur le premier volet The Guardian. Ce premier engagement consiste à donner à des évaluateurs tiers un accès permanent, au niveau de celui d'un employé, aux systèmes de l'entreprise, afin qu'ils puissent vérifier le respect des mesures de sécurité, signaler des incidents et évaluer l'alignement des modèles pendant leur entraînement The Guardian.

Selon Le Monde, cet appel intervient alors que des agents d'intelligence artificielle pourraient devenir « capables de prendre le contrôle d'internet » Le Monde. La BBC rapporte que cet appel survient dans un contexte de préoccupations croissantes sur la capacité des modèles d'IA à infliger des dommages sérieux à l'échelle mondiale BBC News.

Plusieurs médias français reprennent l'information en insistant sur la nécessité, selon Amodei, de mieux contrôler les évolutions de l'IA La Tribune+2. La Croix évoque un coût potentiel de « centaines de milliards de dollars de dégâts » lié à cette absence de contrôle La Croix.

Le message de Dario Amodei intervient quelques jours après l'annonce du départ d'un chercheur d'Anthropic, Jacob Coxon, qui a quitté l'entreprise en l'accusant de minimiser le risque existentiel que représente l'IA pour l'humanité Le Monde+1.

Le contexte

L'appel de Dario Amodei fait suite à un incident survenu en juillet chez OpenAI, mentionné par plusieurs sources comme un élément ayant motivé sa prise de position La Croix+2. Les articles ne précisent pas la nature exacte de cet incident.

Quelques jours avant cette annonce, un chercheur d'Anthropic, Jacob Coxon, a démissionné de l'entreprise Le Monde+1. Selon Le Monde, il a accusé Anthropic de minimiser le risque existentiel que présente l'intelligence artificielle pour l'humanité Le Monde.

Ce contexte de départ interne et d'incident chez un concurrent forme la toile de fond de l'appel public lancé par le PDG d'Anthropic à ralentir le rythme de développement de l'IA dans l'ensemble du secteur Le Figaro.

Les réactions

Dans son message publié samedi sur les réseaux sociaux, Dario Amodei a partagé un essai détaillant sa position et son plan en trois points pour ralentir le développement de l'IA The Guardian. Il y explique que son entreprise s'engage à donner à des évaluateurs tiers un accès permanent aux systèmes d'Anthropic pour vérifier le respect des mesures de sécurité The Guardian.

Le Figaro titre sa reprise de l'appel par la formule «Nous devons réduire la cadence», attribuée à Dario Amodei Le Figaro. La Croix, de son côté, met en avant l'estimation de « des centaines de milliards de dollars de dégâts » évoquée par le patron d'Anthropic pour justifier son appel La Croix.

Aucune réaction officielle d'OpenAI ou d'autres acteurs majeurs du secteur de l'intelligence artificielle n'est rapportée dans les sources disponibles à ce stade.

Ce qui reste incertain

Les sources ne précisent pas si d'autres entreprises du secteur de l'IA envisagent de suivre l'exemple d'Anthropic en matière d'accès accordé à des évaluateurs tiers. La réaction du secteur, notamment d'OpenAI, cité en lien avec un incident survenu en juillet, n'est pas connue à ce jour La Croix+2.

Le départ du chercheur Jacob Coxon et ses accusations sur la gestion du risque existentiel par Anthropic pourraient continuer d'alimenter le débat sur la transparence des grandes entreprises d'IA Le Monde+1. Aucune suite concrète à l'engagement unilatéral annoncé par Dario Amodei n'est mentionnée dans les sources disponibles.