Craintes sur l’IA : le Roi Charles III va réunir les géants du secteur en Écosse

Des représentants des grandes entreprises d’intelligence artificielle, dont Google DeepMind ou OpenAI, doivent se réunir prochainement en Ecosse pour un sommet convoqué par le roi Charles III, a appris lundi l’AFP de source proche de l’événement, alors que les mises en garde se multiplient sur les risques liés à cette technologie.

Ce sommet se tiendra au domaine de Dumfries House, qui abrite le siège de la King’s Foundation dans la campagne écossaise, et vise à explorer comment l’IA peut bénéficier à la société, a précisé cette source.

D’autres sources proches du sommet ont indiqué que Google DeepMind sera représenté par son président Demis Hassabis et OpenAI par sa directrice financière Sarah Friar. Des représentants de Nvidia et Anthropic sont également attendus.

L’événement est supervisé par la Ditchley Foundation, une organisation caritative britannique, qui, selon le Sunday Times, a rédigé un projet de charte incluant des « principes partagés » pour que l’IA « respecte la dignité humaine et contribue à l’épanouissement des personnes et de la planète ».

Les inquiétudes vont croissant autour des conséquences de l’essor rapide de l’IA sur l’avenir de l’humanité.

Le patron d’Anthropic, Dario Amodei, a plaidé samedi en faveur d’une décélération afin de mieux appréhender les risques découlant des nouvelles capacités de cette technologie. Il a été soutenu publiquement par son homologue d’OpenAI, Sam Altman, ainsi que par Elon Musk.

Dario Amodei a évoqué une IA « capable de prendre le contrôle de l’intégralité d’internet » d’ici six à douze mois. « Nous croyons vraiment, sincèrement, que l’IA pourrait tuer tous les humains », a écrit mardi sur X Evan Hubinger, un responsable de la sécurité chez Anthropic, en réaction à l’alerte lancée le même jour par Jacob Coxon, qui a démissionné d’Anthropic après avoir jugé l’entreprise, comme OpenAI, trop laxiste sur le sujet.