Intelligence artificielle: Musk et des experts préconisent une pause

Elon Musk et un groupe d’experts en intelligence artificielle et de cadres de l’industrie demandent une pause de six mois dans la formation de systèmes plus puissants que le GPT-4, ont-ils déclaré dans une lettre ouverte, citant les risques potentiels pour la société et l’humanité.

La lettre, publiée par l’organisation à but non lucratif Future of Life Institute et signée par plus de 1 000 personnes, dont M. Musk, Steve Wozniak, cofondateur d’Apple, et Emad Mostaque, PDG de Stability AI, appelle à une pause dans le développement de l’IA avancée jusqu’à ce que des protocoles de sécurité partagés pour ces conceptions soient élaborés, mis en œuvre et contrôlés par des experts indépendants.

« Les systèmes d’IA puissants ne devraient être développés que lorsque nous sommes certains que leurs effets seront positifs et que leurs risques seront gérables », peut-on lire dans la lettre.

La lettre a également détaillé les risques potentiels pour la société et la civilisation par des systèmes d’IA compétitifs pour les humains sous la forme de disruptifs économiques et politiques, et a appelé les développeurs à travailler avec les décideurs politiques sur la gouvernance et les autorités de régulation.
Cette lettre intervient alors qu’Europol, la police de l’Union européenne, s’est jointe lundi à un concert de préoccupations éthiques et juridiques concernant l’IA avancée telle que ChatGPT, mettant en garde contre l’utilisation abusive potentielle du système dans des tentatives d’hameçonnage, de désinformation et de cybercriminalité.

Depuis son lancement l’année dernière, le système ChatGPT d’OpenAI, soutenu par Microsoft, a incité ses rivaux à lancer des produits similaires et les entreprises à l’intégrer, ou à intégrer des technologies similaires, dans leurs applications et leurs produits.