March 29, 2023
"Suspendre immédiatement, pendant au moins six mois, la formation de systèmes d'IA plus puissants que le GPT-4"
Dans une lettre ouverte, Elon Musk, Steve Wozniak et un grand nombre d'autres leaders de la technologie et d'experts en intelligence artificielle exhortent les laboratoires d'IA à suspendre le développement de nouveaux systèmes d'IA puissants, en invoquant les risques potentiels pour la société.
La lettre demande aux développeurs d'IA de "suspendre immédiatement, pendant au moins six mois, la formation de systèmes d'IA plus puissants que le GPT-4". Elle a été publiée par le Future of Life Institute et signée par plus de 1 000 personnes, dont Elon Musk, qui estime que des protocoles de sécurité doivent être élaborés par des superviseurs indépendants pour guider l'avenir des systèmes d'IA. GPT-4 est le dernier modèle d'apprentissage profond d'OpenAI, qui "présente des performances de niveau humain sur divers benchmarks professionnels et académiques", selon le laboratoire.
"Les systèmes d'IA puissants ne devraient être développés que lorsque nous sommes certains que leurs effets seront positifs et que leurs risques seront gérables", indique la lettre.
La lettre avertit qu'à ce stade, personne "ne peut comprendre, prédire ou contrôler de manière fiable" les nouveaux outils puissants développés dans les laboratoires d'IA. Les experts en technologie soussignés évoquent les risques de propagande et de mensonges diffusés par le biais d'articles générés par l'IA qui semblent réels, et même la possibilité que les programmes d'IA puissent surpasser les travailleurs et rendre des emplois obsolètes.
[...]