Des leaders dans le domaine de l'Intelligence artificielle mettent en garde contre les risques existentiels comparables "aux pandémies et à la guerre nucléaire"

Une pétition lancée par 350 personnalités du secteur de l'intelligence artificielle (IA) souligne la nécessité de prendre des mesures pour limiter les risques "d'extinction de l'humanité" posés par l'IA. « Limiter les risques d’extinction [de l’humanité] posés par l’intelligence artificielle [IA] devrait être une priorité mondiale, aux côtés d’autres risques de grande ampleur comme les pandémies ou la guerre nucléaire. » dit notamment la pétition.

Cette initiative, soutenue par des dirigeants influents tels que le PDG d'OpenAI Sam Altman et le PDG de Google-DeepMind Demis Hassabis, rappelle la lettre ouverte du mois de mars qui demandait une "pause" dans les recherches avancées en IA. Alors que les discussions sur la régulation de l'IA sont en cours, certains considèrent cette pétition comme une diversion. Parmi les signataires figurent également des chercheurs renommés, tels que Geoffrey Hinton et Yoshua Bengio, qui se sont récemment inquiétés des risques existentiels que l'IA pourrait représenter pour l'humanité.