[La Chronique Agora] Faut-il craindre l'intelligence artificielle ? Les derniers développements dans les domaines de l’intelligence artificielle nous plongent directement dans un nouveau monde.

L’intelligence artificielle est sur toutes les lèvres ces derniers temps.

Il ne se passe pas un jour sans que paraisse un article ou un reportage parlant d’ordinateurs dotés d’une puissance de calcul considérable, ayant accès à des milliards d’ouvrages et de documents, capables d’apprendre par eux-mêmes et de traiter les informations à la vitesse de la lumière, prêts à dominer le monde.

Mi-avril, le désormais ex-présentateur de Fox News Tucker Carlson a même eu une discussion approfondie sur l’intelligence artificielle avec Elon Musk. Ce dernier ne s’est pas montré particulièrement optimiste.

Cela fait des années que j’étudie l’intelligence artificielle et son potentiel.

Récemment, j’ai eu la chance de visiter le site hébergeant le troisième superordinateur le plus rapide du monde, dans le cadre d’un projet visant à utiliser la superintelligence et l’intelligence artificielle pour des tâches de sécurité nationale.

A quel stade d’avancement se situe l’intelligence artificielle ? Est-elle proche ou loin de faire jeu égal avec l’intelligence humaine ? Quels risques pose-t-elle pour l’humanité ?

On peut encore simplement débrancher la prise

Les expérimentateurs voient désormais les machines prendre vie et attaquer les humains et la civilisation. Mais il convient de garder à l’esprit que, si les machines perdent les pédales, à l’heure actuelle, on peut encore tout simplement débrancher la prise.

Les défenseurs de l’intelligence artificielle déclarent que cela ne fonctionnera pas, car l’intelligence artificielle anticipera cette stratégie et « s’exportera » vers une autre machine. Cela donnera lieu à une éternelle fuite en avant, où la mise hors service d’un site n’empêchera pas la propagation du code et des algorithmes ailleurs et, partant, la poursuite de l’attaque.

Peut-être.

Mais cela pose de nombreux problèmes d’ordre logistique, y compris l’existence d’une quantité suffisante de machines dotées de la puissance de calcul nécessaire, le fait que les machines suppléantes seront certainement encerclées de pare-feu et de « douves » numériques, et plein d’autres problèmes de configuration et d’interopérabilité.

Il nous faut comprendre ces contraintes mais pour l’instant, nous pouvons nous contenter de débrancher la prise. De fait, il existe plusieurs propositions de garde-fous pour limiter les dégâts potentiels de l’intelligence artificielle, tout en profitant des avantages considérables qu’elle offre.