L’IA : Une Menace Existante ou un Potentiel Salut pour l’Humanité ?

L’alerte de Geoffrey Hinton sur les dangers de l’IA

Geoffrey Hinton, surnommé le « parrain de l’IA » et récipiendaire du prix Nobel de physique 2024, a tiré la sonnette d’alarme sur les risques existentiels liés à l’intelligence artificielle (IA). Selon ses estimations récentes, l’IA aurait une probabilité de 10 à 20 % de détruire l’humanité dans les trois prochaines décennies. Cette mise en garde, partagée lors de son intervention dans l’émission Today de BBC Radio 4, est un avertissement direct sur la vitesse à laquelle cette technologie évolue.

Une menace croissante

Hinton avait précédemment estimé ce risque à 10 %, mais il constate aujourd’hui une progression alarmante. « Nous n’avons jamais eu à gérer des entités plus intelligentes que nous », prévient-il. Selon lui, l’histoire offre très peu d’exemples où une entité moins intelligente parvient à contrôler une entité plus intelligente. « Il y a la relation entre une mère et son bébé, mais c’est une exception », ajoute-t-il.

L’humanité face à une évolution fulgurante de l’IA

Pour illustrer la dynamique actuelle, Geoffrey Hinton compare l’humanité à des enfants de trois ans confrontés à une entité infiniment plus avancée. « Je ne pensais pas que nous atteindrions ce niveau technologique aussi rapidement. Je prévoyais ces avancées dans un futur lointain », explique-t-il.

En quittant Google en 2023, Hinton a choisi de s’exprimer librement sur les risques inhérents à l’IA. « La majorité des experts s’accorde à dire que, dans les 20 prochaines années, nous pourrions créer des IA plus intelligentes que les humains. Cette perspective est terrifiante », affirme-t-il.

Un développement trop rapide pour être contrôlé ?

L’évolution rapide de l’IA dépasse toutes les attentes. Cette accélération pose des problèmes complexes en termes de sécurité et de régulation. Hinton s’inquiète notamment de la domination des grandes entreprises technologiques, motivées par la recherche de profits plutôt que par la sécurité globale.

La nécessité d’une régulation mondiale

Hinton appelle à une intervention urgente des gouvernements mondiaux pour réguler l’IA. « Laisser le marché décider seul n’assurera pas un développement sûr. Seule une régulation gouvernementale stricte peut obliger les grandes entreprises à investir davantage dans la sécurité de leurs systèmes », insiste-t-il.

Il met en garde contre une confiance aveugle dans « la main invisible du marché » et dénonce le manque de garanties pour que le développement rapide de l’IA ne tourne pas au désavantage de l’humanité.

Une opposition interne au sein des experts de l’IA

Malgré les préoccupations soulevées par Hinton, tous les experts ne partagent pas son pessimisme. Yann LeCun, un autre « parrain de l’IA » et scientifique en chef de l’IA chez Meta, minimise ces craintes. Selon lui, l’IA pourrait au contraire jouer un rôle crucial dans la préservation de l’humanité face à des menaces globales comme le changement climatique.

Le débat reste ouvert entre ces figures emblématiques de l’IA. Hinton, LeCun et d’autres experts ont tous été récompensés par le prix Turing, souvent considéré comme le « Nobel de l’informatique », en reconnaissance de leurs contributions significatives au domaine.

Quels sont les enjeux pour l’avenir ?

Scénarios possibles

1. Un développement bénéfique : Si l’IA est bien contrôlée, elle pourrait révolutionner des domaines tels que la santé, l’énergie et l’éducation, apportant des solutions à des problèmes mondiaux.
2. Un risque existentiel : En l’absence de régulations appropriées, l’IA pourrait devenir une menace, non seulement pour les emplois, mais aussi pour la survie même de l’humanité.
3. Une opportunité manquée : L’incapacité à trouver un consensus entre les gouvernements et les entreprises pourrait ralentir les avancées technologiques sans résoudre les problèmes fondamentaux.

Le rôle des gouvernements et des citoyens

La question n’est plus de savoir si l’IA continuera à progresser, mais comment nous choisirons de la gérer. Les citoyens peuvent exiger une transparence accrue et soutenir des initiatives favorisant une utilisation éthique et responsable de cette technologie.