Appel Mondial Contre la Superintelligence Artificielle

Le 22 octobre 2025, une coalition de plus de 800 personnalités influentes, incluant des pionniers de l’IA tels que Geoffrey Hinton et Yoshua Bengio, a lancé un appel mondial pour une interdiction du développement de l’intelligence artificielle superintelligente (ASI).

Coordonnée par le Future of Life Institute, l’initiative exige un moratoire jusqu’à l’obtention d’un consensus scientifique sur la sécurité de l’ASI et d’un large soutien public. Cet appel met en lumière des préoccupations existentielles majeures, allant de l’obsolescence économique humaine à l’extinction potentielle, dans un contexte de course effrénée à l’ASI par des géants technologiques comme Meta, OpenAI et xAI.

Les données de sondage indiquent un fort soutien public en faveur d’une réglementation stricte, soulignant la pression croissante sur les gouvernements et l’industrie pour une gouvernance responsable de cette technologie transformatrice.

1. L’Initiative et ses Acteurs Clés

Le 22 octobre 2025, un appel mondial a été lancé pour interdire le développement de systèmes d’intelligence artificielle superintelligente (ASI). Cette initiative, coordonnée par le Future of Life Institute (FLI), une organisation à but non lucratif dédiée à la sécurité de l’IA, a rassemblé une coalition sans précédent.

• Signataires : Plus de 800 personnalités influentes ont soutenu l’appel.
• Composition de la coalition : Le groupe de signataires est notable par sa diversité et son influence, comprenant :
  • Pionniers de l’IA : Geoffrey Hinton et Yoshua Bengio.
  • Entrepreneurs de renom : Steve Wozniak et Richard Branson.
  • Figures publiques : Le Prince Harry et Meghan Markle.

Cette large coalition confère un poids significatif à la déclaration, unissant des voix respectées des domaines scientifique, technologique et public.

2. La Demande Centrale : Une Interdiction Conditionnelle

Le cœur de l’appel est une demande pour une « interdiction du développement de la superintelligence ». Il ne s’agit pas d’une interdiction absolue, mais d’un moratoire conditionnel.

• Définition de l’ASI : La superintelligence artificielle est définie comme des systèmes d’IA qui « dépassent les niveaux d’intelligence humaine dans toutes les tâches cognitives ».
• Conditions pour la reprise du développement : Le moratoire resterait en vigueur jusqu’à ce que deux conditions clés soient remplies :
  1. Un « large consensus scientifique » sur la manière de développer l’ASI « en toute sécurité et de manière contrôlable ».
  2. Une « forte adhésion du public » à la poursuite de ce développement.

3. Contexte Industriel et Risques Existentiels Soulevés

Cet appel intervient dans un contexte de compétition intense entre les principales entreprises technologiques pour atteindre l’intelligence artificielle générale (AGI) puis la superintelligence.

• Acteurs de la course à l’ASI : Des entreprises comme Meta, OpenAI et xAI sont explicitement mentionnées comme étant engagées dans cette course.
• Engagement de Meta : L’engagement de Meta est souligné par le renommage de sa division IA en « Meta Superintelligence Labs ».

Les signataires fondent leur appel sur une série de préoccupations existentielles profondes posées par un développement non maîtrisé de l’ASI. Les risques cités incluent :

• L’obsolescence économique humaine.
• La perte de liberté.
• Des menaces pour la sécurité nationale.
• L’extinction potentielle de l’humanité.

4. Le Débat Public et le Soutien à la Réglementation

L’initiative met en évidence une « division croissante » au sein de la communauté de l’IA et du public sur la meilleure façon de procéder.

• Arguments contre l’interdiction : Certains craignent que de telles mesures puissent étouffer l’innovation technologique.
• Arguments pour la régulation : D’autres insistent sur la nécessité d’une réglementation robuste face aux avancées rapides des capacités de l’IA.

Des données de sondage viennent appuyer la position des signataires, indiquant une méfiance du public envers un développement non réglementé de l’IA avancée.

Sondage National Américain (mené par le FLI)	Pourcentage de soutien
Souhait d’une réglementation stricte de l’IA avancée	Environ 75% (trois quarts)
Opposition à la création d’une IA surhumaine jusqu’à preuve de sa sécurité	60% (six sur dix)

5. Conclusion et Implications

Cet appel mondial constitue un moment charnière dans le débat sur l’avenir de l’intelligence artificielle. Il met en lumière les enjeux éthiques et sociétaux profonds soulevés par la quête de la superintelligence. En formalisant les craintes de figures respectées et en les associant à un sentiment public mesurable, cette initiative exerce une pression croissante sur les gouvernements et les entreprises technologiques pour qu’ils abordent ces questions de manière transparente et responsable. Le débat ne porte plus seulement sur la faisabilité technique, mais sur la sagesse et la sécurité d’une telle entreprise pour l’humanité.