Intelligence artificielle : Anthropic propose un projet de loi pour bloquer les modèles à haut risque

Face aux débats croissants sur la régulation du secteur, le laboratoire intelligence artificielle Anthropic a présenté un projet de loi inédit destiné à encadrer le déploiement des modèles les plus avancés. Cette proposition introduit des critères stricts pour bloquer la diffusion de technologies jugées trop dangereuses pour la sécurité publique.

Des seuils critiques pour prévenir le pire

Le texte élaboré par Anthropic cible directement les scénarios de « risque catastrophique » impliquant des technologies d’intelligence artificielle. Un modèle pourrait ainsi être stoppé net s’il présente un risque imminent de provoquer la mort de plus de 50 personnes ou d’engendrer plus d’un milliard de dollars de dégâts matériels.

Ces métriques s’inspirent directement de législations déjà débattues ou adoptées au niveau étatique, comme en Californie. Les dangers visés incluent la création d’armes biologiques, l’évasion des contrôles par les algorithmes ou encore des cyberattaques majeures menées par des systèmes autonomes.

« Ce projet de loi représente les propositions formulées dans notre cadre de travail avancé, que nous défendons auprès des législateurs depuis des mois. »

Un mécanisme de contrôle sous haute surveillance

Pour évaluer ces menaces potentielles, le texte suggère de faire appel à des évaluateurs indépendants enregistrés auprès du Département du Commerce. En cas de détection d’un danger imminent, une procédure stricte de 72 heures s’enclencherait pour saisir la justice et suspendre la sortie du modèle linguistique.

Cette initiative marque un tournant dans la posture des géants de la tech, souvent accusés d’autorégulation insuffisante. Alors que les incidents liés au piratage agentique se multiplient, l’instauration de garde-fous juridiques rigoureux devient un enjeu prioritaire pour l’avenir de l’écosystème numérique.