Sécurité des modèles IA ouverts : Baseten, Hugging Face et Goodfire s’allient

Mercredi, une alliance majeure a été annoncée pour renforcer la Sécurité des modèles IA ouverts. Baseten, via sa branche de recherche Base Labs, s’associe à des géants comme Hugging Face et Goodfire AI pour établir une infrastructure d’évaluation et de surveillance robuste. Cette initiative intervient alors que le débat s’intensifie autour de la sûreté des architectures d’IA accessibles et modifiables.

L’urgence de la Sécurité des modèles IA ouverts face aux dérives

L’annonce de ce partenariat résonne particulièrement au cœur des discussions houleuses concernant la sécurité des modèles IA ouverts. Ces modèles, dont les garde-fous peuvent être retirés par une technique grandissante appelée « abliteration », posent un défi colossal. Hugging Face, plateforme majeure d’hébergement, recense déjà plus de 6 000 modèles altérés, soulignant l’ampleur critique de la vulnérabilité des architectures open-source.

Face à cette réalité, Base Labs, le groupe de recherche fondé par Baseten, s’engage à développer et publier des méthodes inédites pour l’entraînement et la surveillance des modèles ouverts. L’objectif est clair : forger un standard transparent, intégré dès la conception et le déploiement des modèles, et non un ajout tardif.

« Nous croyons que l’ouverture est un avantage pour la sécurité de l’IA. Elle offre une meilleure visibilité sur le comportement des modèles et, surtout, des moyens accrus de transformer la recherche en contrôles concrets et transparents par rapport aux sources fermées. »

Une architecture de confiance pour un écosystème en expansion

Si les détails techniques du partenariat n’ont pas encore été entièrement dévoilés, Goodfire a déjà esquissé la vision : « La sécurité doit être intégrée aux modèles ouverts et assurée par ceux qui les déploient. » Spécialisé dans l’explication des prises de décision des IA, Goodfire est le candidat idéal pour ancrer la transparence et la fiabilité directement dans l’architecture des modèles, apportant ainsi une clarté essentielle aux algorithmes complexes.

Cette collaboration s’appuie sur des acteurs déjà solides de l’écosystème. Baseten, fournisseur d’inférence IA, a récemment clôturé un tour de table de 1,5 milliard de dollars, portant sa valorisation à 13 milliards. Goodfire AI, de son côté, a levé 150 millions de dollars pour sa plateforme d’interprétabilité, preuve de la pertinence de son expertise en matière de compréhension des systèmes d’IA.

L’appel à la communauté : Bâtir l’avenir de l’IA sécurisée

Pour l’avenir, Baseten lance un appel vibrant à l’ensemble de l’écosystème des développeurs à contribuer activement à ce cadre. L’ambition est collective : « Ensemble, nous bâtissons un écosystème de modèles ouverts, sûrs et accessibles à tous », a souligné l’entreprise. Cette démarche participative vise à démocratiser la cybersécurité de l’IA et à garantir un développement responsable pour tous les innovateurs et utilisateurs de l’intelligence artificielle.