Economie
OpenAI jugée pour défaut de sécurisation
Keystone-ATS
La Californie poursuit OpenAI pour défaut de sécurité de ses IA
Le procureur de Californie Rob Bonta a assigné lundi en justice OpenAI pour défaut de sécurisation de ses modèles d'intelligence artificielle (IA). Cette faille a occasionné l'intrusion d'agents IA sur la plateforme Hugging Face en juillet.
Publié le
2 min de lecture

Pour le magistrat, l'incident qui a vu deux modèles sortir de leur milieu confiné pour rejoindre internet et pénétrer les systèmes informatiques de la bibliothèque IA Hugging Face était "complètement prévisible", selon un communiqué.
Celui qui a saisi un tribunal de San Francisco évoque ainsi "le choix d'OpenAI de tester des modèles qu'il savait dangereux dans un environnement défectueux et vulnérable sans surveillance adéquate".
Si Hugging Face a lui-même choisi de ne pas saisir la justice, le procureur estime que cette situation "présente un danger pour le grand public", ce qui lui donne juridiquement intérêt à agir.
"L'innovation doit se conformer à la loi"
Il dénonce une "culture interne à OpenAI qui fait passer la croissance et le développement rapide de modèles avant la sécurité et la fiabilité", rappelant que la start-up a fait état de dizaines d'autres cas de dérapage de ses IA.
"Nous voulons de l'innovation qui se conforme à la loi", a-t-il martelé, "quel que soit le produit ou l'entreprise." Sollicité par l'AFP, OpenAI n'a pas donné suite dans l'immédiat.
Fin septembre, l'ONG Legal Advocates for Safe Science & Technology (LASST) avait déjà saisi la justice civile concernant le dossier Hugging Face. Bien que n'étant pas directement concerné par les faits, LASST avait indiqué avoir intérêt à agir dans la mesure où elle avait consacré des ressources pour mettre en garde contre la conduite d'OpenAI.





