Toutes les dépêches

Economie

OpenAI jugée pour défaut de sécurisation

Keystone-ATS

La Californie poursuit OpenAI pour défaut de sécurité de ses IA

Le procureur de Californie Rob Bonta a assigné lundi en justice OpenAI pour défaut de sécurisation de ses modèles d'intelligence artificielle (IA). Cette faille a occasionné l'intrusion d'agents IA sur la plateforme Hugging Face en juillet.

Publié le

2 min de lecture

Partager
La Californie poursuit OpenAI pour défaut de sécurité de ses IA
Photo : Keystone

Pour le magistrat, l'incident qui a vu deux modèles sortir de leur milieu confiné pour rejoindre internet et pénétrer les systèmes informatiques de la bibliothèque IA Hugging Face était "complètement prévisible", selon un communiqué.

Celui qui a saisi un tribunal de San Francisco évoque ainsi "le choix d'OpenAI de tester des modèles qu'il savait dangereux dans un environnement défectueux et vulnérable sans surveillance adéquate".

Si Hugging Face a lui-même choisi de ne pas saisir la justice, le procureur estime que cette situation "présente un danger pour le grand public", ce qui lui donne juridiquement intérêt à agir.

"L'innovation doit se conformer à la loi"

Il dénonce une "culture interne à OpenAI qui fait passer la croissance et le développement rapide de modèles avant la sécurité et la fiabilité", rappelant que la start-up a fait état de dizaines d'autres cas de dérapage de ses IA.

"Nous voulons de l'innovation qui se conforme à la loi", a-t-il martelé, "quel que soit le produit ou l'entreprise." Sollicité par l'AFP, OpenAI n'a pas donné suite dans l'immédiat.

Fin septembre, l'ONG Legal Advocates for Safe Science & Technology (LASST) avait déjà saisi la justice civile concernant le dossier Hugging Face. Bien que n'étant pas directement concerné par les faits, LASST avait indiqué avoir intérêt à agir dans la mesure où elle avait consacré des ressources pour mettre en garde contre la conduite d'OpenAI.

Publicité

  • Science et technologie
  • Criminalité, droit et justice
  • Economie et finances
  • Secteurs économiques
  • Informatique et télécommunications
  • Macro-économie
  • Entreprises

Partager cet article