ParUn HajdariavecPA
Publié le •Mis à jour
Un modèle d’intelligence artificielle développé par Anthropic a identifié des vulnérabilités dans les systèmes informatiques hautement sensibles du gouvernement américain lors d’un exercice de test, a déclaré un responsable américain à l’Associated Press.
PUBLICITÉ
PUBLICITÉ
Le responsable, qui s’est exprimé sous couvert d’anonymat, a déclaré qu’Anthropic s’était associé aux agences de renseignement américaines pour effectuer les tests en utilisant le modèle Mythos de l’entreprise.
Il a identifié certaines vulnérabilités en quelques heures, même si cela ne signifie pas que le modèle pourrait les exploiter dans ce délai, a déclaré le responsable.
Les tests ont été réalisés dans le cadre d’une initiative anthropique appelée Project Glasswing, qui a rassemblé des entreprises technologiques dans le but de protéger les logiciels critiques des conséquences « graves » que Mythos pourrait avoir sur la sécurité publique, la sécurité nationale et l’économie.
Le sénateur démocrate Mark Warner de Virginie a brièvement mentionné ces preuves lors d’une audience le 11 juin devant la commission sénatoriale des banques, du logement et des affaires urbaines.
“Cet outil a pénétré dans presque tous nos systèmes classifiés, non pas en quelques semaines mais en quelques heures”, a-t-il déclaré, attribuant l’information au chef de la National Security Agency (NSA) et du Cyber Command américain, le général Joshua Rudd.
Des tensions croissantes
Malgré la coopération entre Anthropic et les agences américaines, les tensions se sont accrues entre l’entreprise californienne et l’administration Trump.
Anthropic a exprimé ses inquiétudes quant à la manière dont l’armée américaine utiliserait son IA, tandis que l’administration a pris des mesures pour restreindre l’utilisation de certains de ses modèles.
Plus tôt ce mois-ci, l’administration a publié une directive obligeant Anthropic à empêcher les étrangers d’utiliser ses derniers modèles, connus sous le nom de Fable 5 et Mythos 5.
Anthropic a largement publié Fable ce mois-ci, une version limitée de Mythos plus avancé, auquel la société a strictement restreint l’accès en raison de problèmes de cybersécurité.
La directive est intervenue 10 jours après que le président Donald Trump a signé un décret établissant un cadre permettant au gouvernement fédéral d’examiner les risques pour la sécurité nationale posés par les systèmes d’intelligence artificielle les plus avancés jusqu’à un mois avant leur publication.
La participation des développeurs d’IA serait volontaire, selon l’ordonnance.
Anthropic a déclaré avoir désactivé les modèles afin que tous les clients puissent se conformer à la directive, mais a ajouté qu’elle ne pensait pas que les actions du gouvernement étaient justifiées par le problème de sécurité qu’il avait signalé.
Rejet de l’industrie
Plus de 100 experts en cybersécurité et dirigeants d’entreprises telles qu’Adobe et Nvidia ont écrit au gouvernement pour l’exhorter à lever la directive, avertissant que cette décision pourrait profiter davantage aux adversaires américains que leur nuire.
Dans leur lettre, les signataires ont déclaré que les modèles Mythos d’Anthropic sont “assez bons” pour trouver les failles logicielles et exploiter les vulnérabilités, mais “ils ne sont pas exceptionnellement bons dans ces tâches”.
Beaucoup ont déclaré qu’ils utilisaient régulièrement d’autres modèles de base et open source pour les audits de sécurité et la formation, et ont averti qu’il était dangereux d’éliminer les meilleures capacités de cyberdéfense “sans raison valable” à une époque où les adversaires américains progressent rapidement.
