Powell, Bessent mettent en garde les banques contre les risques de sécurité liés à Mythos AI d'Anthropic : Bloomberg

Le secrétaire au Trésor américain Scott Bessent et le président de la Réserve fédérale Jerome Powell auraient convoqué une réunion avec les PDG des banques de Wall Street plus tôt cette semaine pour les avertir des risques de cybersécurité liés à un nouveau modèle d'intelligence artificielle d'Anthropic.

Selon un rapport de Bloomberg, la réunion comprenait des dirigeants de Citigroup, Bank of America, Wells Fargo, Morgan Stanley et Goldman Sachs. Les responsables ont discuté du nouveau modèle d'IA Mythos d'Anthropic, qui a récemment suscité de vives inquiétudes en raison de ses capacités apparemment avancées en matière de cybersécurité.

Les responsables ont convoqué la réunion pour s'assurer que les banques comprennent les risques posés par des systèmes capables d'identifier et d'exploiter des vulnérabilités logicielles dans les systèmes d'exploitation et les navigateurs web, et pour encourager les institutions à renforcer leurs défenses contre d'éventuelles cyberattaques assistées par l'IA ciblant les infrastructures financières.

Les chercheurs en sécurité ont averti que les outils capables de découvrir automatiquement des vulnérabilités pourraient accélérer à la fois le travail de sécurité défensive et le piratage malveillant en cas de mauvaise utilisation.

Le modèle Mythos d'Anthropic a fait surface en ligne pour la première fois en mars après la fuite en ligne de documents préliminaires sur le système, révélant ce que l'entreprise a décrit comme son modèle d'IA le plus performant à ce jour. Lors des tests, le système aurait trouvé des milliers de vulnérabilités logicielles auparavant inconnues, y compris des failles zero-day dans les principaux systèmes d'exploitation et navigateurs web.

Les chercheurs d'Anthropic ont déclaré dans un rapport plus tôt cette semaine que les capacités de découverte de vulnérabilités de Mythos Preview n'ont pas été intentionnellement entraînées, mais ont plutôt émergé d'améliorations plus larges du codage, du raisonnement et de l'autonomie du modèle.

« Les mêmes améliorations qui rendent le modèle sensiblement plus efficace pour corriger les vulnérabilités le rendent également sensiblement plus efficace pour les exploiter », a écrit l'entreprise.

En raison de ces capacités, Anthropic a restreint l'accès à un petit groupe d'organisations de cybersécurité.

« Compte tenu de la puissance de ses capacités, nous sommes prudents quant à la manière dont nous le publions », a déclaré Anthropic dans un communiqué. « Comme c'est la pratique courante dans l'industrie, nous travaillons avec un petit groupe de clients en accès anticipé pour tester le modèle. Nous considérons ce modèle comme un changement radical et le plus performant que nous ayons construit à ce jour. »

Pour faire face à ce risque, Anthropic teste Mythos dans le cadre du Project Glasswing, une collaboration avec de grandes entreprises technologiques et de cybersécurité qui utilise le modèle pour identifier et corriger les vulnérabilités dans les logiciels critiques avant que les attaquants ne puissent les exploiter.

« Le Project Glasswing est un point de départ. Aucune organisation ne peut résoudre seule ces problèmes de cybersécurité », a déclaré l'entreprise dans un communiqué. « Les développeurs d'IA de pointe, les autres éditeurs de logiciels, les chercheurs en sécurité, les mainteneurs open-source et les gouvernements du monde entier ont tous des rôles essentiels à jouer. »

Anthropic n'a pas immédiatement répondu à la demande de commentaire de Decrypt.