Amerikanske myndigheter har innkalt banktopper til Washington på grunn av økende bekymring for cybersikkerhetsrisiko knyttet til den nye AI-modellen som er utviklet av Anthropic. Møtet, som angivelig ledes av finansminister Scott Bessent, kommer kort tid etter avdukingen av selskapets nyeste system, Claude Mythos.
Blant deltakerne er Jerome Powell, sammen med ledere fra store finansinstitusjoner som Goldman Sachs, Bank of America og Citigroup. Samlingen fokuserer på de potensielle risikoene som følger med avanserte AI-verktøy som er i stand til å identifisere og utnytte sårbarheter i programvare på et nivå som kan sammenlignes med, eller overgår, menneskelige eksperter.
Anthropic advarte nylig om at modellen deres hadde avdekket tusenvis av tidligere uoppdagede svakheter i mye brukte systemer, noe som har skapt frykt for at slik teknologi kan misbrukes av hackere. En lekkasje av modellens kode tidligere denne måneden forsterket bekymringene, og selskapet erkjente at den bredere effekten på økonomien og den nasjonale sikkerheten kunne være betydelig.
Som svar på dette har Anthropic begrenset tilgangen til modellen til en begrenset gruppe selskaper, deriblant store teknologiselskaper og infrastrukturorganisasjoner. Dette er første gang selskapet har begrenset en produktlansering.
