Anthropic avviser Pentagons krav om å oppheve AI-sikkerhetstiltak
Selskapet sier at det "ikke med god samvittighet" kan fjerne restriksjoner fra Claude.
AI-firmaet Anthropic har sagt at det ikke vil etterkomme et Pentagon-krav om å fjerne sikkerhetsbarrierer fra Claude-modellen, etter at forsvarsminister Pete Hegseth truet med å kansellere en kontrakt på 200 millioner dollar og merke selskapet som en "leverandørkjederisiko". Administrerende direktør Dario Amodei sa at selskapet fortsatt er villig til å støtte USAs nasjonale sikkerhet, men bare med sikkerhetstiltak på plass.
Stridens kjerne er militærets forespørsel om ubegrenset, lovlig bruk av Claude, inkludert potensiell utplassering i autonome våpen og innenlands overvåking. Anthropic har nektet å tillate slike applikasjoner, og argumenterer for at teknologien ikke er trygg eller pålitelig nok til disse rollene.
Denne konflikten setter Anthropics omdømme som en av AI-bransjens mest sikkerhetsfokuserte aktører på prøve. Hvis Anthropic mister Pentagon-kontrakten (og formelt blir utpekt som en risiko i leverandørkjeden), kan det begrense selskapets evne til å samarbeide med andre amerikanske forsvarspartnere...
