Malaysia og Indonesia er de første landene som har blokkert Grok, chatboten for kunstig intelligens som er utviklet av Elon Musks selskap xAI, etter at myndighetene sa at den ble brukt til å generere seksualiserte og ikke-samtykkebaserte bilder.
Myndighetene i begge landene sa at Groks sikkerhetstiltak ikke klarte å stoppe opprettelsen og spredningen av manipulert pornografisk innhold, inkludert bilder som involverte kvinner og mindreårige. Indonesia gikk først ut i helgen, etterfulgt av Malaysia, og viste til at det er en risiko for personvernet, verdigheten og den offentlige sikkerheten når ekte bilder endres uten samtykke.
Den indonesiske kommunikasjonsministeren Meutya Hafid kalte seksuelle deepfakes uten samtykke for et alvorlig brudd på menneskerettighetene, og advarte om at misbruk av kunstig intelligens er i ferd med å overgå dagens beskyttelse. Myndighetene sa at tidlige kontroller viste at Grok lett kunne brukes til å fabrikkere eksplisitte bilder av vanlige borgere.
Malaysias kommunikasjonsmyndighet pekte på gjentatt misbruk av chatboten og sa at de allerede hadde utstedt varsler til X Corp. og xAI med krav om strengere kontroller. Tilgangen vil forbli blokkert inntil effektive sikkerhetstiltak er på plass for å forhindre ytterligere misbruk.
Tiltaket i Sørøst-Asia føyer seg inn i rekken av økende press andre steder. Storbritannia har åpnet en etterforskning av Grok og er i ferd med å forby såkalte "nudifiseringsapper", mens tilsynsmyndigheter i Europa og India også følger nøye med, noe som gjør Musks chatbot til en global testcase for hvor langt myndighetene vil gå for å kontrollere AI-generert innhold.