Ofcom trapper opp etterforskningen av Grok: Det britiske reguleringsorganet har innledet en formell etterforskning av X
De går fra innledende kontakt til en full etterforskning av AI-genererte seksualiserte bilder.
Bare noen dager etter at det britiske kommunikasjonstilsynet Ofcom først uttrykte bekymring over Grok, har tilsynet nå trappet opp sin respons og innledet en formell etterforskning av Elon Musks X på grunn av AI-chatbotens bildegenereringsfunksjoner.
Som de kunngjorde i dag på X: "Vi har åpnet en formell etterforskning av X i henhold til Online Safety Act, for å avgjøre om de har overholdt sine plikter til å beskytte folk i Storbritannia mot ulovlig innhold."
Tidligere denne måneden bekreftet Ofcom at de hadde kontaktet X og xAI for å vurdere om Grok ble brukt til å generere " avkledde bilder av mennesker og seksualiserte bilder av barn." I dag har den innledende kontakten utviklet seg til en full undersøkelse for å finne ut om plattformen har brutt sine juridiske forpliktelser i henhold til Storbritannias Online Safety Act.
I uttalelsen som ble offentliggjort mandag, sa Ofcom at de undersøker om X har unnlatt å vurdere risikoen for at britiske brukere (særlig barn) kan bli eksponert for ulovlig seksuelt innhold, inkludert intime bilder uten samtykke og AI-generert materiale om seksuelle overgrep mot barn.
Saken har siden ført til direkte politisk inngripen. Premierminister Keir Starmer beskrev de Grok-genererte bildene som "motbydelige" og "ulovlige", og sa at X må "ta tak" i hvordan AI-verktøyene deres blir tatt i bruk. Ministrene har bekreftet at sanksjoner (inkludert restriksjoner på plattformnivå) er på bordet hvis det avdekkes brudd.
X har fastholdt at de fjerner ulovlig innhold, suspenderer ulovlige kontoer og samarbeider med myndighetene, og sier at alle som bruker Grok til å generere ulovlige bilder, vil få konsekvenser. Ofcom har advart om at i de mest alvorlige tilfellene kan håndhevingstiltak inkludere stenging av reklame- og betalingstjenester, eller til og med blokkering av tilgang til plattformen i Storbritannia.
Les denne saken i kronologisk rekkefølge:
- Grok fjerner mediefanen etter at for mange brukere har bedt den om å fjerne kvinneklær.
- Detbritiske kommunikasjonstilsynet Ofcom retter skytset mot Grok på grunn av "seksualiserte bilder av barn".
- Storbritannia kan forby X på grunn av Grok-fiaskoen med generative bilder.