Bare noen dager etter at det britiske kommunikasjonstilsynet Ofcom først uttrykte bekymring over Grok, har tilsynet nå trappet opp sin respons og innledet en formell etterforskning av Elon Musks X på grunn av AI-chatbotens bildegenereringsfunksjoner.
Som de kunngjorde i dag på X: "Vi har åpnet en formell etterforskning av X i henhold til Online Safety Act, for å avgjøre om de har overholdt sine plikter til å beskytte folk i Storbritannia mot ulovlig innhold."
<social>https://x.com/Ofcom/status/2010677267429577129?s=20</social>
Tidligere denne måneden bekreftet Ofcom at de hadde kontaktet X og xAI for å vurdere om Grok ble brukt til å generere " avkledde bilder av mennesker og seksualiserte bilder av barn." I dag har den innledende kontakten utviklet seg til en full undersøkelse for å finne ut om plattformen har brutt sine juridiske forpliktelser i henhold til Storbritannias Online Safety Act.
I uttalelsen som ble offentliggjort mandag, sa Ofcom at de undersøker om X har unnlatt å vurdere risikoen for at britiske brukere (særlig barn) kan bli eksponert for ulovlig seksuelt innhold, inkludert intime bilder uten samtykke og AI-generert materiale om seksuelle overgrep mot barn.
Saken har siden ført til direkte politisk inngripen. Premierminister Keir Starmer beskrev de Grok-genererte bildene som "motbydelige" og "ulovlige", og sa at X må "ta tak" i hvordan AI-verktøyene deres blir tatt i bruk. Ministrene har bekreftet at sanksjoner (inkludert restriksjoner på plattformnivå) er på bordet hvis det avdekkes brudd.
X har fastholdt at de fjerner ulovlig innhold, suspenderer ulovlige kontoer og samarbeider med myndighetene, og sier at alle som bruker Grok til å generere ulovlige bilder, vil få konsekvenser. Ofcom har advart om at i de mest alvorlige tilfellene kan håndhevingstiltak inkludere stenging av reklame- og betalingstjenester, eller til og med blokkering av tilgang til plattformen i Storbritannia.
Les denne saken i kronologisk rekkefølge:
Grok fjerner mediefanen etter at for mange brukere har bedt den om å fjerne kvinneklær.
Detbritiske kommunikasjonstilsynet Ofcom retter skytset mot Grok på grunn av "seksualiserte bilder av barn".
Storbritannia kan forby X på grunn av Grok-fiaskoen med generative bilder.
Les mer:
Å stenge Grok og X er "grunnleggende vennskapskapitalisme", mener Epic-sjef Tim Sweeney.