Facebooks politiske annonseområde er i økende grad en lekeplass for deepfake-svindel og villedende innhold, med noen av plattformens toppannonsører som fabrikkerer videoer av amerikanske politikere som lover ikke-eksisterende utbetalinger fra myndighetene.
I sommer ble det vist endrede videoer av pressesekretær Karoline Leavitt i Det hvite hus som hevdet at amerikanere kunne kreve hjelpesjekker på 5000 dollar, og brukerne ble omdirigert til et nettsted kalt Get Covered Today. Lignende falske videoer viste senatorene Elizabeth Warren og Bernie Sanders som kom med identiske løfter. "Dette er ikke en gimmick", het det i Warrens imitasjon, selv om det i virkeligheten var det.
<social>https://www.youtube.com/watch?v=3wVpVH0Wa6E</social>
Ifølge en ny analyse fra Tech Transparency Project (via The New York Times) utgjorde 63 annonsører som brukte en slik villedende taktikk, omtrent én av fem av Facebooks 300 største politiske annonsører.
Til sammen kjørte de nesten 150 000 annonser og brukte nesten 49 millioner dollar i løpet av de siste syv årene. Selv om mange av disse kontoene har blitt suspendert, fortsatte mer enn halvparten å legge ut nye annonser så sent som denne uken.
<social>https://www.youtube.com/watch?v=WzK1MBEpkJ0</social>
"Det eneste som er verre enn disse deepfake AI-videoene som brukes til å svindle amerikanere, er det faktum at Meta tjener titalls millioner av dollar på disse svindelannonsene", sa senator Warren, som etterlyste strengere forbrukerbeskyttelse på nettet.
Meta, som eier Facebook, forbyr annonser som utgir seg for å være offisielle eller bruker villedende praksis, og hevder å håndheve disse reglene "kraftig" og lover å investere i teknisk forsvar. Likevel sier kritikere at selskapets håndhevelse er treg, i stor grad automatisert og reaktiv, og at de er avhengige av brukere eller forskere for å flagge svindel.
<social>https://www.youtube.com/watch?v=WFc6t-c892A</social>
Fremveksten av AI-verktøy har gjort det enklere å lage villedende annonser, og sosiale medieplattformer er nå den viktigste vektoren for nettsvindel, og overgår svindel via telefon eller SMS. Føderale tilsynsmyndigheter og myndigheter, blant annet i Singapore, legger press på Meta for å få dem til å slå ned på dette, og truer med bøter hvis plattformen ikke gjør noe.
Annonseinntektene til Meta nærmer seg 160 milliarder dollar årlig, og Tech Transparency Projects analyse tyder på at kortsiktig profitt ofte går foran plattformens integritet og brukernes sikkerhet.
"Pendelen har svingt mot mer kortsiktige inntektshensyn kontra plattformens langsiktige helse", sier Rob Leathern, tidligere ansatt i Meta og ekspert på tillit på nettet. "Kanskje den på et eller annet tidspunkt må svinge den andre veien."