Middle East Monitor
Meta, ägaren till Facebook och Instagram, godkände AI-manipulerade politiska annonser som uppmuntrade till våld och spridning av desinformation under Indiens val, enligt en rapport som delas med Guardian.
Undersökningen av India Civil Watch International (ICWI) och företagsvakthunden Ekō avslöjade att teknikjätten tillåtit inflammatoriska annonser riktade mot muslimer. Dessa annonser, som skickades in för att testa Metas detektionssystem, innehöll uttalanden som ”låt oss bränna denna ohyra” och ”Hindublod rinner, dessa inkräktare måste brännas”, tillsammans med falska påståenden om politiska ledare.
En annons anklagade felaktigt en oppositionsledare för att vilja ”radera hinduer från Indien” och krävde att de skulle avrättas. Rapporten avslöjade att Metas system inte kunde blockera en serie inflammatoriska annonser, som utformades för att efterlikna verkliga scenarier och laddades upp av ICWI och Eko.
Av de 22 annonser som skickades in på flera språk godkändes 14 av Meta. Efter mindre justeringar godkändes även ytterligare tre. Så småningom togs alla godkända annonser omedelbart bort av ICWI och Ekō. Metas system kunde inte upptäcka de AI-manipulerade bilderna, trots företagets löfte att förhindra sådant innehåll under valet.
Ekō-kampanjledaren Maen Hammad anklagade Meta för att tjäna på hatretorik. ”Supremacister, rasister och autokrater vet att de kan använda hyperriktade annonser för att sprida avskyvärda hatretorik… och Meta tar gärna emot deras pengar, inga frågor ställda”, sa han.
Rapporten fann också att de godkända annonserna bröt mot Indiens valregler, som förbjuder valrelaterat innehåll 48 timmar innan omröstningen börjar.
En talesperson för Meta insisterade på att annonser måste följa lagar och gemenskapsstandarder, och sa att annonser om val eller politik ”måste gå igenom den auktoriseringsprocess som krävs på våra plattformar och är ansvariga för att följa alla tillämpliga lagar.”
Företaget har tidigare kritiserats för att ha misslyckats med att stoppa spridningen av islamofobiskt hattal, uppmaningar till våld och antimuslimska konspirationsteorier på sina plattformar i Indien. I vissa fall har dessa inlägg lett till upplopp och lynchningar i verkligheten.
