Middle East Monitor

 

I decennier har människor levt med utsikterna till en framtid där krig skulle utkämpas med så kallade mördarrobotar som drivs av teknik som alltid verkade överjordisk.

Det är nu en skrämmande verklighet, med tanke på Israels användning av artificiell intelligens i dess pågående dödliga attack mot Gazaremsan, dokumenterad i rapporter och undersökningar av olika media, ingen mindre än israeliska publikationer +972 Magazine och det hebreiska Local Call.

De avslöjade användningen av AI-program som ”The Gospel”, ”Lavender” och ”Where’s Daddy?”, som alla användes för att identifiera tiotusentals Gazabor som mål, spåra och slå människor specifikt i deras hem, och i huvudsak driva en ”massmordsfabrik” med minimal mänsklig tillsyn.

En kritisk detalj i deras rapport i början av april om ”Lavendel” och ”Var är pappa?” relaterat till hur programvaran påstås samla in data från WhatsApp – kommunikationsstjärnan som ägs av teknikjätten Meta.

Just den informationen väckte intresset hos Paul Biggar, en mjukvaruingenjör, innovatör och grundare av Tech For Palestine, en koalition av teknikexperter som arbetar för att gynna palestinierna.

Han lade ut en blogg som väckte oro över Metas eventuella inblandning i Israels förödande AI-drivna krig mot Gaza.

Biggar talade med Anadolu och sa att han ser ”lavendel” som ett av de verktyg som Israel använder som ett ”sätt att automatisera folkmordet (i Gaza)”.

”Det tillåter dem att rikta in sig på individer och skapa ett lager av rimlig förnekelse, där de säger att dessa individer identifierades av AI som giltiga mål, vilket inte är sant”, sa han.

Han sa att det inte finns någon ”verklig anledning att tro att något av dessa mål är giltiga” och den israeliska militären gör ”ingen due diligence när det gäller att identifiera eller undersöka målen som föreslås av AI-systemet”.

 

WhatsApp och Metas påstådda inblandning

Biggar sa att hans blogg handlade ”specifikt om Metas engagemang” eftersom rapporteringen om ”Lavendel” antydde att ett av sätten som systemet identifierar mål är ”genom vilka WhatsApp-grupper människor är en del av”.

Det han syftade på var en del i rapporten +972 och Local Call om ”en kort guide till att bygga en ”målmaskin”, som i beskrivningen liknar ”Lavendel”, baserad på AI och maskininlärningsalgoritmer.”

Den guiden, enligt rapporten, fanns i en bok – med titeln ”The Human-Machine Team: How to Create Synergy Between Human and Artificial Intelligence That Will Revolutionize Our World” – utgiven under ett pseudonym, brigadgeneral YS, på engelska i 2021.

Rapporten sa att +972 och Local Call-utredningen hade bekräftat att författaren ”är den nuvarande befälhavaren för den israeliska eliten underrättelseenheten 8200.”

I den guiden för att skapa ett AI-system ”var flera exempel på de ”hundratals och tusentals” funktioner som kan öka en individs betyg (sannolikheten att identifieras som ett mål), som att vara i en WhatsApp-grupp med en känd militant, byter mobiltelefon med några månaders mellanrum och byter adresser ofta.”

Biggar kallade det ett ”löjligt” förslag.

”Vi vet från andra källor att Hamas inte koordinerar attacker mot någon form av mobiltelefonbaserade saker, WhatsApp eller något liknande”, sa han.

”Så, vad de egentligen föreslår är vem känner folk? Vem är de vänner med? … Medlemskapet i en WhatsApp-grupp är inte på något sätt inkriminerande och det är löjligt att föreslå det.”

 

Ger Meta information till Israel?

För Biggar är det ett ”faktum” att Israel får WhatsApp-data, men det är fortfarande oklart om det tillhandahålls direkt av Meta.

”Kanske har IDF (Israel Defense Forces) andra sätt att få tillgång till denna data… Kanske får de det inte från ytterdörren genom Meta,” sa han.

En möjlighet är att de ”får det genom de många Unit 8200-medlemmarna” som nu arbetar på Meta, sa han, med hänvisning till samma israeliska underrättelseenhet som nämns i +972 och Local Call-rapporten om ”Lavendel”.

”Många människor på Meta brukade arbeta på IDF, brukade vara i enhet 8200, inklusive deras chef för informationssäkerhet,” hävdade Biggar.

”Det finns också Sheryl Sandberg, deras tidigare COO och en av de stora personerna som byggde Facebook för att vara vad det är idag och som sitter kvar i deras styrelse. ”Hon har också varit på en propagandaturné för Israel”, tillade han.

För Metas grundare, Mark Zuckerberg, påpekade Biggar att han har ”givit donationer till (den israeliska NGO) Zaka, där det finns några av de människor som skapade den falska propagandan som användes för att rättfärdiga folkmordet mot israeler och västvärlden”.

Så, Israel kan få data direkt från Meta genom informationsförfrågningar, genom bakdörren eller ett tredje hemligt sätt, sa han.

I vilket som helst av dessa scenarier blir huvudproblemet att ”Meta presenterar WhatsApp som denna säkra sak från början till slut när de, det verkar, borde veta att det inte är sant”, sa han.

 

”Sårbar för övergrepp och påträngande extern övervakning”

Bahrains bloggare och aktivist, Esra’a Al Shafei, anser att rapporterna om WhatsApp-data som eventuellt används av Israel bör ”definitivt tas på största allvar”.

”Om stämningsansökan i rapporten är sann visar den att genom att använda WhatsApp riskerar människor sina liv”, sa Al Shafei, styrelseledamot i Tor Project, en grupp för digital integritet och frihet, till Anadolu.

Hon pekade på metadata – ”data kring själva data” – som ett område av sårbarhet, och sa att integritetsförespråkare starkt motsätter sig dess insamling och lagring ”särskilt för appar som WhatsApp som felaktigt annonserar sin produkt som helt privat.”

Även om WhatsApp krypterar innehållet i meddelanden, samlar den fortfarande in olika information, inklusive ”appaktivitet … plats, finansiell information (om användaren någonsin har kopplat det numret till en betalningsportal som hanteras av eller tillgänglig för Meta), kontakter, grupper,” han förklarade.

”Även om WhatsApp är krypterad från ände till ände och påstår sig inte ha några bakdörrar till någon regering, är metadata ensam tillräcklig för att avslöja detaljerad information om användare, särskilt om användarens telefonnummer är kopplat till andra metaprodukter och relaterade aktiviteter ,” Hon sa.

”Detta är anledningen till att IDF troligtvis skulle kunna använda metadata för att spåra och lokalisera WhatsApp-användare,” tillade hon.

Al Shafei betonade dock att allt detta inte betyder att Meta eller WhatsApp nödvändigtvis samarbetar med Israel, utan ”genom själva handlingen att samla in denna information gör de sig själva sårbara för missbruk och påträngande extern övervakning.”

 

Mer hacking än handoff

Forskaren och journalisten, Sophia Goodfriend, tror att fallet med Israel som använder WhatsApp-data har mer att göra med hacking än medvetet samarbete.

”Med WhatsApp, i synnerhet, är det ett fall där militären helt enkelt hackar sig in i telefoner och går igenom WhatsApp-data,” sa hon till Anadolu.

”WhatsApp tillhandahåller inte nödvändigtvis all den informationen till den israeliska militären”, säger Goodfriend, som har skrivit för olika medier, inklusive +972 Magazine, om krigföring, automatisering och digitala rättigheter.

Det här handlar mindre om ”samarbete och mer om att den israeliska militären, som många militärer runt om i världen, (att) kunna hacka sig in i dessa teknologier”, sa hon.

Dessutom, förklarade hon, finns det många tillfällen där militärer använder teknik på sätt som strider mot företagens egen policy.

”Det var ett fall i mars, en rapport från New York Times, om att den (israeliska) militären använde en Googles bilddatabas för att bygga upp biometrisk övervakning av Gazabor som flydde från norr till söder under de första månaderna av krig, sa hon.

”Det är ett fall där den israeliska militären använder en databas med öppen källkod mot sina egna bestämmelser.”

I sådana fall betonade hon att teknikföretag ”som upplever att deras teknik används för att bygga upp militära övervakningssystem eller informera militära operationer har ett ansvar att se till att deras egen teknik inte går direkt emot deras användningspolicy.”

Medan stora företag som direkt samarbetar med militärer för sådana operationer ”inte händer lika mycket”, så finns det andra typer av samarbete med privata civila teknikföretag, sa hon.

”Du har massor av exempel på nystartade företag som har kontrakterats för att bygga upp olika övervakningstekniker som kan informera dödliga målsystem”, sa hon.

”Det är en rörig typ av tekniskt ekosystem och många civila företag är inblandade bara på grund av kontrakt och underleverantörer, och till och med bara att ha sin teknik där ute och att den israeliska militären kan använda den.”

När det gäller vad Israel använder för att mata de AI-system som de har använt i Gaza, pekade hon på dess ”ganska avancerade nätverk av övervakningstekniker … över Västbanken, Gaza, såväl som i själva Israel.”

”Detta inkluderar biometrisk övervakning, cyberhackningsteknik, drönarspaning, GPS-spårning och övervakning av sociala medier också,” sa hon.

”Alla dessa olika källor matas in i system som de vi ser utrullade i Gaza, inklusive ”Lavendel” och ”Var är pappa?”, tillade hon.

När det gäller de faktiska AI-systemen och deras roll i förstörelsen av Gaza, sa Goodfriend att det var ytterligare ett exempel på ”hur militärer kan använda dessa system för att utföra sina egna agendor.”

”Vi såg Israels militär verkligen betona förstörelse snarare än noggrannhet … (och) vi såg dessa system verkligen stödja denna militära kampanj,” sa hon.

Men hon betonade att dessa system är ”ganska rudimentära” och egentligen ”inte är autonoma vapensystem som agerar utan mänsklig tillsyn.”

”Det var faktiskt beslutsfattarna som satte skotten. ”Om all rapportering bekräftas är det verkligen beslutsfattarna som… styr militären att bomba alla dessa mål och att förlita sig på AI för att producera en oändlig ström av mål som ska bombas”, sa hon.

 

Svar krävs

I ett uttalande till Anadolu sa en WhatsApp-talesman att företaget inte har ”ingen information om att dessa rapporter är korrekta.”

”WhatsApp har inga bakdörrar och vi tillhandahåller inte massinformation till någon regering. I över ett decennium har Meta tillhandahållit konsekventa transparensrapporter och de inkluderar de begränsade omständigheterna när WhatsApp-information har efterfrågats”, löd uttalandet.

Sådana förfrågningar granskas och utvärderas ”baserat på tillämplig lag och i överensstämmelse med internationellt erkända standarder, inklusive mänskliga rättigheter”, heter det.

”Vår nästa rapport kommer nästa månad, i tid. Vi är överens om att det finns mycket mer med integritet än end-to-end-kryptering, vilket är anledningen till att vi arbetar hårt för att skydda den begränsade informationen som är tillgänglig för oss och vi fortsätter att bygga fler funktioner för att skydda människors information, säger uttalandet.

För Biggar, Tech For Palestine-grundaren, räcker det inte, och han vill ha svar från Meta.

”Meta borde ge ut en offentlig rapport som anger exakt vad de vet. De borde göra en utredning utöver vad de vet. De måste göra en undersökning både internt och externt … för att upptäcka, hade IDF tillgång till denna information … (eller) vem fick de den från internt?” han sa.

”Om det var ett hack som inte avslöjades, visste Meta om detta hack eller brister i deras kryptering? ”De har marknadsfört det som end-to-end … (så) de var medvetna om att det inte var från början till slut för människor i Palestina?”

Al Shafei instämde och sa att det ”ansvariga för Meta att göra är att helt undersöka … utredningen i rapporterna om ”Lavendel” angående hur de använder WhatsApps metadata för att spåra, skada eller döda dess användare i hela Palestina.”

”Att bara hävda att de är befriade från ansvar eftersom de inte aktivt spelar en roll i att tillhandahålla en bakdörr är otillräckligt. WhatsApp används av miljarder människor och dessa användare har rätt att veta vilka farorna som är med att använda appen, eller vad WhatsApp och Meta kommer att göra för att proaktivt skydda dem från sådant missbruk”, sa hon.

 

 

Originaltext: Is WhatsApp putting Palestinians at risk of being killed in Gaza?