Taysir Mathlouthi – Middle East Eye

 

När globala ledare, beslutsfattare och tekniska innovatörer samlas vid AI Action Summit i Paris på måndag, väcker en påfallande utelämnande i dess agenda oro: avsaknaden av någon meningsfull dialog om militarisering av artificiell intelligens (AI).

Denna förbiseende är särskilt alarmerande med tanke på de senaste avslöjandena om inblandning av både Microsoft och Google i att förse den israeliska militären med AI-teknik, vilket har konsekvenser för mänskliga rättigheter och internationell rätt.

Rapporter från DropSite News, +972 Magazine och The Guardian avslöjar att Microsofts Azure-plattform har använts flitigt av israeliska underrättelseenheter för strömövervakningssystem, vilket har bidragit till systematiska kränkningar av mänskliga rättigheter.

De senaste avslöjandena har också belyst Googles djupa engagemang i att leverera avancerade AI-verktyg till den israeliska militären som en del av 1,2 miljarder dollar Project Nimbus-kontraktet. Under Gaza-offensiven i oktober 2023 distribuerades enligt uppgift Googles Vertex AI-plattform för att bearbeta stora datamängder för ”förutsägelser” där algoritmer analyserar beteendemönster och metadata för att identifiera potentiella hot.

Egna israeliska militärsystem som Lavendel, Evangeliet och Where’s Daddy? spelade också en central roll i Gazakriget. Lavender, en AI-driven databas, flaggade enligt uppgift mer än 37 000 individer som potentiella mordmål under krigets första veckor, med operatörer som spenderade så lite som 20 sekunder på att granska varje fall.

Where’s Daddy? spårade individer via sina smartphones, vilket möjliggjorde exakta luftangrepp som ofta riktade sig mot hela familjer.

Sådana verktyg visar hur AI beväpnas mot civilbefolkningar, vilket ger upphov till akuta farhågor om ansvarighet och efterlevnad av internationell humanitär rätt.

 

Mission undergrävt

Paris AI Action Summit, organiserat under flaggan för etisk AI-innovation, verkar frånkopplad från verkligheten i hur AI-tekniker beväpnas. Civilsamhällesgrupper, särskilt de från den globala södern, har kämpat för att få tillgång till detta evenemang av olika anledningar, inklusive ekonomiska begränsningar och en otydlighet om hur man säkrar en inbjudan.

Flera organisationer, inklusive min egen organisation, rapporterar att de inte var informerade om evenemanget eller kriterierna för deltagande, vilket leder till förvirring och frustration. Dessutom är de höga kostnaderna för att delta i toppmötet, inklusive resor och boende, oöverkomliga för många icke-statliga organisationer, särskilt de som verkar i den globala södern.

Resultatet är en ytterligare marginalisering av röster som kan belysa de förödande mänskliga kostnaderna för militariserad AI.

Nyckelaktörer, särskilt de som arbetar direkt med samhällen som påverkas av AI-driven krigföring, har effektivt stängts ute, som nämnts i ett uttalande undertecknat av mer än 100 civilsamhällesorganisationer, som kräver att mänskliga rättigheter ska stå i centrum för AI-reglering.

En sådan uteslutning undergräver toppmötets uttalade uppdrag att säkerställa att AI gynnar alla befolkningar. Toppmötesarrangörer svarade inte på våra mejl – inte ens de som begärde visumstöd eller en officiell inbjudan.

Det civila samhällets grupper spelar en avgörande roll för att utmana militariseringen av AI och förespråka internationella rättsliga ramar som prioriterar mänskliga rättigheter. Utan deras röster riskerar toppmötet att förstärka en snäv, top-down syn på AI-utveckling som förbiser de potentiella mänskliga kostnaderna.

Militariseringen av AI är inte en avlägsen fråga som är begränsad till konfliktområden. Många av de verktyg som används i Gaza, såsom biometriska identifieringssystem, utvecklades i väst och fortsätter att användas runt om i världen i ”säkerhetssyfte”.

Det väcker också globalt farhågor om hur AI-tekniker, såsom ansiktsigenkänning och övervakningssystem, används oproportionerligt för att rikta sig mot utsatta grupper, kränker integriteten och förvärrar befintliga fördomar. Dessa verktyg leder ofta till diskriminerande rasprofilering, vilket ytterligare marginaliserar individer som redan är i riskzonen.

 

Medborgerliga friheter

Investigate Europe har också belyst möjligheten för den nya Europeiska unionens AI-lag att kränka medborgerliga friheter och mänskliga rättigheter, efter att vissa regeringar lobbat för undantag som skulle tillåta AI-driven övervakning av polis och gränsmyndigheter, vilket utgör en särskild risk för grupper som migranter och asylsökande.

Detta skulle kunna förvärra befintliga fördomar och diskriminerande metoder, inklusive förutsägande polisarbete och användning av biometriska system för realtidsövervakning i offentliga utrymmen. Sådan praxis väcker larm om den ökande urholkningen av integritet och rättigheter, särskilt för marginaliserade grupper.

När Europa tävlar om att konkurrera med amerikanska investeringar i AI-infrastruktur måste man prioritera etiska riktlinjer framför okontrollerad innovation. Att ignorera sådana farhågor riskerar att normalisera teknik som minskar mänsklig tillsyn och potentiellt bryter mot internationell humanitär rätt.

För att ta itu med dessa kritiska utmaningar är ett heltäckande tillvägagångssätt med flera intressenter väsentligt. Politiker måste prioritera integreringen av diskussioner om militariserad AI i globala styrningsagendor, för att säkerställa ett meningsfullt deltagande från det civila samhällets grupper, särskilt de som representerar Global South-länderna.

Vi behöver bindande internationella standarder för att förhindra teknikföretag från att möjliggöra kränkningar av mänskliga rättigheter genom militära kontrakt. Öppenhet måste bli en grundläggande princip, med obligatoriska upplysningskrav för företag som deltar i militära partnerskap.

Dessutom bör framtida AI-toppmöten skapa dedikerade utrymmen för kritisk dialog, gå bortom teknisk innovation för att undersöka de djupgående etiska implikationerna av AI i krigföring.

Frankrike framställer sig ofta som de mänskliga rättigheternas land. För att verkligen upprätthålla detta arv måste det ta en ledande roll i att reglera AI-teknik, se till att de används på ett ansvarsfullt sätt och inte som instrument för förtryck.

 

 

Originaltext: AI-fuelled warfare is the terrifying reality that the tech sector refuses to discuss