De voorbije jaren is AI uitgegroeid tot een instrumenteel element in asiel- en migratiebeleid. Over de hele wereld rekenen overheden op AI om hen te helpen bij de automatische identificatie van migranten, het volgen van migratiestromen en het bewaken van grensposten.

In The Walls Have Eyes beschrijft Petra Molnar op een minutieuze en menselijke manier hoe grensgebieden steeds vaker dienen als proeftuin voor nieuwe technologieën en hoe deze evolutie ten koste gaat van mensenrechten en -levens.

GRENSGEWELD

Petra Molnar is geen onbekende in het domein van migratie en mensenrechten. Dankzij haar jarenlange inzet wordt ze ondertussen beschouwd als één van de meest toonaangevende juridische experts als het aankomt op de impact van digitaal grensgeweld op mensenrechten.

Molnars interdisciplinaire achtergrond als advocaat en antropoloog zorgt ervoor dat The Walls Have Eyes geen traditioneel academisch boek is geworden. Molnar kadert de juridische, sociologische en economische context die ertoe heeft geleid dat AI werd omarmd in migratiebeleid, maar beperkt zich niet tot deze feiten. Doorheen het boek zoomt ze namelijk evenzeer in op de persoonlijke verhalen van mensen op de vlucht, die in hun eigen woorden vertellen hoe het voelt om onderworpen te worden aan invasieve AI-systemen. Dankzij deze combinatie van persoonlijke verhalen en feitelijk relaas is Molnar erin geslaagd om op een complete, gebalanceerde en bij tijden hartverscheurende manier de realiteit van digitaal grensgeweld te omschrijven.

In dit boek onthult Molnar de realiteit achter de ‘automatisering’ van grensbewaking.

In dit boek onthult Molnar dus de realiteit achter de ‘automatisering’ van grensbewaking. Ze beschrijft concrete AI-systemen, van AI-gestuurde drones, AI-leugendetectoren die aan de grens moeten bepalen wie de waarheid spreekt, tot zelfs ‘robothonden’ die worden ingezet om de grenzen te controleren. Maar Molnar gaat veel verder dan beschrijvingen van de technologische systemen in kwestie. De focus van dit boek ligt namelijk op de impact van AI in grensbewaking, zowel op de rechtsstaat als op de levens van people on the move (met deze term verwijst Molnar naar vluchtelingen, asielzoekers, migranten en mensen zonder papieren).

Doorheen het boek volgt de lezer Molnar terwijl zij door verschillende grensgebieden reist. Haar onderzoek brengt haar onder meer in de VS, Israël, Kenia, Griekenland en, jawel, ook België. Op het eerste gezicht kunnen deze grensgebieden niet meer van elkaar verschillen; weinigen zouden het woestijnachtige gebied aan de grens tussen de VS en Mexico vergelijken met de betonnen buurt rond Brussel-Zuid. Toch vindt Molnar de gelijkenis tussen deze plekken treffend, omdat people on the move in elk van deze grensgebieden worden onderworpen aan invasieve AI-systemen.

MILJARDENINDUSTRIE IN JURIDISCH VACUÜM

De opkomst van AI in grensgebieden gaat gepaard met twee andere ontwikkelingen, beschrijft Molnar: ten eerste, het ontstaan van een juridisch vacuüm rond het gebruik van AI in immigratie- en vluchtelingenprocedures, en ten tweede, de opkomst van een miljardenindustrie rond de ontwikkeling en verkoop van grenstechnologieën.

Er is weinig tot geen regulering van de technologieën die worden ingezet voor grensbewaking.

In haar boek beschrijft Molnar onder meer hoe er weinig tot geen regulering is van de technologieën die worden ingezet voor grensbewaking. De publicatie van The Walls Have Eyes ging vooraf aan de goedkeuring van de AI Act, het regelgevend kader voor de ontwikkeling en het gebruik van AI in de EU. In haar boek was Molnar nog voorzichtig hoopvol over het potentieel van het wetsinitiatief om het digitaal grensgeweld aan de Europese buitengrenzen aan banden te leggen.

Ondertussen is duidelijk geworden dat de EU deze kans niet heeft gegrepen. Want ondanks druk van mensenrechtengroepen koos de EU ervoor om het domein van asiel en migratie vrij te stellen van een heleboel belangrijke verplichtingen in de AI Act. Zo geldt er in de migratiecontext geen verbod op het gebruik van AI-systemen met een hoog risico. De migratieautoriteiten worden bovendien vrijgesteld van de verplichting om informatie over AI-systemen met een hoog risico te registreren in een publieke database. De EU kan dus nog steeds experimentele AI-systemen inzetten in de migratiecontext, en het ingebouwde gebrek aan transparantie maakt het quasi onmogelijk om te begrijpen waar en hoe zij dat doen.

Dat overheden het nalaten om de meest kwetsbaren in de samenleving, people on the move, te beschermen tegen schadelijke toepassingen van technologie, is geen toeval. Molnar beschrijft hoe ze door haar onderzoek heeft “gemerkt dat het creëren van juridische zwarte gaten in technologieën voor migratiebeheer een bewuste strategie is om technologische experimenten mogelijk te maken die anders niet zouden worden toegestaan in andere domeinen of worden getest op burgers.”

Naast het juridisch vacuüm, beschrijft Molnar ook dat de opkomst van AI in grensbewaking heeft geleid tot het ontstaan van een miljardenindustrie rond de verkoop van grenstechnologieën. Om hoogtechnologische grensprojecten te ontwikkelen, zijn overheden in hoge mate afhankelijk van particuliere bedrijven. Aangezien overheden in de voorbije jaren steeds meer hebben ingezet op AI om hun beleidsdoelen in de migratiecontext te realiseren, heeft dit geleid tot het ontstaan van een zeer lucratieve industrie. Molnar verwijst in het boek naar een schatting, die zegt dat deze industrie in 2025 ongeveer 68 miljard dollar waard zou zijn.

Deze miljardenindustrie, die ook wel bekend staat als het border industrial complex, heeft een schaduwzijde. De bedrijven die de grenstechnologieën ontwikkelen, zijn namelijk berucht om hun geheimzinnigheid. Omdat zij hun marktpositie willen behouden, geven deze bedrijven maar weinig informatie prijs over hoe hun technologieën worden ontwikkeld en hoe die werken. In de migratiecontext is dit gebrek aan transparantie bijzonder problematisch, aangezien het zo nagenoeg onmogelijk wordt om te begrijpen wat de impact is van deze technologieën op de mensen die eraan worden onderworpen, laat staan om deze bedrijven ter verantwoording te roepen voor schendingen van het recht.

De Israëlische bezetting van Palestina is uitgegroeid tot een broedplaats voor technologieën.

Molnar stelt dat deze miljardenindustrie ondoorzichtig is op alle vlakken, behalve op één: hun verkoopsargumenten. Molnar wijdt een hoofdstuk aan de grote rol die Israël speelt in het wereldwijde border industrial complex. Ze haalt onder meer de journalist Anthony Lowenstein aan, die in zijn boek The Palestine Laboratory heeft uiteengezet hoe Israëlische bedrijven hun systemen consequent testen op de Palestijnse bevolking en die vervolgens op de markt brengen als “battle tested” systemen. Zo is de Israëlische bezetting van Palestina volgens Molnar uitgegroeid tot een broedplaats voor technologieën zoals drones, gezichtsherkenning en door AI aangestuurde wapens. Inmiddels en nog steeds worden deze technologieën geëxporteerd en ingezet over de hele wereld, ook in België en in de Europese Unie.

OPROEP

The Walls Have Eyes is geen traditioneel academisch boek. Zelf ziet Molnar het boek eerder als een call to action, een oproep om grensgeweld aan banden te leggen. Dat dit geen gemakkelijke taak is, weet Molnar al te goed. Haar eigen manier om een steentje bij te dragen, is door getuige te zijn van het geweld dat zich afspeelt aan onze grenzen.

Molnars oproep klinkt simpel, maar is dat allerminst. In zekere zin is het vandaag moeilijker dan ooit geworden om getuige te zijn van grensgeweld. De integratie van nieuwe technologieën, zoals AI, in immigratie- en vluchtelingenprocedures leidt er enerzijds toe dat bepaalde vormen van grensgeweld onzichtbaar worden gemaakt. Anderzijds omarmen steeds meer overheden, waaronder de EU, een offshoring-model om migratiestromen te controleren. Dat het vandaag moeilijker is getuige te zijn van grensgeweld betekent mogelijk dat het gemakkelijker is dan ooit om weg te kijken. Tegelijk is het belangrijker is dan ooit dat we dat net niet doen.

Paola Verhaert

Samenleving & Politiek, Jaargang 32, 2025, nr. 7 (september), pagina 74 tot 76