door Herman Michiel
25 november 2021

Wie vaak kruiswoordraadsels oplost weet dat een ai een zoogdier is, een ‘luiaard’; wie de raadsels van de Europese Unie probeert te doorgronden weet dat AI staat voor artificial Intelligence en dat de Europese Commissie er de toekomst van Europa aan verbindt. AI kan 60 miljoen jobs creëren wereldwijd, wij moeten er in onze Unie zoveel mogelijk van zien binnen te halen natuurlijk! AI is essentieel voor een goed klimaatbeleid, voor betere gezondheidszorg, afstandsonderwijs dat zo belangrijk bleek in deze corona, en betere openbare diensten, voor de strijd tegen de criminaliteit en een moderne defensie! Voorwaarde om al deze beloftes in realiteit om te zetten is dat een zeker wantrouwen bij onze Europese burgers weggenomen wordt. We zijn er ons van bewust: AI houdt niet alleen grootse beloftes in, maar ook een aantal gevaren, risico’s voor de privacy van onze burgers. Het is daarom dat wij AI ook willen reglementeren, overeenkomstig de waarden van onze Unie. Op 21 april 2021 deden we daarover een wetsvoorstel, ons ontwerp voor een Verordening over Artificiële Intelligentie.

Dat is de teneur die naar voren komt uit de groeiende stroom EU-literatuur over kunstmatige intelligentie. In een vorige bijdrage hebben we hierbij al een aantal vraagtekens geplaatst, maar het is voor de burger moeilijk zich hierover een idee te vormen. Is het niet gewoon een kwestie van technische vooruitgang, waar in het begin altijd wat verzet tegen komt, zoals destijds met de stoomlocomotief? Zijn we niet blij dat er nu internet bestaat? En wie kan er tegen zijn dat dat nu wat beter gereglementeerd wordt?

Wie er over deze ingewikkelde dingen wel precieze ideeën heeft, dat zijn de lobbyisten van de grote digitale spelers, Google, Facebook, Microsoft, IBM… Na de bekendmaking van de Verordening over Artificiële Intelligentie [1] hadden ze de hele zomer de kans om hun bekommernissen te laten geworden bij de Commissie, en dat hebben hun lobbyisten ook vlijtig gedaan. Maar dat vraagt inzet en middelen. Artificiële intelligentie is immers maar één aspect van wat men als ‘digitalisering’ aanduidt. AI is het neusje van de zalm, de digitale nabootsing – of een poging daartoe – van het menselijk brein, dat in staat is beslissingen te nemen als men het voedt met gegevens. Over de algemenere digitalisering lanceerde de Europese Commissie dan weer andere voorstellen, maar wat de privacy-aspecten daarvan betreft zij verwezen naar nog andere wetgeving (zoals GDPR) en wie verantwoordelijk is in het geval van ongelukken met AI-beslissingen (van bijvoorbeeld een AI- gestuurde wagen of vrachtwagen) zou behandeld worden in weer een andere richtlijn rond productkwaliteit. Een dergelijk reglementair kluwen is de geliefkoosde habitat van lobbyisten, maar hoeveel parlementsleden of ngo’s er wijs kunnen uit worden is zeer de vraag. En hoeveel parlementsleden ‘voorgelicht’ zijn door de lobbyisten is nog een andere vraag.

Het neemt niet weg dat er de voorbije maanden over diverse aspecten van AI waarschuwende beschouwingen zijn gekomen vanuit syndicale of academische middens, of door burgerrechtenorganisaties. We zullen er hieronder een aantal vermelden, en die zouden ons moeten wantrouwig stemmen over het Europees hoera-discours. Wantrouwen dat eigenlijk al zou moeten gewekt zijn zodra men de Europese Commissie, gangmaker van het neoliberaal beleid in Europa hoort spreken over de weldaden van AI voor de gezondheidszorg, voor de openbare diensten en het algemeen welzijn. Als de vos de passie preekt…

Arbeidsmarkt

Jobcreatie? Terecht stellen twee Duitse arbeidspecialisten zich vragen bij de ‘profetie over een grotere creatie dan destructie van jobs’ ten gevolge van AI. Misschien dat het saldo binnen enkele tientallen jaren kan berekend worden, maar ook dat is twijfelachtig. ‘Artificiële intelligentie’ is niet zo duidelijk omschreven, en is soms niet méér dan een sexy term voor digitalisering, computerisatie, networking, een technologische evolutie die al tientallen jaren aan de gang is.

Wat betreft de arbeidsmarkt stellen er zich heel wat meer en andere vragen dan het saldo van creatie en destructie van jobs. In Artificial intelligence and workers’ rights waarschuwen Valerio De Stefano and Antonio Aloisi, professoren arbeidsrecht respectievelijk in Leuven en Madrid, voor de gevolgen van het gebruik van AI bij het personeelsbeheer in bedrijven. Een ‘intelligent’ programma kan bijvoorbeeld een voorselectie maken uit de duizend sollicitaties die binnenkwamen na een advertentie. Welke criteria zal het programma hanteren? De Europese verordening heeft het ook over AI bij de evaluatie en promotie van personeel. En kijk, de hoge waarden van de Unie leiden ertoe dat dergelijke toepassingen geclassificeerd worden als ‘hoog risico’. Maar dat impliceert alleen dat dergelijke AI-programma’s met een certificaat op de markt moeten gebracht worden. Wat een garantie!

Een andere bekommernis van de twee arbeidsrechtprofessoren is dat de verordening inzake werkersrechten een plafond zou kunnen worden, en niet een minimum. In sommige lidstaten moeten nu vertegenwoordigers van de werknemers betrokken worden bij, of zelfs hun goedkeuring geven aan het gebruik van technologie om de arbeidsprestaties op te volgen. Het risico bestaat dat de verordening zo geïnterpreteerd wordt dat dergelijke werknemersbetrokkenheid als ‘disproportioneel’ beschouwd wordt, omdat ze de vrije voorziening van AI-diensten in de weg staat…

Ook het Europees Vakverbond ziet de certificatie van AI-gestuurd toezicht op de werkvloer als een onvoldoende waarborg voor de rechten van de werknemers. Het EVV wijst er ook op dat slechts een beperkt aantal AI-toepassingen voor het personeelsbeleid (aanwerving, evaluatie, taakverdeling) in de verordening aan bod komen, terwijl alle werkvloertoepassingen zouden moeten gereglementeerd worden. Het Vakverbond geeft een wenk aan de Commissie: als ze wil dat er vertrouwen is in AI-toepassingen moeten vakbonden hun zeg hebben.

SyRI

Het is niet alleen op de werkvloer dat ‘intelligente’ programma’s mensen kunnen op de korrel nemen; ook overheidsdiensten kunnen er gebruik van maken. Beter gezegd: misbruik, zoals het SyRI schandaal in Nederland op dramatische manier heeft aangetoond. Door Systeem Risico Indicatie-software los te laten op allerlei databanken (een toepassing van ‘Big Data’) werden duizenden vermeende fraudeurs in de sociale zekerheid opgespoord, ze moesten duizenden euro’s terugbetalen en de uitkeringen werden stopgezet. Tot bleek dat dit onterecht was, en premier Rutte moest toegeven dat het “verschrikkelijk was misgegaan” en zijn regering ontslag moest nemen. Aan dergelijke methodes heeft Human Rights Watch een uitgebreid dossier gewijd: How the EU’s Flawed Artificial Intelligence Regulation Endangers the Social Safety Net. Naast Nederland worden gevallen gemeld uit Ierland, Oostenrijk, het Verenigd Koninkrijk, Frankrijk, Polen… Gezichtsherkenning, geautomatiseerde bestaansmiddelencontrole, fraudeopsporing (voorlopig niet bij miljardairs), AI doet het allemaal veel vlugger en goedkoper dan ambtenaren dat kunnen, en ja, soms zit er wel een foutje in de software.

Nog Biggere Data

We zegden reeds dat artificiële intelligentie slechts een onderdeel is in het grotere verhaal van de digitalisering. Zo ijvert de EU ook voor supersnelle netwerken, supercomputers, supergeheugens. Dat is niet om de Big Bang theorie te toetsen, maar in niet onbelangrijke mate om steeds meer data te kunnen verwerken. Dat is een vraag van de grote internetspelers (die bijvoorbeeld de profielen van honderden miljoenen consumenten en hun voorkeuren bijhouden om er gerichte advertenties oplos te laten) en een aantal specifieke bedrijven, maar ook van internationale overheidsinstanties. Het grensbewakingsagentschap Frontex bijvoorbeeld is maar al te geïnteresseerd in snel toegankelijke databanken van gezichten, vingerafdrukken en politierapporten van binnen, en eventueel van buiten Europa.

Ook de Europese politie, Europol, ziet AI wel zitten. En wie zou er nu tegen zijn dat ook de politie grote middelen gebruikt tegen internationaal georganiseerde criminaliteit en terrorisme? Maar ook hier staan Big Data en Big Brother niet zover uit elkaar. Op 21 oktober stemde een meerderheid in het Europees Parlement voor de uitbreiding van het mandaat van Europol, waardoor deze een blanco cheque kreeg voor ongebreidelde politionele AI-toepassingen, niet onderworpen aan de toekomstige AI- verordening. Alleen Groenen en Links waren tegen, alhoewel mensenrechtenorganisaties, waaronder Statewatch, voor de schending van fundamentele rechten vrezen. Er is onder andere sprake van gegevensuitwisseling met private partners, en het gecomputeriseerd profileren van reizigers die de EU binnenkomen, met alle gevaren voor bv. etnische criteria. Op Europol zal geen enkel toezicht meer zijn, zegt Fair Trials, dat aan het gebruik van artificiële intelligentie door politiediensten een uitgebreid rapport wijdde.

En dan zijn er nog de militairen, die natte dromen krijgen bij het idee van het elektronisch slagveld, de intelligente vernietiging van de tegenstander. Ze wezen gerustgesteld: de AI-verordening “is niet van toepassing op AI-systemen die louter voor militaire doeleinden worden ontwikkeld of gebruikt.”

[1] Een inhoudelijke samenvatting ervan vindt men hier.