Door Herman Michiel
14 januari 2021

De Europese Commissie stelt zichzelf zes prioriteiten voor haar ambtsperiode 2019-2024; de eerste is de ‘Europese Green Deal’, de tweede de ‘digitalisering’, ‘Europa voorbereiden op het digitale tijdperk’ en haar ‘digitale soevereiniteit’ versterken. De Commissie ziet ook een duidelijk verband tussen de twee: “De EU wil er met haar digitale strategie voor zorgen dat mensen en bedrijven van deze transformatie profiteren, en dat zij haar doel van een klimaatneutraal Europa bereikt tegen 2050.” Binnen die ‘digitale strategie’ ziet de Commissie twee belangrijke assen: data en artificiële intelligentie (AI). Verleden jaar lanceerde ze in dit verband ook drie wetsvoorstellen, de Digital Services Act, de Digital Market Act en de Data Governance Act die nu door het Parlement behandeld worden.

Data intelligent verwerken

 Data gaat over verwerven, stockeren en verwerken van gegevens in digitale vorm. Het kan gaan over meteorologische waarnemingen, patiëntengegevens, archieven, klantenprofielen, vingerafdrukken, stockvoorraden, videobeelden, kortom: over alles. Het onderling laten communiceren van verschillende databanken is er ook een aspect van. Artificiële intelligentie is een eerder vage term voor de digitale verwerking van data waarbij gepoogd wordt aspecten van het menselijk oordeelsvermogen (intelligentie) in computerprogramma’s te verwerken. Een robot die bij de autoassemblage steeds dezelfde bewerking uitvoert is niet ‘intelligent’; een systeem daarentegen dat videobeelden van gezichten volgens een of ander algoritme vergelijkt met een bestand van ‘gezochte personen’ is dat wel; een robot die rotte pruimen uit een lopende band kan pikken ook, net zoals een programma dat voor de human resources manager van een groot bedrijf een voorselectie maakt uit honderden sollicitaties op basis van bepaalde criteria, eventueel gecombineerd met automatisch profielonderzoek op sociale netwerken. We vergaten nog de zelfrijdende auto… Overigens wordt in de Commissieliteratuur de term AI wel eerder losjes gebruikt voor alles wat met dataverwerking en aanverwanten te maken heeft.

AI is in. Op het World Economic Forum (Davos) van 2018 werd gesproken over 58 miljoen jobs die tegen 2022 zouden gecreëerd worden door AI. De Europese Commissie heeft het over 60 miljoen nieuwe jobs wereldwijd door AI en robotics tegen 2025. Het lijkt dan eerder verantwoord dat in het Europees budget 7,5 miljard euro wordt voorzien voor het Digital Europe programma, waarvan 2,2  miljard voor supercomputing, 2,1 miljard voor AI, enz. Men begrijpt dat de betrokken sectoren van de bedrijfswereld dit wel zien zitten, en met het lokaas van tientallen miljoenen nieuwe jobs kan ook het grotere publiek gewonnen worden voor het idee dat heel verstandig, intelligent, met het geld wordt omgesprongen. De Commissie is zich echter wel bewust van een zekere argwaan bij dat publiek, niet alleen omdat robots het werk kunnen afnemen, maar ook omwille van Big Brother’s artificieel intelligent brein. “Dit kan alleen als de burger die technologie kan vertrouwen. Een strategisch EU-kader op basis van fundamentele waarden moet dat vertrouwen geven en bedrijven aanmoedigen AI-oplossingen te ontwikkelen”, schrijft de Commissie. In geen enkele van haar communicaties over digitalisering en AI ontbreekt dus het menselijk aspect: “De digitale strategie zal mensen mondiger maken”, “Datagestuurde innovatie kan grote en tastbare voordelen opleveren, bijvoorbeeld gepersonaliseerde geneeskunde of beter openbaar vervoer”… En bovenal: “Onze digitale revolutie is een sleutelelement voor onze klimaatrevolutie”.

De digitale EU

Wat is daarvan aan? Is het wat rooskleurig verpakt, maar is de kern van de boodschap correct? Of moeten we eens te meer vaststellen dat de bedrijfsgerichtheid van de EU verpakt wordt in het cadeaupapier van het algemeen welzijn?

Als we ons verlaten op de ‘democratische meerderheid’ in het Europees Parlement is er weinig reden tot ongerustheid. Bij Liberalen en christen-democraten horen we een echo van het digitaal enthousiasme  van de Commissie. Er klinkt een zekere bezorgdheid bij de sociaaldemocraten, die stellen dat de mens centraal moet staan in AI en dat ze zullen “vechten om de dominantie van de markt te vermijden”. Een uitgebreid dossier Artificial Intelligence uitgegeven door Social Europe Journal en de Duitse sociaaldemocratische Friedrich Ebertstiftung is vrij gerusttellend; technologie op zich is neutraal, het hangt er vanaf wat er politiek en sociaal mee aangevangen wordt. De SPD-afgevaardigde in de Bundestag Daniela Kolbe ziet echter al wel een taak weggelegd voor de ondernemingsraden: zij kunnen zorgen voor een grotere acceptatie van AI in de bedrijven. De Finse sociaaldemocrate Miapetra Kumpula-Natri is vicevoorzitter van de speciale commissie artificiële intelligentie (AIDA)° in het Europees Parlement en stelt: “We moeten de data-economie en AI demistyfiëren; mensen hebben de neiging om ontwikkelingen die ze niet volledig begrijpen te vermijden, zich ertegen te verzetten of ze te vrezen.”

Toch ook wat bezorgdheid bij de Groenen, die vinden dat er meer moet zijn dan ‘hype’, namelijk degelijke wetgeving. Maar over het algemeen zien ook zij AI als een “opportuniteit voor innovatie en voor menselijke en sociale vooruitgang”. Het GroenLinks Europarlementslid Kim Van Sparrentak ziet in de digitale strategie van de Europese Commissie een stap in de goeie richting om met Europa het ‘turbo-tech kapitalisme’ een halt toe te roepen. Het Belgisch groen europarlementslid Petra De Sutter betreurt evenwel dat socialisten, liberalen en christendemocraten “de opname geblokkeerd hebben van duurzaamheid en klimaatbeheersing in de AI-strategie.” Niet zo onbelangrijk, zoals we nog zullen zien.

Er is tenslotte de linkse fractie GUE/NGL die, naar verwachting, het meeste voorbehoud heeft. Ze wil een verbod op de toepassing van gezichtsherkenningstechnieken, als “noodzakelijke eerste stap voor de vrijwaring van onze rechten en de menselijke waardigheid.” Een tweede toe te juichen initiatief is een studie over de toepassing van artificiële intelligentie in de defensiepolitiek van de EU. We komen daarop terug.

Digitale soevereiniteit?

Burgers, bedrijven en overheden in Europa zijn voor hun digitale noden haast volledig aangewezen op Amerikaanse Big Tech bedrijven als Microsoft, Google, Facebook. Het lijkt dan misschien wel niet zo overbodig dat de EU het nu, wat laattijdig weliswaar, over ‘digitale soevereiniteit’ heeft? Voor die soevereiniteit heeft de Commissie wel een heel merkwaardige strategie, zoals een onderzoekster van het Europees Vakbondsinstituut ETUI onlangs uitlegde.  In MEPs need to listen to more voices on artificial intelligence heeft Aida Ponce Del Castillo het over de reeds vernoemde commissie AIDA die binnen het Europees Parlement werd opgericht en op 12 maanden tijd de impact moet bestuderen van AI op de Europese economie, tewerkstelling, gezondheidszorg, landbouw, onderwijs, milieu, defensie etc…. Deze commissie hield twee hoorzittingen met 10 uitgenodigde externe sprekers, onder hen: een van Microsoft, een van de private Amerikaanse Carnegie Mellon University (gespecialiseerd in robotica), een van het Britse farmabedrijf Exscientia, de Zweedse medicus Longman, met credo: “the future of medicine is computational”. Als het algemeen belang vertegenwoordigd was, was het door een spreker van EDRI (een netwerk dat opkomt voor digitale rechten) en BEUC, de Europese consumentenorganisatie. Maar de parlementaire commissie had weinig belangstelling over hetgeen de civiele maatschappij te zeggen heeft over AI, aldus Del Castillo.

Hoe het verloopt in deze parlementaire commissie, die cruciaal is in de latere standpuntbepaling van het Parlement in zijn geheel, is maar een kleine illustratie van wat er zich momenteel aan lobbying over ‘digitale strategie’ in Europa afspeelt. De New York Times van 14 december 2020 heeft het over “Big Tech dat zijn lobbyisten loslaat op Europa” en daar een nooit geziene hoeveelheid geld tegenaan gooit.(Del Castillo spreekt over honderden vergaderingen van lobbyisten met verantwoordelijken uit Europese Commissie en Parlement.) Uit een uitgelekt document blijkt dat Google een uitgekiende strategie heeft om de, toch al niet bedrijfsonvriendelijke, plannen van de EU te dwarsbomen. Daarbij wordt gedacht aan de inschakeling van ambassadepersoneel, aan academici die tegen de regelgeving opkomen, of aan zogezegd ‘neutrale’ partijen die het voor Big Tech opnemen. Ik ontdekte er zelf eentje, het Consumer Choice Center waarvan de ‘research manager’ schrijft dat nieuwe regelgeving ongewenste gevolgen kan hebben die de innovatie belemmeren…

Ook de Financial Times (28 oktober 2020) heeft het over deze Google-campagne, die zich onder andere zou richten naar de Europese consumenten met de boodschap dat regulering hen op kosten zal jagen, en de mogelijkheden van het internet zal beperken, nu we het juist zo nodig hebben. Google dacht er ook aan platforms als booking.com in haar strategie te betrekken.

Een bijdrage tot de Green Deal?

In de inleiding vermeldden we dat digitalisering en Green Deal de eerste twee programmapunten zijn van de Commissie von der Leyen, en dat er ook herhaald op de synergie tussen die twee gewezen wordt. Dat lijkt niet alleen een handig argument, maar ook aannemelijk. Kan een intelligent dispatchingprogramma, eventueel aangevuld met realtime informatie over de via satelliet geobserveerde verkeerssituatie geen grote besparing opleveren in het energieverbruik van bestelwagens? Is het niet efficiënter je hartklachten eerst online aan een medisch AI systeem voor te leggen, dan meteen naar een specialist te stappen?

Maar als dit allemaal zo voor de hand ligt als CO2-werend, had de Commissie er ook probleemloos evidentie kunnen voor aangeven. Voor klimaatcommissaris Timmermans moet de Green Deal immers in alle beleidsdomeinen doorspelen. Maar voor digitalisering en artificiële intelligentie is dit blijkbaar zo vanzelfsprekend dat er geen studies moeten over uitgevoerd worden. Onterecht, zo blijkt. Wat de Commissie met haar 33.000 ambtenaren niet deed, doet Fieke Jansen die een doctoraat voorbereidt aan het Data Justice Lab (Cardiff University). Ze geeft het volgende voorbeeld. Wie een boek koopt op Amazon zal gedurende het surfen 12 ‘zware’ interfaces moeten passeren, wat neerkomt op het downloaden van 8724 bedrukte A4 pagina’s, of 87,33 MB informatie. Dit kost 30 Wh aan elektriciteit. In 2014 kreeg Google ongeveer 47.000 verzoeken per seconde, wat neerkomt op een CO2-emissie van 1,8 miljoen kilogram per uur. Een ander voorbeeld, dat zelfs rechtstreeks uit de AI-sfeer komt. ‘Natural language processing’ (NLP) is een AI-methode om grote hoeveelheden documenten te ‘lezen’en er, eventueel rekening houdend met de context, relevante informatie uit te halen; het programma ‘leert’ daarbij uit de opgedane ervaring. Een studie bracht aan het licht dat de ontwikkeling, de ‘training’ en het testen van een dergelijk model gemakkelijk 300.000 kilogram CO2 veroorzaakt.

Deze voorbeelden geven op zijn minst aan dat men er niet zomaar mag van uitgaan dat wat digitaal gebeurt klimaatwinsten oplevert, zoals de Commissie aanneemt. Men zou bijvoorbeeld moeten onderzoeken of en in hoeverre de door de industrie zo geprezen cloud computing, die heel veel communicatie en ‘interfaces’ inhoudt, wel de juiste weg te gaan is. Maar verwacht natuurlijk niet dat de industrie haar eigen strategie in vraag zal stellen.

Killer robots

In het witboek dat de Commissie aan AI wijdde staan mooie woorden over maatschappelijk en ecologisch welzijn als kernbeginsel voor kunstmatige intelligentie. Maar wie zich de commotie herinnert over de plannen van het Europees Defensieagentschap om onderzoek naar ‘autonome wapensystemen’ (killer robots) te gaan financieren en binnen het witboek op zoek gaat naar het woord defensie komt het één maal  tegen, in een voetnoot. En in de inleiding wordt zonder verantwoording gesteld: “Het witboek gaat niet in op de ontwikkeling en het gebruik van AI voor militaire doeleinden.” Zo weinig aandacht voor de Europese militaire initiatieven is wel merkwaardig,  vooral als je bedenkt dat Commissievoorzitter von der Leyen in een niet zo ver verleden Duits minister van defensie was.

Een eerste opmerking hierover: in haar communicatie over AI vermeldt de Commissie de bedragen die daarvoor expliciet in de begroting voorzien worden. Maar er zijn dus andere potjes die evengoed aan AI besteed worden, maar die men liever niet in een witboek vermeldt. De opdeling van de budgetten in posten als AI, supercomputing, cybersecurity enz. is trouwens ook nogal misleidend omdat de grenzen ertussen vaak willekeurig zijn.

Maar die vergetelheid van de Commissie wordt goedgemaakt door een initiatief van de linkse fractie (GUE/NGL) in het Parlement. Ze liet een studie uitvoeren door Christoph Marischka, medewerker van de Duitse vredesorganisatie IMI. In Artificial intelligence in European Defence: Autonomous Armament? (januari 2021) ging hij na welke EU-wapenprogramma’s AI bevatten, en welke gevolgen deze hebben; hij schetst ook de geopolitieke context waarbij de EU zich een plaats als supermacht wil veroveren naast de twee grote spelers, de VS en China (terwijl Rusland vaak als het meest imminente gevaar wordt voorgesteld.) Maar Marischka onderstreept ook dat de noodzaak van AI in de Europese defensiestrategie een hype is die door de daarbij belanghebbende-industrie naar voren wordt geschoven: “propagated by industry and (venture) capital to mobilise public funds for their profits”. Vanuit de samenleving is daar verzet tegen gekomen met campagnes als “Cyberpeace” and “Stop Killer Robots”, maar, merkt de studie op, deze worden niet gesubsidieerd met honderden miljoenen euro’s zoals bij de wapenindustrie het geval is.

Tenslotte enkele voorstellen vanuit de ‘menselijke intelligentie’

In haar witboek zegt de Commissie dat haar aanpak van AI berust op ‘excellentie en vertrouwen’. Als het haar menens zou zijn met dat vertrouwen zou ze de open brief au sérieux nemen die meer dan 60 organisaties van overal in de EU haar onlangs toestuurden, waarin ze hun bekommernis uitrukken over de dreiging die van een aantal AI-toepassingen uitgaat. Als voorbeelden van dergelijke bedreigingen “die niet verenigbaar zijn met een democratische samenleving en moeten verboden of wettelijk beperkt worden” vermelden ze:

• biometrische massabewaking, door bijvoorbeeldcamera’s met gezichtsherkenning op openbare plaatsen;
• AI voor grensbewaking en migratiecontrole, onder andere het gebruik van leugendetectors;
• het gebruik van AI voor automatische sociale profilering, met bijvoorbeeld gevolgen voor de toekenning van sociale uitkeringen; er wordt onder andere verwezen naar het Nederlandse systeem SyRI;
• ‘voorspellende politieprofilering’, waarbij bijvoorbeeld de postcode of woonwijk als indicator voor verhoogd risico op crimineel gedrag wordt geïnterpreteerd;
• het gebruik van algoritmes in het strafrecht, waarbij bijvoorbeeld de kans op recidivisme wordt afgeleid uit allerlei parameters die niets met de concrete beschuldigingen te maken hebben.