Binnen één week kreeg Google twee aanvallen te duchten op haar “autonome” machine: het plaatsen van reclame bij extremistische video’s op YouTube en het genereren van haatzaaiende zoeksuggesties in Nederland. Het begin van een lange strijd tegen de willekeur van algoritmes en big data?

STEUN RO

Adverteren is doorgaans amoreel. Dat wil zeggen: de adverteerder kijkt niet naar de inhoud van media-uitingen waar zijn reclame bij staat, of kijkt weg. Hij adverteert wel zo veel mogelijk in omgevingen die zijn doelgroep bereiken, maar velt geen oordelen over de inhoud van die media.

Zo toont YouTube al vele jaren reclame bij zoekresultaten en bij video’s met boodschappen waarmee adverteerders wellicht niet graag worden geassocieerd. Niets aan het handje, tot er iemand zijn vinger opsteekt en de adverteerders aanspreekt op de moraal. Dat gebeurde via een artikel in The Times op 17 maart 2017, met als kop ‘Extremisten verdienen 250.000 pond van Britse merken bij Google’. De onontkoombare #ophef was het gevolg en een groep Britse parlementariërs kwam er overheen met een zware claim bij Google en dreigende regulering.

Diepe knieval

Beginnend in Groot-Brittannië confronteerden mediabureaus en hun klanten Google vervolgens met een golf van protest vanwege het plaatsen van hun reclame bij bedenkelijke filmpjes. Bijvoorbeeld bij verheerlijking van IS-terreur, uitingen van extremistische personen van/en organisatie zoals Ku Klux Klan en Englisch Defense League. Dat werd direct gevolg door een boycot door veel adverteerders, en wel voor alle platforms van Google. Afbreukrisico bij het publiek is de drijfveer, want dat kost omzet.

Google was volkomen overmeesterd door de protestgolf en boycot, een zwarte zwaan in de geschiedenis van het perfectioneren van online reclame waarmee Google (evenals Facebook) groeiende omzetten en marktaandelen haalt. In 2016 boekte Google een Nederlandse reclameomzet van 1,7 miljard euro, bijna de helft van de totale advertentiemarkt.

Nu grote adverteerders als McDonald’s, Tesco, Sainsbury’s, Audi, L’Oreal, een serie banken en de Britse overheid plotseling op hun achterste benen stonden, was het te laat voor Google. Moederbedrijf Alphabet. Het bedrijf verloor in een paar dagen tijd 23 miljard dollar aan beurswaarde, 4 procent op een totaal van grofweg 580 miljard waarde.

Met een  blogbericht en gedurende een congres beloofde Google’s verkoopdirecteur Philipp Schindler beterschap. Google verlaat zich niet langer eenzijdig op de machine en gaat veel meer personeel inzetten om uitingen, waaronder films op YouTube, te filteren op ‘haatdragende, beledigende en denigrerende boodschappen’. Die zijn al verboden volgens de richtlijnen van Google, maar controle schiet tekort. Ook krijgen adverteerders meer inzicht in de plaatsing van hun reclame.

Protest en boycot troffen niet enkel de eigen platforms van Google, inclusief Adwords bij de zoekresultaten, maar ook AdSense, de dienst om reclame op sites van derden te plaatsen. Voor die sites was Google tot nu vooral streng als ze zich niet aan de regels van Google houden. Voor geringe vermoedelijke overtredingen kunnen  sites ineens verstoken blijven van reclame en hun model zien instorten.

De gigantische waarde bereikt Google juist als machine die zonder noemenswaardig menselijk ingrijpen alsmaar groeiende omzetten kan realiseren. Personeel is vooral nodig om de machine te optimaliseren en voor de marketing. The Guardian berekende dat er meer dan 50.000 medewerkers nodig zouden zijn om alle video’s – 300 uur erbij elke minuut – te controleren. Nu zijn dat een paar duizend controleurs die de meldingen nagaan vanuit het publiek dat de regels worden overtreden.

Jacht is geopend

Maar Google blijft benadrukken dat de machine neutraal is. De formules (algoritmes) bepalen de zoekresultaten, het opdienen van video’s naar individuele smaak te serveren en de meest reclame bij al die uitingen die het meeste geld oplevert. Maar het  brouwen van de formules is mensenwerk, big data zijn niet puur anoniem. Zo zijn Google en Facebook aangesproken op hun aansprakelijkheid voor doorgifte van nepnieuws. Als ze er niets tegen ondernemen, dreigt de Europese Commissie in te grijpen.

Dat is niet genoeg, zo zei recent Europarlementariër Marietje Schaake (D66)  tijdens een seminar waarin de juridische kanten van Google’s zoekresultaten onderwerp van debat waren tussen drie dames. Google-jurist Milica Antic bracht het debat op het antwoord van Google op de vraag ‘zijn vrouwen dom?’ Moet Google ingrijpen in het, met formules en machineleren tot stand gekomen antwoord, indien dit kwetsend en of discriminerend is?

Antic van Google voelt er niets voor: ‘Het algoritme is ons keukengeheim.’ Oftewel: openbaarmaking helpt concurrentie en raakt Google in de portemonnee. Is deze eis van inzage in het algoritme te realiseren? Of zelfs in een wet te vatten, of in een directe maatregel door de Commissaris voor Mededinging opeisbaar? Geldt dat straks voor alle digitale aanbieders met grote invloed op consumptie, zoals Airbnb en ticketsites?

Hoe dan ook, meent Schaake, bij zo veel dominantie in onze media-afname kunnen Google en Facebook niet heen om openheid over hun formules. ‘Ze zouden dat bijvoorbeeld kunnen tonen aan toezichthouders die dan kunnen beoordelen of ze neutraal en eerlijk spelen. Ook het Coca-Cola recept blijft geheim, maar de fabrikant moet wel aan regels voldoen.’

En de motivatie van Schaake: ‘We onderwerpen voor Europese burgers van alles aan normen en controleren en testen vervolgens op deugdelijkheid; van speelgoed tot wasmachines en auto’s en alle voedsel. Maar voor de internetdiensten die minstens zozeer ons leven bepalen, laten we de giganten hun gang gaan.’

Big data autonomie

De Europarlementariër vindt dat de rechtstaat op internet te veel het nakijken heeft. ‘Steeds meer bepalen data en machines van de giganten onze kennis, keuzes, relaties en handelingen. Hoe ze dat doen is een doos van Pandora. ‘We lossen het zelf wel op’, is niet voldoende. Deze bedrijven moeten zich ook onderwerpen aan democratische plichten. Maar adequaat en pragmatisch controleren en reguleren blijkt moeilijk.’

Dit pleidooi verscheen afgelopen week uitgebreid als nieuwsverhaal in het AD. De aanleiding was de ontdekking dat de Google autocomplete, de suggesties van Google voor het voltooien van zoekopdrachten, beledigend en discriminerend zijn voor bevolkingsgroepen en bekende individuen zoals politici.

Het betrof met name het zoeken op ‘Alle’ gekoppeld aan de naam van een groep. Tikte je in ‘Alle Moslims’, bood Google eigen suggesties om de zoekvraag te completeren met ‘uitroeien’ of ‘Europa uit’ of ‘het land uit’.

Op ‘Alle Joden’ volgden de suggesties ‘aan het gas’ en ‘naar Israël’ en ‘moeten dood’. De suggesties komen voort uit de formules of algoritmen die Google maakt. De eenvoudigste regel in dit geval is dat de suggestie wordt afgestemd op wat anderen eerder als zoekopdracht hebben ingevoerd en welke resultaten zijn aangeklikt.

Dit levert een leuk gezelschapsspel op . Neem de suggesties voor ‘Alle Turken. Niet alle xenofoben letten op tijdens de Aardrijkskundeles, want de suggesties zijn ‘het land uit’, maar ook ‘terug naar Marokko’ en ‘moeten terug naar Marokko’.

‘Dit is natuurlijk zeer misplaatst en ook schadelijk. Welk ander bedrijf zou zoiets toestaan?’, zei Marietje Schaake. Ze vindt dat Google moet ingrijpen om genoemde discriminerende suggesties te voorkomen en zich niet mag verschuilen achter de machine

Google grijpt soms handmatig in, maar doet dat niet consequent. Op bijvoorbeeld ‘alle negers’, een term die op zich als discriminerend en oneigenlijk wordt beschouwd, heeft Google overduidelijk ingegrepen en biedt geen suggesties. Evenzeer heeft ook bij het intikken van de letters van ‘kinderporno’ geen suggesties en ook de zoekresultaten zullen niet leiden tot websites met kindermisbruik.

Juridisch moeilijk

Het afdwingen van vaker ingrijpen door Google is niet eenvoudig volgens juristen. Volgens Nico van Eijk, hoogleraar aan de UvA, is jurisprudentie heel verschillend in dit soort zaken: de ene keer moet Google buigen, de andere keer niet. Met het vergeetrecht bepaalde het Europese Hof dat Google vergaand  moet ingrijpen als het verleden van personen hen onevenredig schadelijk achtervolgt in zoekresultaten.

Jetse Sprey, mediapleiter van Versteeg Wigman Sprey advocaten, zegt op de vraag wanneer Google aansprakelijk is, op grond van het Burgerlijk Wetboek: ‘Google is een ‘host’ volgens de wet, een ‘opslagdienst’. Die bewoordingen zijn wat ongelukkig. Google is pas aansprakelijk, ook strafrechtelijk, als Google daadwerkelijk weet van strafbare uitingen die zijn systeem genereert én er vervolgens niets aan doet.’

Google heeft bijvoorbeeld een rechtszaak wegens het programmeren van reclame bij zoekresultaten verloren die was aangespannen door Luis Vutton. De machine van Google werd niet als neutraal beschouwd.  Sprey acht het niet uitgesloten dat ook bovenstaande suggesties van Google over Joden, Marokkanen en Turken tot strafrechtelijke aanpak kunnen leiden. Google is zich van het risico bewust en heeft recent nog zoeksuggesties in zijn Britse dienst aangepast na een publicatie.

Alle moslims naar het paradijs

Kun je ook een machine die werkt met kunstmatige intelligentie voor het gerecht dagen als die strafbaar handelt, zoals ‘minder minder Marokkanen’ zou uitspugen? Dat is niet aan de orde, want de machine of robot wordt in de huidige wet geen eigen wil en intentie toegedacht om een groep of individu te beledigen of benadelen.

Sprey: ‘Met als uitzondering natuurlijk computers die geprogrammeerd worden om te beledigen. Een categorie waarvan me niet zou verbazen als die er al is of binnenkort zijn intrede doet. Voor die uitingen zijn de eigenaren/programmeurs keihard aansprakelijk. Daarvoor geldt ook de neutrale positie niet meer.’

Hoe dan ook, Google reageerde wel op de publicatie in het AD. Rachid Finge, Communications Manager van Google Nederland, laat weten: “We werken er hard aan haatzaaiende en tot geweld aanzettende suggesties te verwijderen. De suggesties genoemd in de artikelen van het AD online en in de krant worden niet meer getoond aan gebruikers van onze Google zoekdienst.”

Bij controle blijkt Google dit inderdaad te hebben aangepast. Maar eenvoudig is het niet. Wie bijvoorbeeld een foutje maakt en ‘alke Joden’ intikt, krijgt nog als suggestie ‘terug naar Israël’ en bij ‘alke Moslims’ de aanvulsuggesties ‘dood’ en ‘Nederland uit’ en ‘paradijs’. ‘Alke Turken’ mogen nog steeds van Google ’terug naar Marokko’, maar ook ‘naar Istanbul’. Kennelijk is eerder veel op de zinnetjes gezocht in Google, en formuleert de machine op grond daarvan deze suggesties.

Bezwaren tegen alle zoekresultaten

Deze twee kwesties, reclame bij extremisme en discriminerende suggesties, kunnen de opmaat vormen naar een brede en harde aanpak van Google. Te meer in het licht van het ‘vergeetrecht’. Immers, zonder dat personen of organisaties geschrapt willen worden, kunnen ze ook te hoop lopen tegen zoekresultaten. Waarom juist die resultaten? De bepalen immers een beeld van een persoon of bedrijf, maar ook klandizie en populariteit.

Enerzijds is Google een aanbieder in een open markt en is afname niet verplicht. Je kunt naar een concurrent. Probleem is de dominante positie van Google. Daarvoor word je niet beloond, maar bestraft. Juristen en tegenstanders van Google proberen de dominante positie aan te tasten door Google met aansprakelijkheid voor vermeend onjuist handelen door de machine.

    Peter Olsthoorn schreef boeken over internet, Google en The Power of Facebook,Πartikelen over ICT, media (internet vooral), inlichtingendiensten en innovatie. Hij spreekt over deze onderwerpen, treedt op als dagvoorzitter en interviewer op het podium. Was journalist in Oost-Europa, correspondent en oprichter van netkwesties.nl.