BBC World schreef vorig jaar in een artikel dat algoritmes de wereld zoals wij die kennen veroveren en steeds meer controleren. Of het nu om de Amerikaanse beurshandel, datingwebsites of liften in wolkenkrabbers gaat: dataverwerkende computers bepalen ons bestaan.
Die alarmerende boodschap was ontleend aan een TED-lezing uit 2011 van de 39-jarige gamesentrepeneur Kevin Slavin. ‘Paniek zaaiers, die Britten’, roept de specialist in interactieve telecommunicatie van de New York University telefonisch vanaf Manhattan. ‘Ik ben geen onheilsprofeet die de ondergang van de mensheid voorspelt door almachtige computers. Het gevaar is niet dat die te slim worden, maar dat ze te dom blijven en wij niet precies weten wat ze doen. We beseffen niet wat er in de digitale wereld gebeurt, die we zelf hebben gemaakt.’
Flash Crash Wall Street
Hij refereert aan de flash crash van 6 mei 2010 op Wall Street. Opeens dook de Dow Jones duizend punten omlaag en zakten aandelen van tientallen dollars naar luttele centen. Foutje van een algoritme. In een klap verdween miljoenen dollars beurswaarde. ‘Niemand heeft er een verklaring voor, want de algoritmen op de beurs zijn zo ingewikkeld, dat niemand ze meer begrijpt. Ik ook niet. Het geld is en blijft weg. Beurswaakhond SEC hoopt dat iedereen het voorval vergeet.’
Inmiddels is Wall Street in een nieuwe rel beland. In het boek Flash boys beschuldigt journalist Michael Lewis beurshandelaren van handel in aandelen en obligaties met voorkennis. Washington is in rep en roer en de senaat schreeuwt om hoorzittingen. Computers handelen zo snel transacties af, dat beurswaakhond SEC niet meer kan controleren, of die beursbengels ter goeder trouw handelen.
Zwarte doos
Wat doen die infame algoritmen van die beruchte flash traders eigenlijk? De latente professor in Slavin wordt wakker en hij doceert: ‘Een computer krijgt een reeks instructies, die hij zonder menselijke tussenkomst uitvoert om tot een bepaald doel te komen. In die instructies wordt rekening gehouden met eventuele gebeurtenissen tijdens de uitvoering. De instructies bepalen of er stug wordt doorgewerkt, of dat er wordt overgeschakeld naar een andere set instructies. Op Wall Street kan het gaan om een miljoen aandelen die moeten worden verkocht. Maar die moeten zo snel van eigenaar veranderen, dat andere marktpartijen niet beseffen dat er een megadeal plaatsvindt. Het algoritme splitst de deal op in kleine pakketten, ‘black boxes’, en verhandelt die zo snel mogelijk. Algoritmes van andere beurshandelaren proberen die transacties juist zichtbaar te maken. Iedereen jaagt op verborgen handelspatronen. Snelheid is daarbij essentieel, milliseconden vertraging maken het verschil tussen een winst van tientallen of honderden miljoenen dollars.’
Voorbeeld: de Boston Shuffle, ‘1250 quotes in 2 seconds, cycling the ask price up 1 penny a quote for a 1.0 rise, then back down again in a single quote (and drop the bid size at that time for a few cycles)’
Grimmige wolkenkrabber
Het fascineert de man met de coole nerd-uitstraling dat die abstracte computerhandelingen ook concrete gevolgen hebben in de zichtbare werkelijkheid. Omdat elke bank zo snel mogelijk aandelen wil verhandelen, willen ze een zo snel mogelijke internetverbinding. ‘De fysieke locatie Wall Street speelt geen rol meer. Iedereen huurt een ruimte in 60 Hudson Street, een grimmige wolkenkrabber op de plek waar de grootste internetkabel Manhattan aan de buitenwereld verbindt. Dat gebouw is leeggeruimd en volgestouwd met enorme servers. De duurste vierkante meters om te huren op heel Manhattan, kostbaarder dan een uitzicht op Central Park.'
'Op 60 Hudson Street zie je algoritmes vertaald in architectuur. De storm Sandy heeft er geen effect op gehad, omdat de ondergrondse leidingen goed zijn beschermd. Bovendien is er nog een tweede datacentrum voor Wall Street: Mahwah in New Jersey. Die locatie werd niet vastgesteld door handelaren of banken, maar door een algoritme: dat berekende dat Mahwah het minst risico liep op kernrampen, neerstortende vliegtuigen, aardbevingen of superstormen. En het werkte, want Sandy leverde geen schade op voor Mahwah. Conclusie: algoritmen zijn geen kwaadaardige verschijnselen die de aardbol overnemen, maar kunnen zeer nuttig zijn.’
12 jaar basketbal
Al kunnen algoritmen de mens wel overbodig maken. Het bedrijf Narrative Science heeft een algoritme bedacht dat sportdata of beurskoersen in journalistieke verhalen vertaalt. Artikelen, die zelfs door Forbes worden gebruikt. Kevin Slavin vreest niet dat Narrative Science journalisten vervangt. ‘Conventionele journalistiek is niet de vertaling van een aantal feiten naar papier, maar het bieden van context, interpretatie. Computers kunnen steeds beter schrijven – alsof ze mensen zijn – maar meer ook niet.'
'Er zit ook een voordeel aan Narrative Science: er worden enorme hoeveelheden data geproduceerd en vastgelegd, waar niemand in geïnteresseerd is. Neem de basketbalwedstrijden van twaalfjarigen. Misschien is er één persoon op aarde daarin geïnteresseerd. Veel te duur om een mens daar een artikel voor te laten produceren, maar de machine kan dat wel. Overigens is een van de merkwaardige dingen van computers dat ze beter zijn in schrijven dan in lezen. Naar data kijken en ze interpreteren als een mens, dat valt nog niet mee.’
Onmenselijk algoritme
Algoritmes zijn niet almachtig, wil Slavin maar zeggen, dus we hoeven er niet bang voor te zijn. ‘Ik ben optimistisch noch pessimistisch. Als mensen bouwen we tools om de wereld te begrijpen en naar onze hand te zetten. Dit zijn onze meest recente tools. Gevaarlijk is wel dat we zelf niet meer begrijpen wat er in die algoritmes staat, het zijn echte zwarte dozen voor ons geworden. Op zich is het een geruststellende gedachte dat ooit een mens die algoritme heeft geschreven, maar vaak zijn ze zo geformuleerd dat ze zelfstandig nieuwe algoritmen voortbrengen. Die subcategorie heeft geen menselijke auteur en is in essentie onbegrijpelijk.’
Analfabeten
Met zijn lezingen, zijn onderwijs aan de New York University en zijn publicaties probeert Kevin Slavin ons ‘algo-analfabeten’ tot meer inzicht te brengen. ‘We leren wel hoe bijvoorbeeld een krant in elkaar zit, hoe we de media moeten lezen. Waardoor belandt een verhaal op de voorpagina, welke vooroordelen zitten er bij een journalist verscholen? Zo moeten we ook leren algoritmen te begrijpen’.
‘Een goed voorbeeld is een honkbalwedstrijd. Die levert een enorme hoeveelheid complexe data op. Hoe vertaal je die in een verhaal? Een mens begrijpt instinctief dat hij de fans van het thuisspelende team een ander verhaal moet vertellen dan de fans van de uitploeg. Dat komt omdat we altijd denken aan de ontvanger, aan wie we een verhaal vertellen. Als een algoritme verslag doet van die wedstrijd, zit er ook een visie, een vooroordeel in dat verhaal. Maar het blijft onpersoonlijk, wij mensen herkennen het niet. Daarom moeten wij algo-analfabeten die verhalen leren lezen.’
Computertechnici zouden meer openheid moeten geven over wat ze in die black boxes stoppen, vindt Slavin. Maar hij ziet het niet snel gebeuren. ‘Als Google vertelt hoe hun algoritme werkt, springt de concurrentie daar bovenop. Dat zou een financieel debacle betekenen voor Google. Voor ons consumenten is het genoeg te weten dat het basisalgoritme van Google ervan uit gaat dat informatie steeds waardevoller is naarmate er door andere informatie naar verwezen wordt.’
‘Twintig jaar geleden had je een vergelijkbare discussie. Men was bang dat mensen alleen maar nieuws van de televisie haalden. Het was beter om ook boeken te lezen, kranten, met mensen in een bar te praten. Altijd krijgen mensen informatie via diverse kanalen binnen. Nu is de algoritme dominant, maar niet exclusief. Over een tijdje komt er weer iets anders. Vergeet niet dat politiek of architectuur ook ons leven beïnvloeden, maar niet alles bepalend zijn. Je kunt een gebouw vermijden, verhuizen, niet op een politicus stemmen. Er is altijd een keuze.’
Bron: Volkskrant
