Je kunt dagelijks in kranten als Het Financieele Dagblad lezen over de zegeningen en de risico’s van algoritmes
Mijn oogmerk is een bespreking van het in 2018 verschenen boek Algoritmes aan de macht (oorspronkelijke titel ‘Hello World-How to be Human in the Age of the Machine’). De auteur Hannah Fry (1948) is daarmee een inmiddels veel geciteerde trendwatcher geworden. De ontwikkelingen gaan zo snel dat op 29 mei 2019 het NOS journaal melding maakt van politieke bemoeienis met de algoritmes die de overheid zelf inzet. Algoritmes komen steeds meer onder het vergrootglas te liggen.
Suikervrij
Lezend in het boek van Hannah Fry (Algoritmes aan de macht) treft mij een fragment van een enkel zinnetje op pagina 50. Quote: ‘En de vrees bestaat dat dit soort data profilering ook tegen mensen gebruikt wordt…en verderop… of suikervrij snoep etende mensen, die als diabeet worden aangemerkt, krijgen als gevolg daarvan een afwijzing voor een verzekering’. Met de opkomst van algoritmes zijn dit gevreesde scenario’s, alhoewel ik betwijfel of dit het geval is in West-Europa. Een valkuil: suikervrij snoep zou kunnen worden toegeschreven aan een stroming in de maatschappij die aan suiker veel negatieve eigenschappen toekent. Misschien zijn dat juist mensen met een gezonde lifestyle? Maar ook zou je kunnen denken aan mensen die (eventueel vermeend) overgewicht willen aanpakken. Kortom, een rechtstreekse relatie met diabetes, met alle consequenties vandien, houdt geen stand.
Geneeskunde
De meeste pagina’s (38) in het boek worden gewijd aan geneeskunde. Juist daar komt ter sprake hoe subtiel de balans, het evenwicht, is tussen publiek en particulier belang bij de inzet van algoritmen. Het publiek, algemeen belang kan zijn dat er minder antibiotica worden gebruik (vanwege kans op meer resistentie). Maar een op een individu gericht algoritme zou uit kunnen komen op een haast automatisch advies tot gebruik van antibiotica bij bijvoorbeeld een lastige hoest. Zie daar een dilemma.
Hello World
Het boek legt goed uit wat het verschil is tussen een enkele beslisboom en een algoritme. Het hoeft niet te verbazen: het kan ook bijna of helemaal mis gaan. Het ongevraagde gebruik van micro profielen via Facebook in verkiezingstijd. Onlosmakelijk verbonden aan Cambridge Analytica. Successen als met PredPol (inzet bij politiediensten) worden ook besproken. Sinds het uitkomen van dit boek (een handboek vind ik het zelf) zijn er alweer tal van nieuwe voorbeelden. We lezen vrijwel dagelijks in de media over ‘foute’ algoritmen die discrimineren op huidskleur en geslacht. De samenwerking mens-machine zal per situatie moeten worden bekeken en waar nodig steeds aangepast.
Links
https://nos.nl/artikel/2286848-overheid-gebruikt-op-grote-schaal-voorspellende-algoritmes-risico-op-discriminatie.html
https://twitter.com/fryrsquared?lang=en
Product
Hannah Fry , Uitgever de Geus, Hello World: How to be Human in the Age of the Machine
