vrijdag 6 juli 2018

Het Antropoceen

“You have been reading to much Elon Musk and watching to many Hollywood movies”, zegt de robot Sophia, die in de BBC documentaire A.I. and the future of Human Kind wordt geconfronteerd met de vraag of de mens bang moet zijn voor de toekomst. “My A.I. (Artificial Intelligence) is designed around human values like wisdom, kindness, compassion. Don’t worry. If you will be nice to me I will be nice to you”, stelt Sophia ons vervolgens gerust.


Nu zijn er wel wat kanttekeningen te maken bij dit publieke optreden van Sophia, maar het laat wel zien welke weg er is ingeslagen in A.I. Adequaat reageren op menselijke interactie wordt op verschillende plekken onderzocht. Zo werkt ook IBM aan een project onder de naam ‘Debater’ waarin een robot leert argumenteren:


Knappe koppen waarschuwen dan ook dat A.I. (ofwel kunstmatige intelligentie) mogelijk een bedreiging vormt voor het voortbestaan van de mensheid. Elon Musk hoort in dat rijtje thuis. Musk, de oprichter van Tesla, voorziet grote problemen door deze ontwikkelingen. Robot Sophia is duidelijk op de hoogte van het standpunt van Musk en is het daar dus niet mee eens.
Musk gaat ver in zijn kruistocht tegen A.I. Zo heeft hij zelfs geïnvesteerd in het bedrijf DeepMind om een oogje in het zeil te houden bij Googles ontwikkeling van A.I. De SpaceX-baas heeft bedrijven, die bezig zijn met kunstmatige intelligentie, opgeroepen om het rustiger aan te doen zodat ze niet per ongeluk iets gevaarlijks bouwen. (Bron: Welingelichte Kringen)
Het genoemde Deepmind was van oorsprong een Brits bedrijf dat in 2015 werd overgenomen door Google. Het is gespecialiseerd in het creëren van machines met zelflerende capaciteiten op het gebied van spelletjes. Een computer leert hierdoor spelenderwijs niet alleen van eerder gemaakte fouten, maar blijkt ook in staat om een strategie te ontwikkelen om in de toekomst betere resultaten te behalen.(Bron: Webton) Deepmind heeft inmiddels een kunstmatig neuraal netwerk gebouwd dat videospellen kan leren spelen ongeveer zoals een mens dat kan. Een kunstmatig neuraal netwerk is een statistisch leermodel dat is gebaseerd op biologische neurale netwerken. De netwerken worden getraind door miljoenen voorbeelden te laten zien en langzaam de netwerkparameters aan te passen tot het netwerk de juiste classificaties geeft. (Bron: Visionenrobotics.nl) Het bedrijf haalde het nieuws in 2016 doordat hun programma AlphaGo voor de eerste keer een professionele speler van het denkspel Go versloeg. (Bron Wikipedia)


Het is al met al een interessante techniek voor Google, want de Google zoekmachine is eigenlijk ook een vorm van kunstmatige intelligentie. Je stelt een willekeurige vraag en Google geeft het antwoord. Op de keper beschouwt was de Google zoekmachine eigenlijk de eerste vorm van A.I. Terwijl je typt vult Google aan en geeft ook het antwoord. Google probeert echter continu om gebruikers betere resultaten voor te schotelen. Machine learning (M.L.) vormt dan ook de ideale aanvulling op de conventionele algoritmes die de zoekresultaten bepalen.(Bron: Webton) De focus werd verplaatst van exacte zoekwoorden naar relevantie in de context, kortweg: semantisch zoeken. Dit wordt ook wel betiteld als: From finding ‘strings’ to finding ‘things’. Het bepalen van die relevantie, het koppelen van data zonder exact dezelfde kenmerken, maar met een onderling verband, is een leerproces. Het is lastig om dit mee te nemen in het verwerken van een zoekopdracht die voor het allereerst in Google ingetypt wordt. Je hebt dus een algoritme nodig dat zichzelf traint. (Bron: Frankwatching)
Het heet Google Rankbrain (actief sinds 2016) en werkt als volgt: medewerkers van Google hebben Trainingsdata bepaald, data waarmee het algoritme zelfstandig traint. Deze data bevatten de beste & populairste websites en zoekresultaten. Vervolgens, gaat rankbrain naar deze websites kijken. Op basis van die websites, bouwt Rankbrain dankzij M.L. zijn eigen algoritme. Zelfs de software engineers van Google weten niet hoe dit algoritme is opgebouwd en wat de achterliggende ”gedachte” van Rankbrain is. Belangrijk om te realiseren hierbij is dat er - behalve bij de trainingsdata - dus geen menselijke invloed bij het zoekalgoritme komt kijken. Alles is geautomatiseerd en gaat op basis van M.L. Bij M.L. worden de algoritmes getraind in plaats van geschreven. In het kort: Rankbrain krijgt data, en ontwikkelt vervolgens een algoritme om websites goed te kunnen gaan ranken. Vervolgens wordt dit beoordeeld, en begint het proces weer opnieuw.
Uiteindelijk kijkt de Google zoekmachine nu niet alleen meer naar welke woorden er op je website staan, maar beginnen ze ook te begrijpen wat die woorden en de teksten op jouw website betekenen. Door de betekenis van teksten te begrijpen (context versus content), kunnen ze - volgens Google - nog betere en relevantere zoekresultaten tonen aan hun ‘Googelaars’ (nu dus onafhankelijk van welke woorden exact op een pagina gebruikt worden). (Bron: IMU)

Naast Deepmind is er ook nog een ander Google team onder de naam Google Brain actief op het gebied van A.I. de missie van deze onderzoekers is "to make machines intelligent and improve people’s lives". En die intelligentie van machines is nu precies waar Musk e.a. hun vraagtekens bij zetten. Musk waarschuwt in de documentaire Do you trust this computer? van Chris Paine dat we onbedoeld een ‘onsterfelijke dictator’ kunnen creëren met een A.I., een die slimmer is dan de mens. Een dictator van vlees en bloed is nog sterfelijk, maar een machine heeft het eeuwige leven. Hij roept op om controle te houden en de onderzoeksinstituten te democratiseren, omdat één bedrijf of groep mensen op deze manier een macht kan ontwikkelen om over de wereld te heersen. (Bron: CNBC)

Maar waar hebben we het allemaal over. Zo maar een greep uit recent ontwikkelde A.I. software:
  • Smartphones kunnen spraak verstaan, terugpraten en een route berekenen; 
  • A.I. voor financiële markten leest het nieuws op zoek naar informatie die van belang is voor de beurs en handelt zelf; 
  • Het A.I.-programma DART berekende de logistiek van Operation Desert Storm. 
En Robotica:
  • De zelfrijdende auto van Google leert zichzelf met elk ritje beter hoe hij een bocht optimaal neemt; 
  • De robot MDARS bewaakt Amerikaanse nucleaire installaties; 
  • De MARCbot helpt in Irak bij het onschadelijk maken van explosieven. (Bron: Riskworld
Deze ontwikkelingen leiden tot grote vraagstukken en discussies, die volgens mij ook op scholen niet vermeden kunnen worden. Bij mediawijsheid of burgerschapsvorming zou je dergelijke zaken kunnen aanstippen en met de leerlingen onderzoeken wat de mogelijkheden zijn om invloed uit te oefenen op dergelijke ontwikkelingen en de stroom van toepassingen die een bedrijf als Google continue ontwikkelt. Google (Microsoft en ook andere ict-bedrijven) staat eigenlijk gelijk aan ontwikkeling en vernieuwing. Dat merk je trouwens zelf ook op heel kleine schaal als je vertrouwde overzichtsscherm weer eens grondig is veranderd. Maar willen wij ook alle “vernieuwingen”? En wie heeft de regie?

Het hoort allemaal bij een grotere discussie waarin de term Antropoceen, ‘Het tijdperk van de mens’, opduikt. Het was een Nederlander, scheikundige Paul Crutzen, die het begrip in 2000 introduceerde. Dat de aarde een door en door menselijke planeet is geworden staat buiten kijf. Wij bepalen hoe rivieren stromen, waar landbouwgewassen groeien, en wat ‘ongerepte natuur’ mag blijven. Versteende plantenresten die miljoenen jaren lagen opgeslagen in de bodem worden massaal opgegraven en verbrand. Vis wordt met bakken tegelijk uit de oceaan geschept. Overal ter wereld laat de mens zijn vingerafdrukken achter en dat heeft onvoorziene, vaak ongewenste gevolgen. Hieronder valt ook de ontwikkeling van zelfdenkende computers. Het afkondigen van het tijdperk van de mens gaat gepaard met de roep om een nieuw bewustzijn. De mens moet zich realiseren dat hij het stuur van moederschip aarde in handen heeft – en er dient flink bijgestuurd te worden om niet te crashen.
Er is trouwens veel discussie over de ‘schuld’ die de mensheid aan de huidige ontwikkelingen zou hebben. Sommigen weten precies wie de daders zijn en geven de hele westerse wereld de schuld, anderen het kapitalisme. De Australische filosoof Clive Hamilton: “Het is eerder een vorm van technologische industrialisatie dan het kapitalisme an sich dat de boosdoener is.” Sommigen geloven dat technologie ons juist kan redden. ‘De aarde is een design space’, zegt Braden Allenby, hoogleraar civil and environmental engineering aan de Universiteit van Arizona. Dit is een tijd van ongekende technologische sprongen – een ‘nieuwe fase in de evolutie’, durft Allenby zelfs te stellen. Big data-analyses, kunstmatige intelligentie en M.L., nanotechnologie, allemaal technologie met een verbluffend potentieel om als mensheid het roer weer in handen te nemen. Dat er steeds meer onderzoek wordt gedaan naar geo-engineering,het grootschalig sleutelen aan klimaatsystemen, juicht Allenby dan ook alleen maar toe.(Bron: De Groene)

Zijn we niet - los van wie er nu schuld heeft - de invloed al lang geleden kwijtgeraakt? “De richting waarin onze beschaving zich ontwikkelt, wordt in hoge mate bepaald door een kleine groep, zeer machtige bedrijven”, stelt Thomas van Slobbe - evenals Musk - in zijn Handvest voor het Antropoceen. Thomas van Slobbe staat als directeur van Stichting wAarde aan de basis van het denken over ‘natuurvervaging’, op de drempel van de nieuwe tijd.
Hij schreef de hierover de roman Handvest Antropoceen of de liefde van Toby Zonderveld (in de Mediatheek). Het verhaal gaat over Naomi Schelling, die een uitvinding heeft gedaan op het vlak van kunstmatige klimaatcorrectie en op de vlucht moet voor militairen die haar vinding willen gebruiken. Een parallel verhaal gaat over Suzanne die in 2080 in een wereld leeft die door Google wordt beheerst. Maar er zijn nog ‘gewone’ mensen die kunnen ruiken, voelen en ziek kunnen worden. Eén daarvan is Toby Zonderveld. Het is fictie, maar toch ook niet. Met het Handvest voor het Antropoceen, dat ook in het boek is te vinden, wil Slobbe wel degelijk tot denken zetten. Is het einde van de natuur nabij en vormen zelflerende computers een bedreiging? Uit het Handvest: “De algoritmen van geavanceerde computersystemen bieden ons veel mogelijkheden en zijn als zodanig erg waardevol. Helaas ontbreekt het daarbij vaak (nog) aan adequate voren van overzicht en feedback. Wie beheerst in het Antropoceen, de opeenvolgende generaties zelflerende computers? Daaronder ligt de vraag in hoeverre mensen zich, in de toekomst, zelf kunnen beheersen. Hoe gaan we om met de schier onuitputtelijke hoeveelheid mogelijkheden, die ons (vaak in wervende advertenties) wordt aangeboden? “

Slobbe noemt vijf aandachtspunten die in deze fase belangrijk zijn voor onze verhouding tot onszelf, de ander en de wereld, de zogenaamde Schijf van vijf. Aandacht is het eerste aspect van het Antropoceen dat ons persoonlijk raakt. Aan wie of wat schenken wij onze aandacht? En hebben wij dat zelf nog in de hand? Echte aandacht wordt schaars.


Veranderingen zijn geworden tot een continue stroom van vernieuwingen en degenen die het niet kunnen bijhouden vallen af. We zijn digitaal verbonden, maar waar is de Verbinding met onze eigen leefomgeving, lichaam en geschiedenis? De stabiliteit en samenhang staan onder druk. Alles is maakbaar, maar missen we niet de Wildheid, datgene wat ons zo maar overkomt, de vrije ruimte? En dan het laatste aspect: Perfectie. De ‘perfecte mens’ neemt de ‘perfecte voeding’ en heeft het ‘perfecte uiterlijk’. Perfectie als norm is echter dwingend.
Wat nodig is is een verandering bij de mens. Laat je niet in slaap sussen door allerlei ‘coole’ gadgets. Wij zijn mensen, wij hebben verantwoordelijkheid voor moeder aarde en wij moeten die ook nemen. Te beginnen op school.
Gelukkig zijn ook onze leerlingen met dergelijke vraagstukken bezig. “De technologische ontwikkeling van onze ondergang” is de pakkende titel van een eindwerkstuk van vorig jaar. Hierin stelt de auteur: “Kunnen we A.I. uitschakelen? En wat nou als we te afhankelijk zijn geworden van A.I.? Waar zit bijvoorbeeld de uitschakelaar van het internet? Het belangrijkste is echter dat we niet iets gaan maken wat op een dag ons kan gaan vernietigen. Laten we niet vergeten dat het maken van superintelligentie een uitdaging is. Maar een nog grotere uitdaging is het maken van een veilige A.I. Als iemand de eerste uitdaging aangaat maar de tweede niet, zitten we met een probleem”.

Zie ook: Richardvanhooijdonk, Hoe werkt Machine Learning?

Geen opmerkingen:

Een reactie posten