Hoe zit het met de inzet van Kunstmatige Intelligentie (KI) en ethiek of moraal? Wie is verantwoordelijk als straks mijn zelfrijdende auto toch een slachtoffermaakt? Kan een computer ooit muziek componeren die ons ontroerd en die origineel is? Hieronder een gedeelte van een artikel (november 2017) uit scientas.nl. (HS)
Door Thomas van Zwol
“Het is zeer waarschijnlijk dat KI een keer de verkeerde beslissing neemt. En wie is er dan verantwoordelijk?”
Stel je de volgende situatie voor: een zelfrijdende auto nadert een zebrapad waar een voetganger wil oversteken. Op het moment dat de auto wil gaan remmen om de voetganger over te laten steken, merkt de auto dat de remmen niet meer werken. Na een snelle berekening komt de auto tot de conclusie dat er twee opties zijn: of de voetganger die inmiddels aan het oversteken is, doodrijden of de auto tegen de muur sturen waarbij de bestuurder omkomt. Als deze situatie tijdens de training niet aan bod is gekomen, dan zal de auto uit de situaties die wel aan bod zijn gekomen moeten afleiden wat het moet doen.
Er is sprake van abstracte regels die niet in woorden zijn uit te drukken, maar die het systeem moet halen uit de voorbeelden die het wel kent. Omdat het onmogelijk is om tijdens het leren alle mogelijke situaties aan bod te laten komen, zal het systeem op basis van wat het geleerd heeft, moeten handelen. Maar omdat er enorm veel situaties mogelijk zijn, is er zeer waarschijnlijk wel een specifieke situatie waarin de AI het verkeerde besluit neemt.
“De vraag is dan wie verantwoordelijk is. Wettelijk gezien kan dat allemaal dicht getimmerd worden, maar moreel gezien is het een stuk moeilijker. Dit is ook mijn onderzoeksgebied, want waar ligt die verantwoordelijkheid nou precies? De één vindt bij de AI en de ander bij degene die de AI heeft ingezet, de maker. Het antwoord is niet eenvoudig.” Volgens Broersen zie je dat de discussie al langzaam op gang komt, maar zal hij pas echt gevoerd worden wanneer er ongelukken gebeuren met kunstmatige intelligentie, en die zijn onvermijdelijk als AI overal om ons heen is.
Gedragspatronen
Broersen denkt overigens dat het niet lang meer gaat duren voor KI overal is. Hij verwacht dat over een jaar of twintig de zelfrijdende auto een feit is. Maar KI zal op veel meer plekken te vinden zijn dan alleen in de zelfrijdende auto. “Ik denk dat het overal aanwezig zal zijn en dan vooral in de informatievoorziening en -vergaring. We dragen nu allemaal al een apparaat bij ons waar we alles mee doen en de bedrijven daarachter zullen in toenemende mate artificiële intelligentie gaan gebruiken om onze gedragspatronen te analyseren. Die informatie zullen ze gebruiken om ons te beïnvloeden en te voorspellen wat we willen, want dat is waar AI heel goed in is.”
Zelf is Broersen heel nieuwsgierig of kunstmatige intelligentie ooit in staat zal zijn om muziek te maken die mensen raakt: “Ik denk dat je voor muziek gevoel voor schoonheid en emotie nodig hebt. Als een computer in staat is om muziek te maken die mij raakt, dan zal ik misschien overstag moeten gaan en zeggen dat AI misschien toch in staat is om ons in alle opzichten te evenaren.”
Of dat ooit zo zal zijn is iets wat we moeten afwachten, maar dat de ontwikkelingen snel gaan, daarover bestaat geen discussie.
Thomas van Zwol (1991) heeft de bachelor Kunstmatige Intelligentie aan de Universiteit Utrecht afgerond en is nu bezig zijn opleiding Journalistiek af te maken. Binnen de KI heeft hij zich gespecialiseerd in agents en machine learning. Door zijn wetenschappelijke achtergrond is hij als journalist goed in staat om onderzoeken te begrijpen om de informatie vervolgens op zo’n manier op te schrijven dat het voor veel mensen toegankelijk is.
