23/05/2023
Door Ad Spijkers
Ga in dialoog met kinderen over ethische en sociale normen voor kunstmatige intelligentie.
Relationele vaardigheden van kinderen zijn unieke inspiratiebronnen voor de ontwikkeling van mensgerichte kunstmatige intelligentie (AI). Maar kinderen worden nog te weinig betrokken bij de publieke dialoog over AI-systemen. Het DesignLab van Universiteit Twente en kinderrechtenorganisatie KidsRights te Amsterdam deden in Nederland uniek onderzoek dat zij volledig richtten op kinderen en jongeren.
Onderzoek
Doel van het onderzoek is om ethische en sociale waarden op te halen, zowel over huidige interacties van kinderen met AI-systemen als over hun blik op toekomst. Hiermee willen DesignLab en KidsRights bijdragen aan het bevorderen van brede en betekenisvolle participatie van kinderen.
De ontwikkelingen op het gebied van AI gaan snel. Zo snel dat we niet moeten vergeten ook naar de ethische beperkingen te kijken en wat het betekent voor kinderen. Kinderen dragen ethische standaarden aan waar volwassenen niet aan denken. De initiatiefnemers roepen de Nederlandse overheid op kinderen en jongeren te betrekken bij het opstellen van ethische normen voor mensgerichte AI. Nu lijkt alles wat technisch mogelijk is ons te overkomen, ook de schadelijke effecten. Kinderen en jongeren zijn kwetsbaar. Ze moeten worden beschermd en betrokken en wij moeten ons door hen laten inspireren.
Het onderzoek onder 374 kinderen in de leeftijd tussen vier en zestien jaar levert nieuwe inzichten op. Die zijn van groot belang voor de ontwikkeling van AI-systemen. Zo vroegen onderzoekers de kinderen naar positieve en negatieve ervaringen met AI-systemen in hun dagelijks leven, zoals het overnemen van diverse maatschappelijke rollen. Op de vraag of kinderen geholpen willen worden door een robotverkoper in winkels antwoordt 55,3% van wel en 41% van niet. De meerderheid denkt dat robots hier beter presteren dan mensen.
Nieuwe inzichten
Op de vraag of een politieagent een robot mag zijn is 54,8% tegen en 41,5% voor. De groep die tegen is, denkt dat robotagenten hun veiligheid kunnen bedreigen. Ook een robothuisarts is volgens de meeste kinderen een slecht idee: 61,3%, ten opzichte van 35,3% die dat wel willen.
Kinderen geven aan menselijke eigenschappen en waarden belangrijk te vinden en dat deze niet verloren mogen gaan in de ontwikkeling van AI-systemen. AI moet in dienst staan van de mens, die menselijke check is belangrijk voor ze. Zo zien ze AI wel zitten als oplossing voor een maatschappelijk relevant probleem, bij voorbeeld een robot die kinderen helpt met dyslexie. Maar een robot wordt niet als vriend gezien, met name door het gemis van menselijke geletterdheid, troost, humor en empathie.
Gedachten van kinderen vertaald in ethische en sociale waarden:
- "Robots missen menselijke eigenschappen"
- "Robots hebben geen emoties"
- "Robots geven geen liefde"
- "Robots hebben geen eigen mening"
- "Robots kunnen niet troosten"
- "Robots mogen niet de wereld overnemen"
- "Robots moeten mij helpen"
- "Robots moeten met mij kunnen spelen"
Dialoog
Veel kinderen (70,6%) kenden vóór het onderzoek de term AI niet. Wel wist uiteindelijk iedereen dat zij dagelijks met een grote verscheidenheid aan AI-systemen te maken hebben. Voorbeelden van slimme systemen waar kinderen AI in herkennen zijn onder andere computers, smart tv's, thermostaten, smartphones, slimme deurbellen, robotgrasmaaiers en -stofzuigers. Het tweede waar kinderen AI in herkennen of mee associëren zijn verschillende merken. Voorbeelden zijn Google, Playstation, Youtube, TikTok, Netflix, Apple Watch, OV-chipkaart of de bestelzuil van McDonald's.
In het onderzoeksrapport AI-register van kinderen in Nederland: Het bewustzijn, ethische en maatschappelijke waarden en ideeën van kinderen over AI-systemen lichten de onderzoekers toe dat er nog veel onduidelijk is over de implicaties van AI-systemen op de ontwikkeling van kinderen. Een brede en vroegtijdige dialoog helpt hierbij. Kinderen ondervragen naar hun bewustzijn van en ideeën over AI is cruciaal in de ontwikkeling naar meer mensgerichte AI-systemen en voor de discussie wat het betekent mensgericht te zijn. Zeker in een wereld waar technische ontwikkelingen als ChatGPT, GPT Force en Internet of Things al niet meer weg te denken zijn.
Foto: Universiteit Twente