Blog_ethiekAIJobHeader
Blog

Ethiek in Artificial Intelligence (AI)

Ben ik bang voor de toepassingen van Artificial Intelligence? Deze vraag wordt mij regelmatig gesteld. En terecht. Hoewel ik de gevaren zie, ben ik een groot voorstander van het gebruik van kunstmatige intelligentie en machine learning.

Job Leemreize

op 27 mrt 2019

De voordelen van het gebruik van AI zijn evident: de technologie stelt ons in staat het maken van beslissingen te reduceren tot een milliseconde. Daarmee houden we meer tijd over en kunnen we de focus verplaatsten naar het juist executeren van de voor ons gemaakte beslissing. Maar er bestaan zeker ethische vragen over de toepassing van AI, waarvoor geen eenduidig antwoord bestaat. In de filosofie gaat het niet om de antwoorden maar om het waarom en de wenselijkheid van het gebruik.

Hoewel de toepassingen in AI zich momenteel nog in een prematuur stadium bevinden, is een doorbraak aanstaande. Het ‘pionieren’ in AI – wat momenteel volop gebeurt – brengt risico met zich mee. Net als zoals de opvoeding van een kind onomkeerbaar is, kan dit ook gelden voor een gevolg van een beslissing door een AI. Een voorwaarde voor het beperken van risico is dat AI door de gebruiker ervan goed begrepen wordt. Ook moet een representatieve dataset gebruikt worden, wil het op een ethische en verantwoordelijke manier worden ingezet.

Een lot door AI laten bepalen

Zo wordt binnen het Amerikaanse rechtssysteem al enige tijd gebruik gemaakt van AI om te bepalen of gedetineerden klaar zijn of herintreding in de samenleving en hoe lang een celstraf zou moeten zijn. De vraag voor mij is of in AI in deze casus wel een hulpmiddel gevonden kan worden. Het nadeel van AI is namelijk dat het wel een antwoord kan voorspellen, maar er geen verklaring gegeven wordt waarom het tot dit antwoord is gekomen. Een rechter die AI gebruikt, neemt namelijk niet de variabelen in ogenschouw waarop de uitkomst van het algoritme is gebaseerd. Dat is nogal tricky, want wat als het algoritme ernaast zat?

Hoewel een rechter, als hij zijn oordeel baseert op zijn eigen cognitieve capaciteit, hoogstwaarschijnlijk ook niet alle variabelen af kan wegen, zit er een ethisch scherpe rand aan de vraag of de data voldoende representatief is en het daarmee kunnen doorgronden van hoe een algoritme – en dus het oordeel – daarmee ethisch tot stand gekomen is. Ook speelt de kwestie of het überhaupt wenselijk is om dit soort beslissingen door een AI te laten maken.

De tekortkomingen in huidige AI-toepassingen

Doordat data vaak versnipperd bestaat op vele locaties en niet geconsolideerd is binnen een kwalitatief hoogwaardige en toereikende dataset, is een algoritme vaak niet bekwaam genoeg om juist te beslissen. Voorbeeld: wanneer je een algoritme laat leren op een 100-tal bloemen en enkel op de features ‘kleur’, ‘lengte’ en ‘aantal doornen’, bestaat er een dikke kans een dat een tulp kan worden aangezien als een roos zonder stekels.

Toch wordt AI vaak al op een degelijke manier ingezet. In de honger naar succes, op zoek naar een innovatief wereldwonder, worden veel algoritmen getraind op basis van te weinig representatieve data. Of er is niet goed nagedacht over de omkeerbaarheid van de door AI gemaakte keuzes in het oplossen van een vraagstuk.

Te precair om van AI te laten afhangen?

Een AI kan vooralsnog geen logische verklaring bieden voor het antwoord waarmee het komt. Wij kunnen hierdoor niet controleren of beslissingen nog wel juist zijn, anders dan deze te toetsen op basis van hoe vaak dit algoritme (achteraf) goed of fout bleek te zijn. In het geval van een roos of een tulp is dit niet zo’n probleem. Maar in het geval van de diagnose van een patiënt of het wel of niet afvuren van een kernbom (en daarmee het aangaan van een oorlog) is dit uiterst riskant en irreversibel.

Desondanks geloof ik in de kracht van AI en de machine learning waar het gebruik van maakt. Sterker nog, ik denk dat dit dé volgende (reeds bekende) mogelijkheid is om de volgende stap in digitalisering te maken. Maar om de ethische toepassing van AI te kunnen waarborgen en zelf enige controle te blijven houden over ons bestaan, stel ik voor om de toepassing ervan te limiteren tot waar filosofie en kunst beginnen. Wetenschap stelt de vraag “wat is” en verklaart hetgeen wat om ons heen gebeurt. Hier kan AI ons prima bij ondersteunen. Ook kan AI dit waarschijnlijk veel beter en sneller doen (als we de juiste voorwaarden voor de creatie van deze algoritmen uiterst goed begrijpen). De filosofie stelt echter de vraag wat “zou moeten zijn” en bepaalt daarmee de mogelijke richtingen van ons bestaan en ons doen en laten. Iets wat naar mijn mening toch gefundeerd is op de logica en scherpe redeneringsmogelijkheden waarmee de mens is toevertrouwd. Daarom zou het ook zeker niet in een gekunstelde vorm van intelligentie gepropt moeten worden. (En ja, ook deze stelling zou ik niet willen laten afhangen van een beslissing door AI).

Sortify: geniet de voordelen van AI voor jouw organisatie

Wil je weten hoe je AI wel kan helpen in toepassingen om beslissingen te maken? En hoe AI perfect kan dienen als een menselijk verlengstuk voor het maken van betere (bedrijfs-)beslissingen? Neem dan eens contact met mij op, of kijk op www.sortify.nl

Job Leemreize

Job Leemreize is Product Development Manager bij Sigmax ICT Specialisten. Zijn specialismen zijn Cloud, Networking & Security, End User Computing en Datacenter.

Meer blogs van Job
Sigmax praktijkcases

Carglass

Vanuit 56 vestigingen en een mobiele service zorgen de 250 monteurs van Carglass dagelijks voor een vakkundige reparatie en vervanging van autoruiten. Om landelijk een snelle service aan klanten mogelijk te maken, digitaliseerde Carglass de serviceplanning en de werkbonnen met Connect.

Lees deze caseCheck alle cases

Gemeente Zaanstad

In Zaanstad kunnen bewoners en bedrijven sinds kort hun parkeerzaken vanuit huis regelen, online of telefonisch. Sigmax hielp de gemeente bij de overstap naar digitaal parkeren, en de handhaving daarop.

Lees deze caseCheck alle cases

Maas International

Om ervoor te zorgen dat klanten dagelijks van hun kopje koffie kunnen genieten, stuurt Maas International BV een 800-tal monteurs en operators op weg om automaten te onderhouden, bij te vullen en waar nodig te repareren. Connect ondersteunt de monteurs en planners optimaal bij deze taak.

Lees deze caseCheck alle cases

Saval

Voorheen planden de monteurs van brandbeveiligingsspecialist Saval zelf hun route en hielden met de hand inspectierapporten bij. Nu gaat alles digitaal met de softwareoplossingen van ORTEC & Sigmax.

Lees deze caseCheck alle cases
Sigmax empowers professionals samen met