De Ethical Readiness Check is een laagdrempelige methode om na te denken over ethische aspecten van een innovatie. De term Ethical Readiness is afgeleid van Technology Readiness Levels, een maatstaf om te duiden in hoeverre technologieën klaar zijn voor toepassing. De Ethical Readiness Check is erop gericht om naast technische ook ethische aspecten mee te nemen bij de vraag of een innovatie klaar is voor gebruik. De tool bestaat uit een aantal vragen en een workflow als hulpmiddel om het goede gesprek te voeren.
Ethical Readiness en Product Impact
De Ethical Readiness Check vormt een aanvulling op de Product Impact Tool en richt zich explicieter op ethiek. De Product Impact Tool (ontwikkeld sinds ongeveer 2009) biedt een overzicht van concepten en voorbeelden om de impact van techniek van alle kanten op ons mensen begrijpen. Deze aanpak is bedoeld om de effecten van technologieën te analyseren en te helpen ontwerpen voor de gewenste impact op de samenleving, maar zeker ook om ethische reflectie op techniek te stimuleren (Dorrestijn 2020). Maar, in de Product Impact Tool blijft ethiek impliciet, terwijl de expliciete focus en terminologie zich op impact richten.
Om een toegankelijke tool te bieden met de verbinding tussen de impact en ethiek van technologie voorop, hebben we recentelijk (sinds ongeveer 2019) The Ethical Readiness Check ontwikkeld als een beknopte tool in de vorm van reflectievragen over doel en middel.
De Ethical Readiness Check begint met expliciet ethische vragen over doelen. De laatste vraag gaat over de impact van technologie, wat aansluit bij het onderwerp van de Product Impact Tool. De Ethical Readiness Check met vragen over middelen en doelen kan daarom gezien worden als een opstap naar de Product Impact Tool, een opstap bovendien met een focus op de verbinding tussen impact en ethiek.
Vragen over Doel & Middel
De Ethical Readiness Check bestaat uit vragen over doel & middel, twee basisvragen aangevuld met enkele subvragen.
- Dient het middel een goed doel?
- Is het een goed middel voor het doel?
- Wat is het doel van de innovatie?
- Is het een goed doel, of is het doel bedenkelijk of omstreden?
- Is het doel eenduidig, of zijn er conflicterende waarden?
- Zijn er heimelijke bijbedoelingen?
- Is dit het beste alternatief?
- Werkt het middel voor het doel?
- Leent het middel zich voor misbruik of oneigenlijk gebruik?
- Welke (on)bedoelde (neven)effecten kunnen optreden?
Deze vragen worden aangevuld met een workflow en aanwijzingen voor:
- gespreksvoering aan de hand van de vragen,
- verslaglegging en evaluatie van de opbrengst van het gesprek
- opvolging met herontwerp of verdere ethische interventies.
Onder het concept van een Ethical Readiness Check kunnen allerlei varianten worden uitgewerkt. Zo kunnen we de vragen uitbreiden met deelvragen die specifieke afgestemd zijn op het toepassingsdomein. Daarnaast kunnen we de ethische reflectie uitdrukken in verhaalvorm, of inschalen met een cijfer (in aansluiting op de Technological Readiness Levels).
Het ethische deel van de Drone Acceptance Readiness Tool (DART) is een voorbeeld van een Ethical Readiness Check met een schaalverdeling en toegespitste vragen. Deze ethische check maakten we voor Space53, een ontwikkel- en testcentrum voor drones met aandacht voor verantwoord innoveren. De vragen over doel en middel zijn toegespitst op drones. Daarnaast er ook vragen die betrekking hebben op ethiek in de strategie en organisatie van een bedrijf. Voor alle vragen zijn voorbeeldantwoorden gegeven op een schaal in vijf punten. (Download onderliggend canvas voor webtool / Space53 DART website)
De Ethical Readiness Check is laagdrempelig en werkt goed als instap in een Ethisch Paralleltraject. De check kan in opeenvolgende fases van het paralleltraject gebruikt en herhaald worden.
Meer over Doel & Middel
De basisvragen in de Ethical Readiness Check gaan over doel en middel. Daar is voor gekozen omdat het schema van doel & middel op voor iedereen herkenbare wijze ethiek en techniek met elkaar verbindt. Immers, doelen of waarden zijn het onderwerp van de ethiek; en techniek is een middel (hoewel bij nader inzien nooit een neutraal middel, zoals we van de techniekfilosofie techniek leren).
Bovendien vond de aanpak inspiratie in twee specifieke bronnen uit de ethiek en techniekfilosofie. Concrete inspiratie vanuit de ethiek kwam van Dietmar Hübner die in zijn inleiding in de ethiek een zeer heldere conceptuele analyse geeft van de verschillende aspecten van handelingen: zoals doel, middel, effect, neveneffect. Om een doel te bereiken passen we een middel toe. Dit middel kan al dan niet goed werken voor het doel en het kan onbedoelde neveneffecten hebben. (bijv. Hübner 2010; online cursus).
Impliciet gaat deze analyse uit de ethiek al over techniek. Immers, een technologie is volgens een alledaagse definitie die iedereen kent een middel voor een doel. Iedereen kent ook het bijbehorende ethische principe dat het middel geen doel moet worden. Bij het gebruik van een middel moeten we het doel goed voor ogen houden. Wat de doelen of waarden die we nastreven moeten zijn, dat is een algemene ethische vraag. De effecten van het middel, en daarbij ook onbedoelde neveneffecten, komen binnen de ethiek naar voren als onderdeel van de logische analyse van handelingen.
Maar de effecten van technische middelen zijn bij uitstek het onderwerp van de techniekfilosofie, waar het immers gaat over de betekenis en de effecten van technologie. Daarbij is een centraal inzicht dat technologie nooit eenvoudigweg een neutraal middel is. Techniek is altijd geladen met waarden. En naast de eigenlijke functionaliteit zijn er altijd onbedoelde neveneffecten te verwachten.
Een concrete bron van inspiratie uit de techniekfilosofie vormde het artikel “Moraal en technologie: Het einde van de middelen” van Bruno Latour (2002). Latour neemt expliciet het schema van technische middelen voor ethische doelen als startpunt. Maar stelt hij kritisch: “(…) de relatie tussen middelen en doelen zal nooit zo simpel verschijnen als wordt gesuggereerd door de archaïsche scheiding tussen moralisten belast met de doelen en technici belast met de middelen.” (p. 9) Doelen en middelen, mens en techniek zijn verweven is een inzicht van Latour. En dat betekent ook dat techniek ontwerpen niet vrij is van ethiek.
Met betrekking tot onbedoelde effecten wijst Latour er ook op hoe doel en middel die theoretisch heldere onderscheiden kunnen worden in de praktijk door elkaar lopen. De neveneffecten van middelen kunnen namelijk zorgen voor verandering van bedoelingen, waardoor onbedoelde effecten onopgemerkt blijven. “Als men niet opmerkt hoezeer het gebruik van technologie, hoe eenvoudig ook, de oorspronkelijke intentie heeft verplaatst, vertaald, gewijzigd, en heeft omgebogen, dan komt dat eenvoudigweg doordat men van doel is veranderd door van middelen te veranderen, en dat men, door een slippertje van de wil, is begonnen iets heel anders te willen dan bij vertrek.” (p. 8)
Doel & middel vormen dus enerzijds een basisschema in de ethische theorie. Anderzijds vormt het schema het vertrekpunt voor techniekfilosofisch onderzoek. Dat kan impliciet zijn, of expliciet zoals bij Latour (zie ook bijvoorbeeld Oosterling 2000 en Hubig 2002). De vragen over doel & middel zijn eenvoudig in de basis maar er gaat veel inzicht en onderzoek uit ethiek en techniekfilosofie achter schuil.
Bronnen
- Hubig, Christoph (2002). Mittel. Bielefeld: Transcript.
- Hubig, C. (2006). Die Kunst des Möglichen I: Grundlinien einer dialektischen Philosophie der Technik. Band 1: Technikphilosophie Als Reflexion der Medialität (p. 302). transcript Verlag.
- Hübner, Dietmar (2010) „Ethik und Moral“ / „Typen ethischer Theorien“ / „Aspekte von Handlungen“ / „Stufen der Verbindlichkeit“, in: Michael Fuchs, Thomas Heinemann, Bert Heinrichs, Dietmar Hübner, Jens Kipper, Kathrin Rottländer, Thomas Runkel, Tade Matthias Spranger, Verena Vermeulen, Moritz Völker-Albert: Forschungsethik. Eine Einführung, Stuttgart / Weimar 2010, 1–39. Aldaar Aspekte von Handlungen“, p 23 e.v.).
- Hübner, Dietmar (2014) “Doelen, middelen, neveneffecten” (online cursus).
- Latour, Bruno. (2002), ‘Moraal en technologie: Het einde van de middelen’. In: Krisis. Tijdschrift voor
empirische filosofie. 3(3), 3-17. - Oosterling, Henk (2000). Radicale middelmatigheid. Amsterdam: Boom.