Die (Un-)Nachvollziehbarkeit algorithmenbasierter Entscheidungen: Implikationen und Empfehlungen für die Zukunft

Abstract

Algorithmusbasierte Entscheidungen beeinflussen den Alltag zunehmend. Sei es bei Kaufempfehlungen im Online Shopping (Senecal & Nantel, 2004), bei der automatischen Bewertung von Bewerbungsunterlagen (Campion, Campion, Campion & Reider, 2016) oder bei der Diagnose von Krankheiten (Cummins et al., 2013): Algorithmen sind bereits heute allgegenwärtig. Sie unterstützen menschliche Entscheidungen (z. B. in der Personalauswahl; Campion et al., 2016) oder treffen sogar selbstständige Entscheidungen (z. B. selbstfahrende Autos; Urmson & Whittaker, 2008). Jedoch ist der Entscheidungsprozess eines Algorithmus oft intransparent (Biran & Cotton, 2017). Dies kann erstens dazu führen, dass Menschen Algorithmen und algorithmusbasierten Entscheidungen nicht trauen und zweitens dazu, dass algorithmusbasierte Entscheidungen nicht nachvollziehbar sind. Im Falle von Kaufvorschlägen bei Amazon erscheint das wenig problematisch. Würden jedoch Bewerbende auf Grundlage einer algorithmusbasierten Entscheidung abgelehnt, wüssten sie und vermutlich auch die Geschäftsführung gerne die Gründe für die Ablehnung. Noch gravierender sind die Implikationen, wenn Algorithmen für die Diagnose von Krankheiten und damit auch für die Empfehlung von Behandlungen verwendet werden. Diagnostiziert ein Algorithmus beispielsweise bei einer Person eine Depression, wäre es sowohl für das ärztliche Fachpersonal als auch die zu behandelnde Person wichtig zu verstehen, auf welcher Basis diese Entscheidung getroffen wurde. Im Folgenden stellen wir zunächst die Grundlagen algorithmusbasierter Entscheidungen dar. Danach gehen wir näher auf die bereits erwähnten Anwendungsgebiete algorithmusbasierter Entscheidungen ein. Im Anschluss werden Gründe für die Intransparenz von Algorithmen und die Implikationen dieser Intransparenz hinsichtlich der Auswirkungen und zu klärenden Fragen beschrieben. Am Ende geben wir spezifische Empfehlungen für die Verbesserung der Transparenz von Algorithmen und ziehen Fazit.