„Das störende Rauschen“ – Daniel Kahneman und seine Kollegen untersuchen, wie der Zufall unsere Entscheidungen beeinflusst
Nachdem sich der Kognitionspsychologe und Nobelpreisträger für Wirtschaftswissenschaften, Daniel Kahneman, in „Schnelles Denken, langsames Denken“ mit dem Problem kognitiver Verzerrungen (Bias) befasst hat, widmet er sich gemeinsam mit zwei Co-Autoren in „Noise. Was unsere Entscheidungen verzerrt – und wie wir sie verbessern können“ verrauschten Ergebnissen, die dem Zufall geschuldet sind. Noise ist die Zufallsstreuung, die genau wie Bias zu fehlerhaften Urteilen führen kann und bei der Urteilsbildung eine ebenso große Rolle wie die systematische Abweichung (Bias) spielt, doch bisher sind sich nur wenige Organisationen der Problematik bewusst. Bias wird mittlerweile systematisch bekämpft, während Noise immer noch weitgehend ignoriert wird, weil wir anders darüber nachdenken. Es fällt uns leicht, Ereignisse in der Rückschau zu interpretieren. Wenn wir das Ergebnis bereits kennen, ist es vergleichsweise einfach, Gründe für Urteile zu finden. Wenn z.B. Bewerberinnen, die deutlich besser als ihre männlichen Mitbewerber wären, nicht genommen werden, kann ein Gender-Bias angenommen werden. Daran lässt sich arbeiten. Wenn wir wissen, dass eine Waage immer ein halbes Kilo mehr anzeigt, können wir damit umgehen und entweder immer 500 Gramm von dem angezeigten Gewicht abziehen oder die Waage neu justieren. Ursachen für Ereignisse zu finden, ist ungleich schwerer. Eine kausale Erklärung, die nur für ein einziges Ereignis gilt, wirkt oftmals nichtssagend, etwa: „Sie sind wohl gescheitert, weil Sie sich selbst überschätzt haben“ – oder was auch immer. Hier ist Noise im Spiel, ein Phänomen, das kausal in eine kohärente Einzelfallgeschichte verpackt werden muss, weil wir eben in Kausalitäten denken und uns alles erklären wollen. Die statistische Betrachtung von Sachverhalten, die nötig wäre, um Noise aufzuspüren, fällt uns schwer. Noise ist der unscharfe Hintergrund, dem wir nicht besonders viel Aufmerksamkeit widmen.
Welche Rolle die Zufallsstreuung bei der Urteilsbildung spielen kann, zeigen einige erschreckende Beispiele: Bereits in den 1970er Jahren widmete sich der US-Richter Marvin Frankel dem Zufall bei der Strafzumessung. In einem Extremfall führten äußere Einflussfaktoren (unterschiedliche Richter und deren Ansichten, Vorurteile und Vorlieben) zu einer frappierenden Ungleichbehandlung der Verurteilten: „Zwei Männer, bislang beide nicht straffällig, wurden wegen Einlösung gefälschter Schecks über 58,40 beziehungsweise 35,20 Dollar verurteilt: der erste zu 15 Jahren, der zweite zu 30 Tagen. Für einander ähnelnde Fälle von Unterschlagung wurde ein Mann zu einer Freiheitsstrafe von 117 Tagen und ein anderer zu einer von 20 Jahren verurteilt.“ (20)
Wie ist das möglich? Und wie können derartige Fehlentscheidungen vermieden werden?
Überall wo geurteilt wird, ist auch Noise, der in unterschiedlichen Varianten auftritt: Als Level-Noise wird das Rauschen aufgrund persönlicher Grundeinstellungen einer Person bezeichnet. Experten gelangen wegen verschiedenen moralischen und politischen Weltbildern oft zu komplett unterschiedlichen Einschätzungen und legen Regeln auch unterschiedlich streng aus.
Unter Pattern-Noise wird die Verrauschung durch musterhaft von individuellen Grundeinstellungen abweichende „Einzelfälle“ zusammengefasst. Ein üblicherweise sehr streng urteilender Richter, der bei bestimmten Tätergruppen Nachsicht walten lässt, ist ein Beispiel dafür.
Als Occasion-Noise wird das situative Rauschen bezeichnet. So kann eine richterliche Entscheidung zum Beispiel sehr viel milder ausfallen, wenn die Sportmannschaft, deren Fan der Richter ist, am Vortag gewonnen hat.
System-Noise bezeichnet schließlich die Streuung der Urteile mehrerer Individuen zur gleichen Sache.
Statistisch spielt Level-Noise die größte Rolle. Auf Seite 146 wird die unterschiedliche Verteilung der verschiedenen Arten von Noise anhand eines Beispiels folgendermaßen zusammengefasst: „Richter urteilten auch sehr unterschiedlich darüber, bei welchen Angeklagten mit einem höheren Fluchtrisiko zu rechnen ist. Einem Angeklagten, dem ein Richter ein niedriges Fluchtrisiko bescheinigt, wird von einem anderen Richter, der im Allgemeinen nicht strenger urteilt, ein höheres Fluchtrisiko zugeschrieben. Diese Ergebnisse sind ein klarer Anhaltspunkt für Pattern-Noise. Eine detaillierte Analyse enthüllte, dass Unterschiede zwischen den Fällen 67 Prozent der Varianz erklärten und System-Noise 33 Prozent. System-Noise beinhaltete ein wenig Level-Noise, also Unterschiede in der durchschnittlichen Urteilsstrenge, aber der größte Teil (79 Prozent) entfiel auf Pattern-Noise.“ (146)
Nun stellt sich natürlich die Frage, wie sich das menschliche Urteilsvermögen verbessern ließe.
Wir müssen uns erstmal dessen bewusst werden, welche Rolle Noise spielt – das menschliche Urteilsvermögen liefert zum Beispiel deutlich schlechtere Ergebnisse als einfache Modelle, die frei von Noise sind. Maschinelles Lernen ist sowohl einfachen Modellen als auch dem menschlichen Urteilsvermögen überlegen. Auch Algorithmen machen Fehler, aber Menschen machen größere Fehler – wir sind nur eher bereit, sie dem Menschen zuzugestehen.
Kahneman und seine Mitautoren empfehlen Organisationen die Durchführung eines Noise Audits. Dabei wird im Rahmen einer Projektstudie, eine Bestandsaufnahme von Noise durchgeführt, um zu ermitteln, wie groß die Nichtübereinstimmung der Bewertungen durch Fachkräfte ist, die die gleichen Fälle bearbeiten. Der Ablauf eines solchen Noise Audits wird im Anhang erläutert.
Letztendlich muss es auch immer darum gehen, sich der Fehleranfälligkeit menschlicher Urteile bewusst zu werden und zur demütigen Position eines Sokrates zu gelangen. „Ich weiß, dass ich nichts weiß“ ist ein guter Ansatz, um Selbstüberschätzung in den Griff zu kriegen.
Zudem sprechen die Autoren von der „Entscheidungshygiene“ (409), die wie die gesundheitliche Hygiene „Prävention gegen einen nicht genau identifizierten Feind ist“ (409). Dadurch, dass wir uns an bestimmte Grundsätze halten, können wir der Zufallsstreuung geschuldeten Fehlern vorbeugen.
Solche Regeln sind zum Beispiel: „Bei Urteilen geht es um Genauigkeit, nicht um Ausdruck der eigenen Persönlichkeit.“ (410) Oder: „Denken Sie statistisch und betrachten Sie den Fall aus einer Außenperspektive.“ (411) Hier hilft zum Beispiel die Beachtung früherer Ergebnisse, die natürlich kein Garant für genaue Vorhersagen sind, aber das Bewusstsein schärfen können.
Weiterhin: „Gliedern Sie Urteile in mehrere unabhängige Aufgaben auf.“ (411) Auf diese Weise sollen wir vor einer übermäßig kohärenten Betrachtungsweise geschützt werden. Ein strukturiertes Entscheidungsprotokoll kann dabei helfen, ein „komplexes Urteil in zahlreiche faktenbasierte Bewertungsdimensionen“ (412) aufzuschlüsseln.
Ein weiterer Grundsatz lautet: „Widerstehen Sie voreiligen intuitiven Schlussfolgerungen.“ (412) Auf unsere Intuition zu vertrauen, löst in uns ein belohnendes Signal aus. Das fühlt sich gut an. Intuitive Urteile sind nicht rundum abzulehnen, jedoch sollten sie sorgfältig geprüft und hinterfragt werden. Disziplin und ein zeitlicher Aufschub der Entscheidung – also, nicht einfach aus dem Bauch heraus -, sind hierbei wichtige Faktoren.
Auch eine gezielte Steuerung des Informationsflusses hilft gegen Noise. Nicht benötigte Informationen, die dazu beitragen könnten, dass der Urteilende voreingenommen wird, sollten nicht herausgegeben werden. In der Forensik ist dies bereits üblich. Gutachtern werden nicht urteilsrelevante Informationen absichtlich vorenthalten, damit nicht allzu schnell ein Gesamtbild entsteht und einzelne Dimensionen berücksichtigt werden.
Zudem empfehlen die Autoren, sich um unabhängige Urteile von mehreren Beurteilern zu bemühen und diese dann zusammenzuführen. Die Einschätzungen sollten dabei vor einer Diskussion vorgenommen werden, um Kaskadeneffekte und Gruppenpolarisierung vorzubeugen.
Zuletzt wird empfohlen, vorzugsweise relative Urteile und relative Skalen zu nutzen, weil der Mensch besser dazu in der Lage ist, Vergleiche anzustellen, als Objekte ohne Vergleich auf einer Skala einzuordnen.
Es gilt vieles zu beachten, was unseren Gewohnheiten widerspricht. Aber wenn wir Noise reduzieren möchten, müssen wir uns aktiv dazu entschließen, uns von liebgewonnenen Glaubenssätzen zu verabschieden. Menschliche Urteilsbildung ist extrem fehlerbehaftet und es gibt zahlreiche Faktoren, die wir uns nicht ausreichend bewusst machen. Dass Kahneman, Sibony und Sunstein nun darauf aufmerksam machen, ist ausgesprochen wichtig. Ich wünsche dem Buch deshalb viele Leserinnen und Leser.
Kahneman, Daniel; Olivier Sibony; Cass R. Sunstein: Noise. Was unsere Entscheidungen verzerrt – und wie wir sie verbessern können
www.penguinrandomhouse.de
erschienen am 17. Mail 2021