„Jede hinreichend fortschrittliche Technologie ist von Magie nicht zu unterscheiden.“ (Arthur C. Clarke) – Jörg Dräger und Ralph Müller-Eiselt erklären, welche Rolle Algorithmen spielen und wie wir dieser Herausforderung gerecht werden können
Als Datenschützerin habe ich mich bereits relativ ausführlich mit dem Thema Algorithmen befasst und war gespannt auf „Wir und die intelligenten Maschinen“. Jörg Dräger ist Physiker, ehemaliger Wissenschaftssenator von Hamburg und aktuell Vorstand der Bertelsmann Stiftung. Als Experte für digitalen Wandel hat er zusammen mit Ralph Müller-Eiselt, der das Programm Megatrends der Bertelsmann Stiftung leitet, bereits das zweite gemeinsame Buch über Digitalisierung verfasst.
In dem einführenden Abschnitt „Wir in der algorithmischen Welt“ erklären die beiden, was Algorithmen sind und welche Vorteile Künstliche Intelligenz hat. „Menschen irren“, das ist uns allen bewusst. Und sie sind in puncto Datenverarbeitung deutlich weniger leistungsfähig als Maschinen. Die riesigen Datenmengen, die täglich generiert werden und analysiert werden sollen, können schon längst nicht mehr von Menschen verarbeitet und ausgewertet werden. Künstliche Intelligenz ist in vielen Punkten der natürlichen Intelligenz überlegen, was ein gewisses Unbehagen auslöst, mit dem die Science Fiction bereits seit Jahrzehnten spielt. Viele denken bei KI immer noch an Terminator oder andere menschenähnliche Kreaturen, die sich in der Manier von Frankenstein und Co von den Fesseln ihrer Schöpfer befreien und die menschliche Spezies zu zerstören trachten. Hierbei wird verkannt, dass maschinelle Assistenzsysteme lediglich Erweiterungen der natürlichen Intelligenz darstellen und uns in vielen Bereichen hervorragende Dienste leisten können. Das Problem ist ein ganz anderes: „Aktuell jedenfalls liegt die Gefahr weniger in einer Übermacht einer maschinellen Intelligenz als vielmehr in ihrer Unzulänglichkeit.“ (28) Kurz: Auch Algorithmen irren. Problematisch ist das insofern, als sie bereits unseren Alltag prägen: In sozialen Netzwerken führen sie Nutzerinnen und Nutzer in persönliche Echokammern, in denen die eigene Weltsicht immer wieder bestätigt wird. Das Optimierungsziel ist nämlich nicht, ein möglichst facettenreiches Weltbild zu kreieren, sondern die Generierung von Aufmerksamkeit. Wir reagieren auf besonders emotionale oder polarisierende Beiträge und verweilen immer länger dort, wo man uns haben will. Dass ein ominöser Facebook-Algorithmus die Art, wie wir die Welt sehen in irgendeiner Weise prägt, ist vielen Usern bereits mehr oder weniger bewusst, da das Thema medial relativ stark rezipiert wird. Inwiefern unsere Geschicke aber in vielen anderen Bereichen durch Algorithmen gelenkt werden, merken wir meist gar nicht. Ob im Finanzwesen oder in der Medizin, in den Bereichen Sicherheit und Justiz, bei der Personalauswahl oder bei der Nutzung einer Übersetzungssoftware – Algorithmen prägen unseren Alltag sehr viel stärker als wir meinen. Anhand von zahlreichen Beispielen aus der Praxis, führen uns die Autoren vor Augen, was bereits gemacht und woran noch gearbeitet wird. Die Reise in die Welt der Algorithmen führt uns dabei um die ganze Welt. In Australien kommen beispielsweise bei zahlreichen Entscheidungsprozessen Künstliche Intelligenzen zum Einsatz, was nicht immer unproblematisch ist. Die USA ist natürlich Vorreiter – und China, das ab 2020 die Totalüberwachung durch eine Social-Credit-System verwirklichen möchte, was zeitlich vermutlich nicht ganz klappen wird. Deutschland und Europa hinken etwas hinterher, doch die Autoren sehen die Chance, gerade dadurch in absehbarer Zeit eine Spitzenposition in puncto Kompetenz erarbeiten zu können, wenn die Politik den digitalen Wandel und die daraus resultierenden Folgen nicht verschläft.
Maschinen sind und bleiben Assistenzsysteme, oder wie es der letzte Satz des Buches sehr gut auf den Punkt bringt: „Maschinen müssen den Menschen dienen.“ (217) Dies muss immer wieder in den Fokus gerückt werden. Dazu ist es dringend erforderlich, dass Verbraucherinnen und Verbraucher eine „algorithmische Kompetenz“, eine Literacy auf diesem Gebiet erwerben. Sobald wir lediglich als passive Konsumenten in Erscheinung treten, haben wir eigentlich schon verloren, da wir uns dann in einer Position befinden, die vielleicht bequem sein mag, aber letztendlich Ohnmacht bedeutet.
Vier Faktoren betrachten die Autoren in diesem Zusammenhang als entscheidend: „[P]olitischen Gestaltungswillen, zivilgesellschaftliches Engagement, verpflichtende Folgeabschätzungen und strukturierte Partizipation“ (179). So wie der Gesetzgeber vor über 100 Jahren auf die neue Mobilität auf den Straßen reagiert hat, um die Zahl der Verkehrstoten zu reduzieren, muss er jetzt auf den vermehrten Einsatz von KI reagieren. Wichtige Entscheidungen, die von Algorithmen getroffen werden, müssen Verbraucherinnen und Verbrauchern transparent gemacht werden, da sonst das Grundrecht auf informationelle Selbstbestimmung nicht mehr gewährleistet ist. Es muss klar sein, auf welcher Grundlage ein Algorithmus Entscheidungen fällt. Und die Bedeutung von Daten muss den Menschen endlich bewusst gemacht werden, denn „Algorithmen sind immer nur so gut wie die Datensätze, mit denen sie trainiert werden.“ (135)
Künstliche Intelligenzen werden – entgegen landläufiger Meinung – nicht allein von Programmierinnen und Programmierern exakt auf bestimmte Kriterien festgelegt, sondern sie lernen. Und je nachdem, wie die Daten, mit denen sie trainiert werden beschaffen sind, lernen sie eben auch Vorurteile – etwa dann, wenn Polizisten in den USA verstärkt Viertel, in denen viele Schwarze leben, kontrollieren. Wo vermehrt nach Delikten Ausschau gehalten wird, werden auch mehr Delikte aufgedeckt – und die KI lernt basierend auf diesen Datensätzen rasch, so dass Vorurteile häufig zusätzlich zementiert werden. Aus solchen Gründen muss gewährleistet sein, dass Algorithmen regelmäßig überprüft werden. Mit unserem Auto müssen wir schließlich auch alle zwei Jahre zum TÜV.
Der Einsatz von KI bringt viele Möglichkeiten – etwa im Bereich der Medizin, der Personalisierung von Lernprozessen oder bei der fairen Vergabe von Schul- und Studienplätzen – mit sich. Doch müssen wir das, was Algorithmen leisten auch stets hinterfragen und überprüfen. Nur, wenn Politik und Verbraucher aktiv werden, können wir die Herausforderungen, die Künstliche Intelligenz mit sich bringt, auf eine für den Menschen positive Weise bewältigen.
Jörg Dräger und Ralph Müller-Eiselt haben mit „Wir und die intelligenten Maschinen“ einen wichtigen Beitrag zur Debatte geleistet, der hoffentlich viele Leserinnen und Leser erreicht. Das wäre ein erster Schritt in Richtung algorithmische Kompetenz.
Jörg Dräger; Ralph Müller-Eiselt: Wir und die intelligenten Maschinen. Wie Algorithmen unser Leben bestimmen und wie wir sie für uns nutzen können
erschienen am 15. April 2019
www.randomhouse.de