© dpa
Welches Bücher von heute werden sich 2038 im Bücherschrank eines Menschen finden?
Kolumne: Das verstaubte Buch aus dem Regal
Gert Scobels Gedanken zu "Ethik der Algorithmen"
Mit einem kleinen Blick nach rechts kann ich, von meinem Schreibtisch aus, ganz oben im Bücherregal ein Buch sehen, das ich lange vergessen hatte. Ich weiß, dass ich dieses Buch während der letzten Umzüge bereits zweimal in der Hand hatte, um es endlich abzugeben und los zu werden.
Das Buch wurde nie auf Deutsch übersetzt, stammt aus dem Jahre 1990 und wurde von zwei australischen Computerwissenschaftlern geschrieben. Mich hat die Wiederentdeckung des Buches vor einigen Tagen, in Vorbereitung zur Sendung, beruhigt, weil sie gleich zwei Vermutungen bestätigte. Beide Vermutungen haben mich mit Blick auf das Thema "Digitalisierung" und die damit verbundenen ethischen Fragen seit Monaten beschäftigt.

Erstmal in einer Sackgasse gelandet
Die erste Vermutung war, dass die vielfach zu hörende Behauptung, nun werde erstmals über ethische Fragen der künstlichen Intelligenz wirklich nachgedacht, definitiv falsch ist. Auch dieses Thema hat Zyklen. In den 90er Jahren verdrängten die Neurowissenschaften, die damals boomenden, ebenfalls recht neuen Computerwissenschaften, die sich mit künstlichen neuronalen Netzen zu beschäftigen begannen.

Leider geriet die Forschung mit der Konzentration auf die so genannten regelbasierten Expertensystemen in eine Sackgasse, was nicht zuletzt an der Idee lag, dass das Schachspiel das Paradigma für menschliche Intelligenz sei: ein schwerer Irrtum, wie einige Forscher und Philosophen schon damals argumentierten.

Vermischung von Realität und Fiktion
Mit den Erfolgen der Deep Learning Verfahren seit AlphaGo hat die ethische Debatte auch in der Öffentlichkeit ein neues, starkes Drehmoment erhalten. Wir stehen jedoch, aus der Perspektive des Buchfundes, in gewisser Weise erst an der Schwelle zwischen einer bloßen Wiederholung alter (aber sehr guter) Argumente und neuen, innovativen Diskussionen und Problemlösungen. Jedenfalls ist die Behauptung eindeutig falsch, solche Debatten - wie die gegenwärtige über die ethischen Auswirkungen der Algorithmen auf den Arbeitsmarkt - seien relativ neuen Datums. Die Diskussion wurde bereits Ende der 80er Jahre geführt.

Noch ein zweiter Punkt hat sich durch die Wiederentdeckung des Buches auf wundersame Weise bestätigt. Was mich an der neueren Beschäftigung mit Künstlicher Intelligenz immer wieder irritiert hat, ist die krude Vermischung von Realität und Fiktion, die die Grenzen beider oft bis zur Unkenntlichkeit verwischt. Das gilt gleichermaßen für solide recherchierte Sachbücher wie Nick Bostroms Bestseller "Superintelligenz" wie für eine Reihe wissenschaftlicher Fachveröffentlichungen, die sich eigentlich auf das beziehen sollten, was bereits existiert oder machbar ist, statt auf feuchte Computerträume.

Entscheidungen der Gegenwart
© suhrkamp
VideoVideo
Buchtipp: "Imaginierte Zukunft"
Da jedoch gerade diese Träume im Garten Eden der KI-Forschung, im Silicon Valley, blühen und als Marketingwerkzeug Milliardenbeträge von Risikokapital zu binden vermögen, sind sie extrem hartnäckig und kaum zu verjagen. "Imaginierte Zukunft" - das Buch des Soziologen Jens Beckert, beleuchtet diesen Aspekt insofern, als es zeigt, wie essentiell fiktionale Erwartungen - und die scheinbar so unmateriellen Vorstellungen von Zukünften - für das ganz reale Handeln in der Gegenwart sind. Es sind jedoch gerade die Imaginationen, die sich zuweilen kaum von denen aus Romanen unterscheiden, die unser Handeln leiten und dazu führen, dass wir in der Gegenwart Entscheidungen treffen, von denen wir hoffen, dass sie uns den imaginierten Zukünften näher bringen (oder sie gerade im Gegenteil verhindern).

Ein neuer Gedanke?
Fest steht, dass in nahezu jeder Diskussion über lernfähige Algorithmen im Hintergrund die in der Popkultur tief verankerten Vorstellungen von einer Matrix, von Terminator und Hal und vielen anderen intelligenten Systemen lauern - zuletzt verstärkt durch einen der besten Science Fiction Filme überhaupt (neben Blade Runner): Ex machina. Wenn man über Künstliche Intelligenz nachdenkt - und es gibt sie, um es klar zu sagen, noch nicht: sie ist bislang ganz und gar von der Qualität einer Fiktion, eines umfangreichen Romans, von dem, wenn überhaupt, erst einige wenige Seiten realisiert worden sind - dann muss man viel Arbeit darauf verwenden, die sich vermischenden Ebenen sorgfältig zu unterscheiden: Die Ebene der Fiktionen und der imaginierten Zukunft, die ihrerseits fiktionale Erwartungen schafft - und das, was es tatsächlich gibt, die Realität. Ein neuer Gedanke?

Endlich einmal gründlich nachdenken
Das verstaubte Buch aus dem Regal hat den Titel "Computer Ethics. Cautionary Tales and Ethical Dilemmas in Computing" (geschrieben von Tom Forester und Perry Morrison, Oxford 1990). Schon damals war also klar, dass sich die Diskussion ganz wesentlich um Geschichten, um Narrative dreht - und diese nicht ganz ungefährlich sind. Caution!

Ich bin gespannt, welche Antworten wir dieses mal finden werden, wie wir die Probleme lösen und wann sie (wenn überhaupt) wieder verschwinden. Und welches der Bücher von heute sich dann, sagen wir 2038, im Bücherschrank eines Menschen finden wird, der der Meinung ist, man müsse über dieses neue Thema der Künstlichen Intelligenz, das diesmal wirklich einen Durchbruch erzielt hat, endlich einmal gründlich nachdenken.





Navigation / Sendung
scobelImmer donnerstags um 21.00 Uhr
Sendung zum Thema
© colourboxEthik der Algorithmen
Die Grenze zwischen Software und menschlichem Verhalten
Innenansichten
Noch mehr Kolumnen
Warum werden in "scobel" bestimmte Themen aufgegriffen und was ist genau an diesen besonders faszinierend? Gert Scobel hat seine Gedanken dazu niedergeschrieben.