“Manche Maschinen sind Menschen – philosophisch gesehen”

“Manche Maschinen sind Menschen – philosophisch gesehen”

Als zeitgenössischer Philosoph plädiert der australische Denker Huw Price für ein Innehalten: Wir müssen zunächst einmal verstehen, was unsere menschliche Intelligenz ist, bevor wir viel über Künstliche Intelligenz reden.

Bisher, sagt Huw Price, gehört die Zukunft uns, nicht den Maschinen – denn nur der Mensch ist in der Lage, sich Szenarien in der Zukunft vorzustellen.

Was erwartet uns, wenn wir in eine Zukunft mit Künstlicher Intelligenz und maschinellem Lernen blicken?

Huw Price: Ich bin ebenso wenig ein Futurist wie ein Techniker. Meine Rolle in diesem Bereich hier in Cambridge besteht darin, ein Befähiger zu sein, der dazu beiträgt, dass Dinge geschehen. Dinge, die – mit der Schaffung unseres neuen „Centre for the Future of Intelligence“ – dabei unterstützen, eine Gemeinschaft von Menschen zu fördern, die in der Lage sind, die richtigen Fragen zu stellen. Im Moment können wir diese wahrscheinlich noch nicht einmal fragen.

Sprechen wir über das Centre for the Future of Intelligence – über welche Art von Intelligenz reden wir hier?

Huw Price
HUW PRICE ist Bertrand-Russell-Professor für Philosophie und Fellow des Trinity College an der University of Cambridge. Er ist Akademischer Direktor des Leverhulme Centre for the Future of Intelligence und war Gründungsdirektor des Centre for the Study of Existential Risk, das er 2012 zusammen mit Martin Rees und Jaan Tallinn gründete. Vor seinem Umzug nach Cambridge war er ARC Federation Fellow und Challis Professor für Philosophie an der University of Sydney, wo er von 2002 bis 2012 Direktor des Centre for Time war. Huw Price ist auch Fellow der British Academy (Bild: Huw Price)

Price: Eine gute Frage! Aus einer leicht skeptischen Sichtweise fragen die Leute: Wir wissen nicht einmal, was Intelligenz ist; wie können Sie vorschlagen, ein Zentrum über deren Zukunft zu gründen? Meine Antwort darauf lautet: Lasst uns nicht darüber nachdenken, was Intelligenz ist, sondern was Intelligenz tut. Es gibt Dinge an uns, die dafür verantwortlich sind, dass wir die erfolgreichste Spezies auf dem Planeten sind. Was auch immer das ist, es ist – zumindest im Prinzip – auch für Maschinen möglich. Was auch immer diese spezifisch humanoiden Inhaltsstoffe in uns sind, sie existieren nicht in anderen Spezies.

Nehmen wir die aktuelle Debatte über „Fake News“ und die Suche nach Wahrheit, in der wir darüber diskutieren, was eine Tatsache ist und was nicht. Gibt es eine Überschneidung zwischen Logik und Intelligenz?

Price: Ich denke, dass logisches Denken eher ein Aspekt der Intelligenz ist. Es ist eine raffinierte Form des symbolischen Denkens, eindeutig eine Schlüsselkomponente der Intelligenz. Aber ich denke, Intelligenz ist viel breiter als echte Logik.

Was ist dann der Unterschied, die Besonderheit der beiden?

Price: Wir können problemlos sagen, dass es die Intelligenz ist, die uns von anderen Tieren unterscheidet und die für den Aufstieg verantwortlich ist, den wir Menschen im Moment auf dem Planeten vollziehen. Und das können wir mit Zuversicht sagen, ohne zu wissen, was die verschiedenen Bestandteile der Intelligenz sind. In gewisser Weise ist Logik lediglich eine Art Abstraktion von einem Aspekt symbolischer Argumentationsprozesse.

Ist eine der Fähigkeiten die Begabung, Zukunftsszenarien vorherzusagen?

Price: Menschen sind offenbar zu dem fähig, was man „Szenarienplanung“ nennen kann. Wir können uns vorstellen, was wir als mehrere Optionen einer möglichen Zukunft betrachten. Das ist im Grunde das, was passiert, wenn wir mit Entscheidungen konfrontiert werden. Diese Entscheidungen stehen im Zusammenhang mit Dingen wie Kurzzeitüberleben. Vorstellungskraft beispielsweise ist Teil des menschlichen Denkens und wir nutzen sie die ganze Zeit, um Entscheidungen zu treffen. Dies stellt eine Erweiterung, eine Ausarbeitung dessen dar, was wir bei der Planung von Szenarien auf hoher Ebene anwenden. Das muss natürlich etwas sein, das wir mit riesigen Mengen an Abstraktion und Informationsverarbeitung tun, denn wir haben nur die Fähigkeit, mit einem kleinen Teil der Informationen, mit denen wir konfrontiert sind, auf einem solchen Kontrastniveau umzugehen.

Als wir eine Lebenserwartung von 20 Jahren hatten, waren unsere Risikoszenarien begrenzt. Die meisten von ihnen gingen in die Mythologie und Religion. Wie wichtig ist dabei unsere eigene Zeitwahrnehmung? Auf welche Weise hängen unsere Lebenserwartung und die Fähigkeit der Szenarioplanung aus Ihrer Sicht zusammen?

Price: Ich denke, dass die grundlegende Fähigkeit des phantasievollen Denkens mit dem Überleben und Gedeihen über recht kurze Zeiträume verbunden ist. Für diese grundlegenden kognitiven Fähigkeiten machen die Differenzen in unserer Lebensspanne keinen großen Unterschied. Unsere Vorfahren überlebten bereits lange genug, um diesen Fertigkeiten Relevanz zu verleihen. Es gibt viel zu sagen über die Zusammenhänge zwischen dieser Art von Aktivität, dieser Art von phantasievoller und vorausschauender Aktivität und unserem intuitiven Zeitverständnis. Eine der Erkenntnisse der modernen Physik ist, dass die intuitive Auffassung von Zeit irreführend ist. Wir haben das Gefühl, dass es so etwas wie einen Fluss oder einen Lauf der Zeit gibt und dass die Zeit an sich gerichtet ist. Aus der Physik jedoch wissen wir, dass dies falsch ist. Es ist ein altes Projekt von Philosophie und Wissenschaft, eine Unterscheidung zwischen jenen Aspekten der Welt, die in der Welt selbst wirklich objektiv sind, und jenen, die in gewissem Sinne von uns kommen, zu erforschen. Wir wissen jetzt, dass viele dieser intuitiven Aspekte der Zeit tatsächlich von uns kommen. Sie liegen auf der subjektiven Seite, so wie auch Dinge wie Farbe, Geschmack und Geruch auf der subjektiven Seite liegen.

Müssen Maschinen unsere Vorstellungskraft erlernen, um uns ähnlicher zu werden? Ist das das entscheidende Element?

Price: Eine Maschine müsste eine Szenarioplanung machen, wenn sie sich wie ein Mensch verhalten wollte. Aber das ist oft gar nicht nötig. Ein Netzwerk von Maschinen ist in einem anderen Sinne auch nur eine einzige Maschine. Ich glaube nicht, dass es einen großen Unterschied machen würde, wie wir die Maschinen gestalten.

Was werden wir in den nächsten zehn Jahren sehen?

Price: Wir werden viel mehr Menschen sehen, die über die langfristige Zukunft der Künstlichen Intelligenz nachdenken; darüber, wohin uns diese Technologie führt, wo die Chancen liegen, wo wir etwas bewegen können. Meiner Ansicht nach müssen wir jetzt vor allem die Gemeinschaft der Menschen, die über diese Fragen nachdenken, erweitern. Insbesondere müssen wir junge Menschen aus vielen verschiedenen Bereichen finden, Menschen, die ihre Karriere damit verbringen werden, über diese Themen nachzudenken; Menschen, die wirklich einen Unterschied machen werden, wie sich dieser Übergang in ein Maschinenzeitalter gestalten wird, in dem wir den Planeten mit nicht-biologischer Intelligenz teilen. Und genau diese Menschen werden es sein, die die wichtigen Entscheidungen treffen.

Das Szenario ist also, dass wir unseren Lebensraum mit nicht-biologischer Intelligenz teilen werden?

Price: Ja, auf jeden Fall. Wir haben eine sehr unklare Vorstellung davon, was die Fähigkeiten dieser Maschinen sein werden, aber wir können ziemlich sicher sein, dass die meisten Dinge, die wir mit unserem Gehirn tun können, auch Dinge sein werden, die Maschinen tun können. Und es kann gut sein, dass sie Dinge tun können, an die wir noch nicht einmal gedacht haben.

„Der Mensch als Industriepalast“ von Fritz Kahn (1888-1968) Kahns modernistische Visualisierung des Verdauungs- und Atmungssystems als „Industriepalast“, eigentlich ein Chemiewerk, entstand in einer Zeit, in der die deutsche Chemieindustrie die fortschrittlichste der Welt war (Bild: akg-images/Universal Images Group)

Ist das eine utopische oder dystopische Idee für Sie?

Price: Ich denke, dass es an beiden Enden des Spektrums Möglichkeiten gibt, über die man nachdenken sollte. Wir müssen nicht nur darüber nachdenken, was auf der Sicherheitsseite zu tun ist, um die dystopischen Möglichkeiten zu vermeiden, sondern auch die Bandbreite der Möglichkeiten zum utopischen Ende des Spektrums zu klären. Es kann durchaus sein, dass die Technologie unterschiedliche Wege gehen kann, die in mancher Hinsicht gut und in anderer Hinsicht schlecht sein können. Daher scheint es klug zu sein, ein Ziel zu bestimmen, bevor wir diesen Weg einschlagen. Ich möchte damit sagen, dass es einen wichtigen Unterschied zwischen der Entwicklung eines selbstfahrenden Autos und der Frage nach der Zukunft der Künstlichen Intelligenz gibt. Im Falle des selbstfahrenden Autos wollen Sie etwas, das Sie effizient von A nach B bringt. Im Falle der Künstlichen Intelligenz haben wir im Allgemeinen keine Ahnung, wo es eingesetzt wird und noch alarmierender ist, dass wir keine Ahnung haben, was die möglichen Ziele sind.

Computer können bereits heute eine wesentlich größere Menge an Informationen verarbeiten als jeder Mensch.

Price: Genau. Nicht-biologische Intelligenz wird Zugang zu riesigen Datenmengen haben, und das wird es ihr ermöglichen, Dinge zu tun, die wir Menschen nicht tun können.

Reden wir damit auch über die Verarbeitung und die Anwendung der Daten, um neue Erfindungen zu schaffen, oder werden Maschinen unsere Assistenten bleiben, um uns bei der Innovation zu unterstützen?

Um als intelligent bezeichnet zu werden, muss die Maschine etwas mit den Daten anfangen. Ich mag diese Sichtweise nicht, da sie suggeriert, dass wir uns in der ersten Phase befinden, in der wir die Daten haben und in der zweiten Phase der Künstlichen Intelligenz. Das Problem zu lösen, bedeutet nur die Fähigkeit zu verstärken, etwas zu tun. In der Tat haben wir viele Maschinen, die in der Lage sind, verschiedene Dinge mit Daten zu tun, genau wie wir selbst. Trotz der Tatsache, dass sie Zugriff auf viel mehr Daten haben, sind die aktuellen Maschinen nicht in der Lage, viele der Dinge zu tun, die wir mit Daten tun können. Mit voranschreitender Zeit ist es wahrscheinlich, dass wir Maschinen entwickeln werden, die die gleichen allgemeinen Fähigkeiten haben wie wir. Das wird es ihnen ermöglichen, Lehren aus den Daten in einem Fall zu ziehen und sie auf einen anderen Fall anzuwenden. Es wird diese Art von Verallgemeinerung sein, die uns so leichtfällt, welche diese Maschinen in Zukunft ebenfalls vornehmen können werden.

Sind Sie grundsätzlich zuversichtlich oder gibt es etwas Besonderes, das Ihnen Hoffnung gibt?

Price: Zu diesem Zeitpunkt erweisen sich diese Technologien als nützlich für viele Zwecke und kommerziell sehr wertvoll, ganz zu schweigen von einer Art wissenschaftlicher Faszination für das Thema. Was kommen wird? Erstens bin ich kein Experte und zweitens konnten selbst die Experten nicht mit Sicherheit sagen, dass es in einem bestimmten Zeitrahmen passieren wird. Aber mein Verständnis entspricht einem vernünftigen, mittleren Standpunkt zu diesem Zeitpunkt. Im Prinzip sehen wir ein Hindernis, aber auch keine grundlegende technologische oder wissenschaftliche Barriere, die dies verhindern würde.

Glauben Sie, dass wir eine exponentielle Entwicklung im Sinne einer neuen industriellen Revolution erleben werden?

Price: Ich möchte noch einmal betonen, dass ich kein Experte in diesem Bereich bin, ich bin ein Philosoph. Experten auf diesem Gebiet denken, dass wir wahrscheinlich einige konzeptionelle theoretische Schritte davon entfernt sind, Maschinen mit einem so breiten Spektrum an Möglichkeiten zu entwickeln, wie wir sie selbst haben. Aber, wie bei Vorhersagen in jedem wissenschaftlichen Bereich, handelt es sich dabei zu einem gewissen Anteil um Vermutungen.

Was sind für Sie als Philosoph die faszinierendsten Fragen, die sich aus dieser Entwicklung ergeben?

Price: Ich habe mein philosophisches Leben mit Fragen wie der Natur der Zeit und den Grundlagen der Quantentheorie verbracht. Ich möchte klarstellen, dass es nicht viel Beschäftigung mit meinem Berufsleben als Philosoph gibt. Meine Rolle im Zentrum ist vielmehr die eines Befähigers oder Moderators; jemand, der daran mitwirken kann, andere Menschen zusammenzubringen, um Dinge zu verwirklichen. Dennoch denke ich, dass einige der philosophisch interessantesten Fragen sich darauf beziehen, ob die Maschinen jemals eine Einheit sein werden, von denen wir denken, dass sie ihre eigenen Interessen haben. Für viele Menschen hängt dies davon ab, ob Maschinen irgendwann einmal bewusst sein werden – was auch immer das bedeutet. Und es gibt eine Reihe von Fragen, ob unsere eigene Zukunft als Mensch ganz auf der biologischen Seite bleibt oder ob wir irgendwann die Möglichkeit haben, uns vielleicht so zu verbessern, dass wir zu Hybriden werden, teils biologisch, teils nicht. Dadurch hätten wir Zugang zu einer größeren Bandbreite an Fähigkeiten. Zum Beispiel könnten wir sofort auf viel mehr Daten zugreifen. Dann denken einige Leute, dass es Szenarien gibt, in denen wir völlig unbiologisch werden. Wir laden uns in Computer oder dergleichen hoch. Es gibt also eine Menge faszinierender langfristiger Probleme in diesem Bereich, und es könnte sich herausstellen, dass einige von ihnen wahr werden. Insbesondere die Frage, ob wir wollen, dass die Maschinen Werkzeuge oder Instrumente bleiben – etwas, das Sie ein- oder ausschalten können, ohne sich Gedanken über den moralischen Status der Maschine zu machen, etwa so, wie Sie mit Ihrem Staubsauger umgehen. Manche Menschen gehen davon aus, dass das die Art von Zukunft ist, die wir uns von der Künstlichen Intelligenz wünschen. Egal wie schlau sie sind, sie sehen sie einfach als Werkzeuge. Andere denken, dass der natürliche Weg in die andere Richtung geht und wir Menschen daher in einer Welt leben würden, in der Maschinen moralische Mittler sind. Und es könnte sich herausstellen, dass dies auch Auswirkungen auf die Sicherheit hat.

Besonders interessant sind die ethischen Implikationen. Wie würden Sie sich den ethischen Herausforderungen stellen, wenn wir davon ausgehen, dass eine nicht-biologische Intelligenz mehr sein kann als nur eine Klimaanlage? Werden wir das dann immer noch als Maschine bezeichnen?

Price: Ich möchte den Begriff „Maschine“ nicht in diesem Sinne verwenden, weil ich es für selbstverständlich halte, dass wir nur Maschinen sind. Wir sind biologische Maschinen. Einige Maschinen sind auch Menschen im philosophischen Sinne, Einheiten mit Interessen und moralischer Handlungsfähigkeit. Ob die nicht-biologischen Maschinen jemals von dieser Art sein werden, wird eine Entscheidung sein, der wir uns stellen müssen. Es ist eine Entscheidung, der wir uns bewusst und nicht zufällig stellen sollten. Eine der dystopischen Möglichkeiten besteht darin, dass wir eine Zukunft schaffen, in der wir die möglichen emotionalen Fähigkeiten intelligenter Maschinen nicht anerkennen und damit eine Dimension des Leidens schaffen. Das wäre nicht in erster Linie für uns dystopisch, sondern für die Maschinen.

Zurück zu den konzeptionellen Schritten: Was ist der „Point of no Return“, an dem wir die Kontrolle über unseren Fortschritt verlieren?

Price: Ich denke, es ist eine Einbahnstraße, einfach wegen des kommerziellen und anderen Drucks auf die Entwicklung der Technologie. Dies lässt die Möglichkeit einer weiteren großen Katastrophe außer Acht, die sich auf das Niveau unserer Technologie auswirkt. Dies ist andererseits seine Gelegenheit für den Planeten. Wie haben die Möglichkeit, innezuhalten und Dinge anders zu tun.

Gegner der Entwicklung der Künstlichen Intelligenz argumentieren, dass wir nicht Gott spielen sollten. Was halten Sie als Philosoph davon?

Price: Ich denke, wir sollten vorsichtig sein, wenn wir Gott spielen. Aber wir sollten erkennen, dass das Leben uns manchmal mit Entscheidungen konfrontiert, die wir einfach treffen müssen. Die Entscheidung, ob wir bewusstseins- oder leidensfähige Maschinen bauen wollen, ist eine Entscheidung, die wir treffen müssen, ob wir mögen oder nicht. Ein allgemeines Desinteresse, daran Gott zu spielen, nimmt uns nicht die Entscheidung ab – weil wir es sowieso tun müssen.

Interview: Alexander Görlach

Das Interview ist Teil der Publikation „Entering a New Era: The Impact of Artificial Intelligence on Politics, the Economy and Society“ (PDF) des Vodafone Instituts für Gesellschaft und Kommunikation.