„Vielleicht wollen wir unsere sozialen Wurzeln wiederentdecken“

„Vielleicht wollen wir unsere sozialen Wurzeln wiederentdecken“

Pascal Finette, Singularity University: um sich der aktuellen, schnelllebigen Realität unserer Zeit anzupassen, benötigt die Demokratie neue gesellschaftliche Rahmenbedingungen.

Sie untersuchen und ergründen den technologischen Fortschritt im Bereich Digitalisierung, Data Mining und Künstliche Intelligenz. Innovationen im Alltag. Was ist das erste, was Sie Leuten erzählen, die keine Ahnung haben, worum es bei Ihrer Arbeit geht und wie die Zukunft aussehen wird, die Sie so begeistert beschreiben?
Pascal Finette
: Ich glaube, das Wichtigste, was verstanden werden muss, ist, dass das Morgen dramatisch anders aussehen wird als heute. Und mit Morgen meine ich nicht in zehn Jahren – sondern buchstäblich Übermorgen. Die Technologie entwickelt sich in einem nie dagewesenen Tempo und die Geschwindigkeit des Wandels nimmt immer mehr zu. Es ist berauschend (und manchmal auch beängstigend), dies zu sehen, es zu studieren und herauszufinden, wie es morgen (und übermorgen) aussehen wird.

Ist diese rasante Veränderung ein Segen für Sie oder ein Fluch? Wenn Sie sagen, der digitale Wandel wirke sich schon „übermorgen“ auf die Gesellschaft aus, desto mehr fallen doch messianische Hoffnung und eschatologische Angst zusammen. Aus diesem Grund werden Theorien des technologischen Fortschritts wie die Singularität als ideologisch beschrieben.
Ich glaube nicht, dass sich die Auswirkungen des digitalen Wandels binär oder schwarz-weiß beschreiben lassen. Exponentiell beschleunigte Technologien bieten erstaunliche Möglichkeiten und können natürlich auch von schlecht gesinnten Personen und Organisationen missbraucht werden. Die Technologie selbst (und damit auch die „Singularität“) ist eher agnostisch gegenüber ihrem Einsatz für Gut und Böse. In dieser Gleichung steht der Mensch im Mittelpunkt – es liegt also an uns zu entscheiden, wie wir die Technologie nutzen wollen. Und wenn es um Menschen geht, bin ich im Großen und Ganzen optimistisch. Wie wir Ende der 90er Jahre bei eBay geschrieben haben: Wir glauben, dass die Menschen grundsätzlich gut sind.

Dieser Optimismus findet sich auch in den Leit- und Grundprinzipien von Google „Don’t be evil“ wieder. Wir sind in weniger als einer Minute ziemlich philosophisch geworden. Ist Ethik, die Fähigkeit, zwischen Gut und Böse zu unterscheiden, etwas, wozu Algorithmen oder Maschinen fähig sind? Ich meine, offen gesagt, wenn die künstliche Intelligenz ihr Wesen von uns, den Menschen, unseren Daten, unserem Verhalten nimmt, warum sollte sie dann agnostisch sein? Agnose bedeutet auf Griechisch „nicht wissen“. Beim maschinellen Lernen dreht sich alles um Wissen.
Ich glaube, dass Maschinen auf absehbare Zeit keine eigenen ethischen oder moralischen Entscheidungen treffen werden. Sie bringen jedoch einen sehr guten Punkt zur Sprache – künstliche Intelligenz basiert auf maschinellem Lernen; daher ist es sehr wichtig, dass unsere Anweisungen an die Maschinen nicht einseitig oder unvollständig sind. Mein ehemaliger Arbeitgeber Mozilla hat gerade eine Initiative gestartet, um die Vorurteile zu überwinden, die Spracherkennungssysteme haben, aufgrund der begrenzten Trainingssets, denen sie ausgesetzt sind.

Im Jahr 2011 gewann IBMs Computerprogramm Watson in die Quizshow „Jeopardy“, in dem sich die Teilnehmenden sich mit ihrer Allgemeinbildung und den natürlichen Sprachkenntnissen behaupten müssen. Foto: IBM.
IBMs Avicenna-Software (in der Abbildung in grün) erkennt mögliche Embolien genauso gut wie ein Radiologen (in der Abbildung rot). Foto: IBM.

Maschinen replizieren also nicht nur die Einseitigkeiten, Vorurteile und Ungerechtigkeiten unserer Gesellschaften, sondern setzen uns ihnen auch exponentiell aus: Sie „verkürzen“ die Welt, in der wir leben. Gibt es eine Chance, dass wir bessere Menschen werden, wenn wir an der Beseitigung von Verzerrungen beim maschinellen Lernen arbeiten?
Nur um dies zu verdeutlichen – viele, wenn nicht die überwiegende Mehrheit der Anwendungen für künstliche Intelligenz / maschinelles Lernen werden kein Verzerrungsproblem haben, da die Datensätze, auf denen sie trainiert werden, keine Vorurteile haben. Denken Sie an all die industriellen Anwendungen für künstliche Intelligenz oder so etwas wie die Wettervorhersage – die Datensätze für diese Bereiche sind genau das: Daten (ohne menschliche Vorurteile). Die Herausforderung kommt, wenn wir künstliche Intelligenzen auf menschliche Fragen trainieren – zum Beispiel Spracherkennung wie im Fall Mozilla. Und ja – künstliche Intelligenz hat das Potenzial, uns zu besseren Menschen zu machen, indem sie auch das genaue Gegenteil tut. Denken Sie an einen personalisierten Newsfeed, der mir ausgewogene Ansichten zu einem Thema von Interesse präsentiert, anstatt nur parteiische Ansichten.

Bleiben wir bei den positiven, unvoreingenommenen Aspekten des maschinellen Lernens. Welcher Bereich wird Ihrer Meinung nach am meisten davon profitieren: Gesundheit, Mobilität oder die Politik?
Jeder Bereich, der große Datenmengen erzeugt und darauf aufbauend Entscheidungen trifft, wird vom maschinellen Lernen profitieren. Selbstfahrende Autos sind nur durch ausgeklügelte maschinelle Lernalgorithmen und reichlich Rechenleistung möglich, IBMs künstliche Intelligenz Watson ist bereits ein besserer Radiologe als ihre menschlichen Kollegen, und die Landwirtschaft in großem Maßstab setzt zunehmend auf maschinelles Lernen, um den landwirtschaftlichen Ertrag zu steigern. Politik ist knifflig, da so viel menschliches Verhalten im Spiel ist.

In der Politik gibt es neue Ansätze wie die deliberative Demokratie, ein Modell, das im Grunde davon ausgeht, dass die Parlamente, die wir kennen, nicht wirklich alle gesellschaftlichen Gruppen vertreten. Gleichzeitig können aber mit Hilfe von Algorythmen Lösungsansätze für eben diese Repräsentationsprobleme entworfen werden. Was halten Sie von einem solchen neuen Ansatz für die Demokratie?
Ein faszinierender Ansatz. Die Fluid-Demokratie und noch unmittelbarere und direktere Formen der elektronischen Stimmabgabe sind nicht nur interessant, sondern auch Konzepte, die die Art und Weise, wie wir Demokratie leben, verändern können. Aus meiner Sicht besteht die Herausforderung darin, dass wir es mit Systemen zu tun haben, die ziemlich verkrustet sind, sich mit Wahlzyklen von vier Jahren oder mehr bewegen und über starke Kräfte verfügen, die die Systeme so halten, wie sie sind. Wenn man dies mit der Tatsache kombiniert, dass der zivile Sektor nicht gerade der Arbeitgeber der Wahl für einige unserer klügsten Köpfe ist, kann man sehen, warum die Herausforderung der Neugestaltung von Politik so groß ist.

Die Frage wurde daher mehr als einmal gestellt. Wer ist verantwortlich: Google oder die Politik? Die großen digitalen Innovatoren mit all den jungen High-Potential-Codierern, die für sie arbeiten, oder die staatlichen Institutionen, die mit der Gesetzgebung betraut sind, aber nicht die Klügsten und Mutigsten (mehr) anziehen?
Ich glaube nicht, dass Google (oder Facebook oder Apple etc.) das Sagen hat. Sie haben vielleicht Einfluss darauf, was wir online sehen und tun – aber sie haben sicher nicht die Macht, Sie für Ihr Verhalten ins Gefängnis zu stecken. So bin ich viel mehr darüber besorgt, dass Regierungen die Datenspuren, die wir hinterlassen, ausnutzen oder sogar missbrauchen, als dass Google mir mehr Sachen im Namen ihrer Werbekunden verkaufen will. Und ja, es beunruhigt mich sehr, dass sich die klügsten Köpfe in den Ländern der Welt darauf konzentrieren, die nächste hippe Social-Local-Mobile-Foto-Sharing-App zu entwickeln, anstatt sich auf die Lösung der großen Herausforderungen der Menschheit zu konzentrieren.

Sicherlich kann Google Sie nicht ins Gefängnis stecken, aber wenn Sie zwischen einem Tag im Gefängnis und keinem Zugriff auf alle Ihre Google-Dienste wählen müssten, bin ich mir ziemlich sicher, dass viele Leute das Gefängnis dem Verlust all dessen vorziehen würden, was Sie in der Google-Wolke haben. Aber das ist (Glück für uns!) nur hypothetisch. Sie waren an vielen dieser Arbeiten beteiligt, die sich auf die Lösung der großen Herausforderungen der Menschheit konzentrierten. Und Sie sagten zu Beginn unseres Gesprächs, dass die Veränderungen durch künstliche Intelligenz schon bald sichtbar und erlebbar sein werden. Was ist das bahnbrechendste, was wir im nächsten Jahr erleben werden: keine Dürren mehr? Den Krebs besiegen? Bei künstlicher Intelligenz denken viele gleich eher an das Gesicht von Arnold Schwarzenegger als Terminator, als an ein positives, vertrauenswürdiges Gesicht.
Wir machen große Fortschritte im Gesundheitswesen. Nicht nur durch die Möglichkeiten der künstlichen Intelligenz, sondern auch durch Genetik, digitale Biologie und Stammzelltherapie. Die Aussichten, Krankheiten wie Krebs bis zu Sichelzellen zu heilen, stimmt einen auf jeden Fall optimistisch. An der Schnittstelle zwischen Mensch und Maschine werden interessante Arbeiten durchgeführt – Prothesen, die mit Ihrem Nervensystem verbunden sind und es Patienten ermöglichen, ihren Roboterarm mit großer Präzision zu bewegen oder zu bedienen. Und verstehen Sie mich nicht falsch, wir stehen erst am Anfang dessen, was möglich ist. Vieles von dem, was wir heute sehen, ist immer noch grob, funktioniert nicht ganz so wie angekündigt oder ist einfach nicht so hilfreich. Jede neue Technologie durchläuft diese Phasen.

Pascal Finette führt das Programm Entrepreneurship an der Singularity University, zu dem auch Programme wie das Start-up-Programm, Global Expansion und der Entrepreneurship Track gehören, wo er Unternehmer inspiriert, ausbildet und befähigt, die schwierigsten Probleme der Welt mit Hilfe exponentieller Technologien anzugehen. Pascal leitete die Platform Solutions Group von eBay in Europa, leitete das Innovation Lab von Mozilla, entwickelte das Beschleunigerprogramm Web FWB von Mozilla und investierte in soziale Organisationen rund um den Globus bei Google.org. Foto : Pierre Le LŽannec.

Was halten Sie von den Debatten und Forderungen nach einer Robotersteuer oder einem universellen Grundeinkommen, um die gesellschaftlichen Auswirkungen der künstlichen Intelligenz aufzufangen?
Die Robotersteuer kann ich nicht verstehen. Das universelle Grundeinkommen (Universial Basic Income – UBI) macht für mich aber viel Sinn und wir haben einige vielversprechende Vorstudien, die darauf hindeuten, dass UBI eine unternehmerischere Kultur und damit insgesamt ein höheres Bruttoinlandsprodukt sowie mehr Zufriedenheit und Erfüllung fördert. Es ist jedoch nur ein Anfang – wir müssen noch viele weitere Studien durchführen, um die richtige Formel zu finden.

Wenn ich es richtig verstehe, ist der Fall einer Robotersteuer zweierlei: Erstens geht es darum, unsere Ansichten über die Besteuerung der Arbeit einer Person zu klären, und zweitens geht es darum, neue Ideen der Umverteilung zu untersuchen. Es geht vor allem darum zu verhindern, dass eine neue globale Elite den durch die Arbeit von Robotern erzeugten Reichtum anhäuft, was sich auch auf die zunehmende Arbeit der künstlichen Intelligenz erstreckt. Und sie versucht, die Frage der gerechten Besteuerung (wenn immer weniger Menschen an der Finanzierung der staatlichen Aufgaben beteiligt sind) und der Umverteilung im Allgemeinen anzugehen.
Wir sind wohl meilenweit von einer „fairen Besteuerung“ entfernt – das zeigt sich  sowohl in der zunehmenden Kluft von Wohlstand  in der Gesellschaft zwischen dem oberen Prozent und dem Rest der Bevölkerung. Diese Kluft zieht sich durch die meisten, wenn nicht gar alle Länder der Welt. Es zeigt sich auch darin, dass die Wirtschaft zwar wächst, aber in den letzten Jahrzehnten nicht zu höheren Einkommen in der Mittelschicht führt. Ich kann nicht sehen, wie die Robotersteuer das lösen soll- leider. An dieser Herausforderung werden wir sicher noch lange arbeiten müssen. Ich persönlich vermisse diese Debatte, also die Diskussion über eine Umverteilung des Wohlstands- nicht nur, dass wir das Problem nicht verstanden haben, wir reden nicht einmal darüber.

Was halten Sie also von gerechteren, besseren Gesellschaften durch den Fortschritt der künstlichen Intelligenz? Ich sehe, dass die Debatte bereits in vollem Gange ist, aber ich bin mir nicht sicher, ob die Aussicht auf eine Welt ohne Arbeit, in der wir alle Maler und Dichter sein können, das richtige Szenario ist.
Ich glaube, es werden mindestens zwei relevante und wichtige Fragen aufgeworfen: eine über die finanziellen Auswirkungen, die andere über die menschlichen Auswirkungen. Heute, in unserer Gesellschaft, beziehen wir einen großen Teil unseres Selbstwertgefühls aus unserer Arbeit. Es bietet nicht nur die finanziellen Mittel, um zu leben (und sich zu entfalten), sondern trägt auch zu unserem Selbstverständnis und unserem gesellschaftlichen Status bei. Nehmen Sie einen Job weg und wir müssen viel mehr als nur das finanzielle Sicherheitsnetz überdenken (und umsetzen).

Ich bin völlig Ihrer Meinung, aber was tun wir dagegen? Der Historiker Yuval Noah Harari schrieb kürzlich einen Artikel für den Guardian, in dem er behauptete, dass sich Millionen von Menschen an Virtual-Reality-Spielen beteiligen könnten, um beschäftigt zu sein. Ist das die große neue Welt, auf die wir zusteuern?
Das ist ein bisschen apokalyptisch für mich. Aber dann – man kann argumentieren, dass eine virtuelle Realität irgendwann einmal besser und einnehmender sein wird als das, was Geeks gerne als „meat-space“ bezeichnen. Das wirft die Frage auf: In welchem Raum leben wir?

Hararis Punkt war, dass wir, die menschliche „Spezies“, uns schon so lange mit dieser Art von Virtual-Reality-Spiel beschäftigen: Dieses Spiel wird Religion genannt. Wir sammeln Punkte, wir steigen auf oder ab, Himmel, Hölle oder Fegefeuer. Für mich ist das nicht unbedingt apokalyptisch, sondern zwingend in dem Sinne, dass Spielen (Homo ludens) mehr Teil unserer Natur zu sein scheint, befriedigender und somit mehr Teil unserer Identität, als wir täglich denken. Aber lassen Sie mich mehr über „meat-space“ erfahren.
Ohne zu sehr auf die lange Debatte über (organisierte) Religion einzugehen, befinde ich mich mehr im Spektrum des Glaubens an Selbstbestimmung. Wahrscheinlich noch wichtiger ist, dass das in Hararis Artikel skizzierte Szenario (bis zu einem gewissen Grad) den Glauben an eine wohlwollende Gottheit / einen Herrscher erfordert.

Was mich am meisten irritiert, und das passt zu Ihrem Glauben und diesem Ansatz, ist, dass Menschen, die sich in dieser virtuellen Welt engagieren, jeglicher Eigenverantwortung und Autonomie beraubt werden. Für mich wirft dieses Szenario die Frage auf: Was gibt uns Menschen Würde, wenn das Konzept der Eigenverantwortung nicht mehr funktioniert, was definiert unser Selbstwertgefühl, wenn es nicht die Narrative unserer Leistungen ist?
Sie haben ein ausgezeichnetes Argument vorgebracht. Ich denke, wir müssen zwei Richtungen in Betracht ziehen, um diese Frage zu beantworten: Auf der einen Seite müssen wir die Definition von „Leistungen“ erweitern, um mehr als nur unsere Karriereleistungen zu umfassen, um Themen wie unsere bürgerlichen Pflichten / unser Engagement usw. einzubeziehen. Andererseits sollten wir vielleicht unsere sozialen Wurzeln wiederaufgreifen und Erfüllung aus unseren sozialen Interaktionen und der Fürsorge für die Gemeinschaften, in denen wir leben, finden.

Ein Interview von Alexander Görlach.

Das Interview ist Teil der Studie “Entering a New Era”  des Vodafone Instituts.