„Wir können uns nicht erlauben, utopisch zu denken“
Für den Philosophen Luciano Floridi ist es entscheidend zu verstehen, wofür wir neue Technologien einsetzen wollen – und unter welchen ethischen Aspekten KI zu sehen ist.
Der Forschungsdirektor des Oxford Internet Institute zu sein, scheint selbst eher ein wenig anachronistisch – „Oxford“, eine der ältesten Universitäten der Welt, und das „Internet“, Schöpfer der Modernisierung und Globalisierung. Wie vereinigt man diese beiden?
Luciano Floridi: In der Tat ist es eine interessante Wortkombination. Nehmen Sie die Jahrhunderte der Tradition, kombinieren Sie sie mit der völligen Neuheit und den beispiellosen Problemen, mit denen wir konfrontiert sind, klingt es nicht einfach. Aber wenn man sich die Herausforderungen ansieht, mit denen wir konfrontiert sind, scheint es wie ein wunderbares Rezept, um eine der besten Universitäten der Welt mit einem Institut zu verbinden, das sich auf das Internet konzentriert, was uns schier unendliche Möglichkeiten in der Welt bietet. Ich kann mir keinen besseren Weg vorstellen, das Alte mit dem Neuen zu verknüpfen.
Aber hat Oxford in dieser Hinsicht Nachholbedarf? Oder ist es ein Startschuss, ein Ort, an dem Sie neue Theorien entwickeln und bahnbrechende Maßnahmen vorschlagen? Es scheint so, also würde die USA viel Talent anziehen…
…Nun – beides. Wenn es darum geht, zu verstehen, was passiert, anstatt neue Phänomene zu identifizieren, gibt es viel Neues zu erkennen. Nehmen wir zum Beispiel den Arbeitsmarkt – dank des Internets sehen wir heute riesige Internetunternehmen wie Amazon, die es ermöglichen, Tausende von Menschen in kürzester Zeit einzustellen, was vor einigen Jahren noch undenkbar war. Es gibt eine Menge Nachholbedarf beim Verständnis dessen, wo die Probleme liegen, die das Internet mit sich gebracht hat. Gleichzeitig sollten wir als Gesellschaft politisch führend sein. Ich betrachte es als zwei Schritte; der eine ist der verständnisvolle und der andere der politische Teil. Beide beeinflussen sich gegenseitig, denn die Politik beeinflusst immer das, was in der realen Welt geschieht.
Interessant – es gibt eigentlich ein Argument von Jean Baudrillard, der sagt, dass Amerika eine realistische Utopie erreicht hat, während Europa aufgrund der Bedeutung seiner Geschichte zurückbleibt. In einer utopischen Welt dürfte es aber per Definition keine Politik geben, richtig?
Ja, ich bin mit diesem Argument vertraut. Aber darum geht es nicht ganz. Utopie ist standardmäßig antihistorisch. Sie schafft einen Status quo, der für immer erhalten bleibt – man verbessert die Perfektion nicht. Wir in Europa können uns nicht erlauben, utopisch zu denken. Wir haben eine Menge Geschichte, und wir wissen, dass noch mehr Geschichte kommt. Alles ist geschehen, und in jedem großen Kapitel der Geschichte dachten wir, die Geschichte selbst sei zu Ende – die Ägypter dachten es, die Griechen dachten es, die Römer auch. Kürzlich nach dem Zweiten Weltkrieg, nach dem Fall der Sowjetunion, zu Beginn der Europäischen Union. In manchen Zusammenhängen ist es möglich, utopisch zu denken, weil man nicht genügend Geschichte hat, um zu zeigen, dass es in der menschlichen Natur unmöglich ist, einen Punkt ohne weitere Entwicklung zu erreichen.
Würden Sie sagen, dass die Europäer davon enttäuscht sind?
Im Gegenteil, ich halte uns Europäer für realistischer. Die Ernüchterung mag in Form einer zynischen Sicht der Dinge kommen, aber ich denke, insgesamt haben die Europäer eine erwachsene Einstellung, in der sie erkennen, dass sich die Dinge ändern, immer und immer wieder ändern werden. Die Fähigkeit der Politik ist es in diesem Fall, mit dem Wandel umzugehen und ihn nicht aufzuhalten.
Die Gegenerzählung wäre die Euro-Skepsis, insbesondere gegenüber der Wirtschaft, in der die meisten politischen Parteien unserer Zeit nur Ableger der anderen sind.
Hinzu kommt – die Politik ist und bleibt von sozialen Fragen getrieben. Deutschland musste in den frühen 1900er Jahren wachsen, weil der Weltmarkt von einigen wenigen Kolonialmächten beherrscht wurde, und so kam es zum Ersten Weltkrieg. In den letzten 50 oder 70 Jahren, seit dem Zweiten Weltkrieg, haben wir langsam gesehen, dass die Basis der Politik rein ökonomisch geworden ist. Hören Sie all den Politikern zu, und was sie diskutieren, sind Themen wie BIP, Arbeitslosigkeit, Wachstum. Alles hat mit der Wirtschaft zu tun, und die Debatte dreht sich nicht um das Thema „Sind die Menschen glücklich?“ Alle Fragen nach Glück, sozialer Gerechtigkeit und Gleichheit werden zu einem Nebenprodukt des wirtschaftlichen Fortschritts oder der Rezession. Wir gehen von gesellschaftspolitischen Fragen zu hauptsächlich wirtschaftlichen Fragen über, und ich denke, dass die Zukunft für uns auf anderen Werten als den wirtschaftlichen beruhen muss. Ich spreche nicht gerne von Postmoderne, weil ich es für das Eingeständnis halte, dass uns die Ideen ausgegangen sind, aber wir müssen unsere politische Diskussion neu positionieren.
Und bekommen wir mit der Entwicklung unserer Technologie nicht die Chance, diese Entscheidungen aktiv zu treffen? Nehmen wir die künstliche Intelligenz – wir sind naturgemäß sehr skeptisch gegenüber den ethischen Implikationen, die ein Roboter haben kann, und das wird schon seit Langem diskutiert. Spiegelt das nicht unseren moralischen Bankrott wider? Da wir ohnehin schon dabei sind, kann es nicht als ein Weg für die Menschheit gesehen werden, uns in die wirtschaftlichen Vorteilen niedrigerer Kosten und einer gleichbleibender Qualität zu ergeben?
Vielleicht – wir können tief graben und uns die logischen Konsequenzen ansehen. Die grundlegende Frage, die wir uns jedoch stellen müssen, lautet: Was wollen wir mit der Technologie machen? Ich missachte völlig die Vorstellungen von Singularität und künstlicher Intelligenz, was ich eher als eine Art „Kratzen“ sehe, um bestimmte Juckreize zu bekämpfen. Das Kratzen ist falsch, aber das Jucken ist echt. Das bedeutet, dass es ein Problem in der Tiefe gibt, nämlich die Frage: „Welche Zukunft wollen wir haben“, wenn unsere Welt und unsere Wirtschaft bereits so stark von der Technologie abhängig und geprägt sind. Das ist nur eine andere Art zu sagen, dass die digitale Wirtschaft unser Leben dominieren wird – ist es an der Zeit, dieser Kontrolle eine bestimmte Form zu geben? Künstliche Intelligenz bedeutet, dass wir die Möglichkeit haben, zahllose neue Fortschritte in dem zu erzielen, was digital möglich ist. Es liegt an uns, zu bestimmen, welche Möglichkeiten Wirklichkeit werden.
Wie wirkt sich das auf die beiden Aspekte des Menschen aus, das Bürger-Dasein vs. das Verbraucher-Dasein?
Dort herrscht eine Spannung, und zwar deshalb, weil der Kreis der Wechselwirkungen breiter und weniger sichtbar geworden ist. In der Anfangszeit gab es die Produktion von Waren und den Konsum von Waren – Industrie und Verbraucher. Eine dritte Partei wie der Staat könnte diesen Austausch regeln, aber es gab nur drei Parteien. Heute ist es nicht mehr so. Der Verkauf von Produkten an Kunden ist nicht mehr das Hauptziel. In einer digitalen Wirtschaft geben Sie Ihren Kunden meist kostenlose Dinge. Sie gelten nicht mehr als Kunden, sondern als Nutzer. Und ein Dritter, der eine „Geschenkökonomie“ regelt, hat keinen Zweck. Aber wenn man dazu noch die Analytik und Werbung hinzufügt, ist dieser Kreis der Interaktionen insgesamt viel unübersichtlicher und breiter geworden. Hinzu kommt, dass die Vorstellung, dass Unternehmen Kundendaten verkaufen werden – was viele Menschen aufgrund des „verdunkelnden Kreises“ fürchten – nicht viel Aufmerksamkeit wert ist. Benutzerdaten sind die goldene Gans in dieser Gleichung, und Unternehmen werden nur das goldene Ei verkaufen, d.h. Dienstleistungen, die auf den Daten basieren, die sie besitzen. Sie können die Möglichkeit verkaufen, die Nutzer auf der Grundlage der Daten, die sie besitzen anzusprechen, jedoch nicht die Daten selbst. Die bleiben beim Unternehmen.
Aber wenn Daten diesen Unternehmen so heilig sind, wie sieht dann der Dialog zwischen den Regierungen und den großen Internetunternehmen – Google, Amazon, Facebook – aus? Würden Sie nicht sagen, dass sie völlig gegen die Politik sind? Und Welche Rolle spielt der Bürger dabei?
Die Bürger spielen dabei keine Rolle, denn sie lieben das, was sie bekommen – kostenlose Mail-Accounts, kostenlose Videos, kostenlose Websites, kostenlose Nachrichten, kostenloses Alles. Niemand bei klarem Verstand wäre dagegen! Also – es gibt keine Möglichkeit, Werbung zu verbieten oder zu sanktionieren. Wir dürfen nicht vergessen, dass wir alle, wenn wir über „Menschen“ sprechen, bestimmte Rollen spielen: Benutzer, Verbraucher und Bürger. Manchmal, besonders in Europa, kommt der Patient auch im medizinischen Kontext hinzu (wir neigen dazu, das so zu sehen, weil wir eine alternde Gesellschaft sind). Aber jetzt denken Sie daran, was wir tun, wenn eine Sache nicht funktioniert. Als Bürger, wenn die Politik versagt hat, stimmen wir für jemand anderen. Als Verbraucher haben Sie Gesetze, die Ihren Kauf schützen. Als Nutzer eines kostenlosen Dienstes stecken Sie fest und sind gezwungen, sich abzuwenden. Wenn Ihnen die Google-Suchmaschine nicht gefällt, ist das Ihr Problem. Es gibt einen Mangel an Verantwortlichkeit in dieser Sache, bis an die Spitze. Die fünf Unternehmen, die eine Partnerschaft für künstliche Intelligenz gegründet haben – Microsoft, Google, IBM, Facebook und Amazon – das ist der erste, sehr positive Schritt in die richtige Richtung. Ich bin ein großer Fan davon, und es gibt eine gewisse Erwartung an die Gesellschaft, sich für Rechenschaftsregeln in der Technologie im Allgemeinen und in der künstlichen Intelligenz im Besonderen einzusetzen. Wir brauchen einen weichen und harten Rechtsrahmen, und im Moment ist es noch ein wenig chaotisch.
Allerdings, wenn Sie nun diese Konferenzen beschreiben, was ist Ihr Eindruck davon, was künstliche Intelligenz ist und was der Zustand von Wissen über künstliche Intelligenz ist?
Es wird viel zu viel Wert darauf gelegt, was künstliche Intelligenz leisten kann. Die Leute reden immer von bestimmten Maschinen, was diese Maschinen können und was der Algorithmus dahinter ist. Die Menschen erkennen nicht die Variabilität und den Grad der technischen Umsetzung verschiedener künstlicher Intelligenzen. Der Unterschied zwischen einem Industrieroboter, einem Bot, der einen Wikipedia-Eintrag automatisch aktualisiert, und einem Hausroboter, der den Abwasch erledigt, ist enorm. Das Ergebnis ist, dass wir von der Unermesslichkeit der Möglichkeiten überwältigt werden. Künstliche Intelligenz ist in der Industrierobotertechnik am erfolgreichsten und arbeitet schon seit Jahrzehnten unglaublich erfolgreich. Die Automobilindustrie war schon immer führend, und es gibt Vorschriften. Schauen Sie sich nur die Autonomous-Drive-Debatte und die Akzente an. Wann immer ich mit Menschen auf der ganzen Welt spreche, weiß ich, dass Technologien keine Grenzen respektieren – sie sind feldübergreifend. Es geht darum, einen rechtlichen Rahmen zu finden.
Was ist mit der Vorstellung, dass Roboter uns in Zukunft ersetzen werden?
Es ist lächerlich. So etwas gibt es nicht – wie Debatten in einem sehr esoterischen Kontext – in Universitätshallen, in denen man den Rest der realen Welt vergisst, oder in hitzigen Debatten in Zeitungen. Meine Empfehlung lautet: Schauen Sie zur Tür hinaus und schauen Sie sich an, was es in der Welt gibt. Sagen Sie mir dann aufrichtig, ob Sie, die Person, die eine Roboterübernahme befürchtet, etwas sehen, das auf die Entstehung eines solchen Szenarios hindeutet. Das bedeutet jedoch nicht, dass es nie passieren wird, es bedeutet, dass wir uns keine Sorgen über aktuell vernachlässigbare Sci-Fi-Szenarien machen sollten. Die wirklichen Probleme, die von der künstlichen Intelligenz aufgeworfen werden, sind zu ernst und drängen zu sehr, um unsere Zeit zu verschwenden und sich zu fragen, wie wir jemals überlegene künstliche Intelligenz lehren werden, ethisch zu sein.
Das Interview führte Dr. Dr. Alexander Görlach.
Weitere AI&I
Ethik und Technologie während einer Pandemie
In der achten Ausgabe des "AI&I" vTalk diskutierte Expertin Alena Buyx unter anderem den Erfolg und die Mängel der COVID-19 Tracing-Apps.
