Das selbstfahrende Auto

Daniel Coppen: Wenn wir über selbstfahrende Autos in San Francisco sprechen, ist meine Antwort eindeutig: Technologie.

Tomo Kihara: Die von uns entwickelten KI-Systeme erben unsere menschlichen Voreingenommenheiten. Problematische Vorurteile und Fehler der KI kann man einfach aktualisieren. Die Meinung eines siebzigjährigen Autofahrers zu ändern, der sein ganzes Leben lang rücksichtslos gefahren ist, ist hingegen eine Herausforderung. Deshalb vertraue ich der Technologie in mancher Hinsicht mehr.

D.: Ich bin technikaffin, meinen ersten Computer habe ich mit zehn Jahren bekommen, aber ich bin nicht blind vor Liebe. Obwohl oder gerade weil wir für den technischen Fortschritt sind, gilt es, zu hinterfragen ...

T.: ... und kritisch zu bleiben, wenn es darum geht, wie wir Menschen diese Technologien nutzen.

D.: „How (not) to get hit by a self-driving car“ ist eine physische Spielsimulation, die auf die blinden Flecke selbstfahrender Autos aufmerksam macht.

T.: Die Entwicklung der letzten Jahre ist beeindruckend, aber eben auch noch nicht perfekt! Unsere Spielsimulation enttarnt die toten Winkel der autonomen Fahrzeuge, wenn man so will. Es ist ein sechs mal acht Meter großes Spielfeld mit Zebrastreifen und Verkehrshütchen. Auf der einen Seite steht die Spielerin, auf der anderen ein Bildschirm, der die Perspektive einer KI-gesteuerten Kamera eines selbstfahrenden Autos simuliert – hier sehen sich die Spielerinnen selbst. Gewonnen hat, wer das Spielfeld mithilfe unterschiedlicher Strategien oder Requisiten überquert, ohne von der KI als Mensch erkannt zu werden.

T.: … was den kritischen Punkt unserer Simulation ausmacht, so makaber das auch klingt. Jeder Sieg einer Spielerin offenbart die aktuelle Unfähigkeit des Systems, Fußgängerinnen zu erkennen, und zeigt die Schwächen dieser Algorithmen auf.

D.: Nach dem Spiel werden die Teilnehmerinnen vor die Wahl gestellt: Tausche ich meine Daten für ein potenziell sichereres System ein, den technischen Fortschritt, oder ziehe ich meine Privatsphäre vor, bleibe unsichtbar, trotz der zu erwartenden Risiken von Ungenauigkeiten in künftigen Systemen? Hier zeigten sich geografisch große Unterschiede: In Tokio entschieden sich etwa 95 Prozent der Spielerinnen – ohne zu zögern – für den technischen Fortschritt. Nicht so in Bristol in England: Dort war vielen Menschen ihre Privatsphäre wichtiger. Dieses Spiel hält nicht nur der KI, sondern auch der Gesellschaft einen Spiegel vor.

T.: In Japan sind wir es gewohnt, mit Technologie zu interagieren. Unsere Toiletten und sogar Badewannen kommunizieren mit uns, zum Beispiel um uns mitzuteilen, wann sie einsatzbereit sind. Diese Offenheit gegenüber Technik ist kulturell bedingt. Historisch gesehen haben wir keinen monotheistischen Gott wie im Christentum oder im Islam, und Japans einheimische Religion Shinto hat eine animistische Weltanschauung, nach der alles, von Gegenständen wie Toiletten bis zu Wäldern, einen eigenen Gott (Kami) haben kann. Diese Denkweise macht es einfacher, Technologie zu akzeptieren, sie als freundliche Erweiterung unserer Kreativität zu sehen. In Europa wird KI oft mit Skepsis betrachtet, besonders im künstlerischen Kontext. 

T.: Das ist keine Entweder-oder-Diskussion. Fortschritt macht nur so lange Angst, bis er sich normalisiert hat. Niemand hat Angst vor einem Rechtschreibprogramm in Word. Natürlich ist autonomes Fahren ein drastisches Beispiel, das direkt das menschliche Leben gefährden kann, aber am Ende ist beides KI-gesteuert. Es gibt das berühmte Sprichwort, dass KI alles sei, was noch nicht gemacht worden sei. Wenn es zu etwas wird, das im täglichen Leben angekommen ist, wird es nicht mehr als KI wahrgenommen. 

D.: Auf spielerische Weise kann man Vorurteile leichter beiseiteschieben, und der Gedanke „Ah, diese doofe KI besiege ich“ ist auch ein guter Katalysator und verbindet (lacht).

D.: Im Grunde simulieren wir etwas Ähnliches wie das, was Tesla derzeit versucht, zu realisieren.

T.: Alles läuft über einen Objekterkennungsalgorithmus, den so genannten Single Shot Detector (SSD). Tesla oder Toyota verwenden Systeme, die auf einem ähnlichen Algorithmus basieren. Aber natürlich nutzen sie ihre eigene Technologie, an die man schwer herankommt.

T.: Ja, in San Francisco. Als wir unser Projekt im Asian Art Museum ausstellten, mussten wir natürlich das neueste Angebot ausprobieren: selbstfahrende Taxis. Das Unternehmen heißt Waymo und wird von Google unterstützt. Anfangs waren wir skeptisch, aber wenn man drin sitzt und realisiert, dass man wohl noch nie einen konzentrierteren „Fahrer“ hatte, versteht man es einfach. Es gibt kein menschliches Versagen …

T.: Die KI ist nicht betrunken, müde, versinkt nicht in Gedankenspiralen oder schreibt Nachrichten am Handy, sie konzentriert sich auf eine einzige Aufgabe – sicheres Autofahren.

D.: Es fühlte sich komisch an, aber nach der ersten Kurve überkommen einem die Möglichkeiten, die damit einhergehen. Einfach unglaublich. Wir haben auch mit Uber-Fahrern geredet. Einer sagte nur: Ich hasse Waymo!

T.: Ein anderer begrüßte es auch. Er sah den Vorteil für Fahrten spät in der Nacht oder in fragwürdige Teile der Stadt, so müsse er sich nicht selbst in Gefahr bringen. Also ja, wir blicken zuversichtlich in die Zukunft der selbstfahrenden Fahrzeuge. Natürlich darf man nicht vergessen, dass wir hier im wohl am besten getesteten Gebiet waren, das nach London, geschweige denn in ländliche Gegenden zu bringen, ist noch ein langer Weg.

T.: Wir traten einmal mit unserem Projekt im japanischen Fernsehen auf und der Komiker Abareru-kun versuchte verschiedene Strategien, setzte sich Pferde- und Froschmasken auf.

T.: Nein, halbnackt sein auch nicht (lacht).

D.: Was überraschend gut klappte, war das Überstülpen von schwarzen Müllsäcken. Dafür war das Auge der KI quasi blind, der Mensch wurde unsichtbar. Es gab auch Mütter, die sich hinter einem Kinderwagen oder Hund versteckten und unentdeckt blieben. Interessant und gruselig zugleich!

T.: Die Daten unserer dreimonatigen Ausstellung in Tokio zeigt eine Gewinnrate von etwa 25 Prozent bei 4.000 Versuchen, aber viele Teilnehmerinnen probierten es auch drei oder vier Mal, bis sie gewonnen hatten.

D.: Wir spielten es schon so oft, dass wir die Macken der KI kennen und diese gegen sie verwenden können. Und trotzdem verliere ich immer noch (lacht). Ich versuche, die KI herauszufordern, auf Requisiten zu verzichten. Das ist sehr schwierig. Zum Glück!

T.: Spiele ermöglichen es, Entscheidungen zu treffen und deren Konsequenzen direkt zu erleben. Frei nach der Autorin Naomi Alderman: Ein Roman kann traurig machen, aber nur ein Spiel kann einem ein schlechtes Gewissen für die eigenen Handlungen einreden. Daher könnte unser Projekt einen größeren Einfluss auf Menschen haben als beispielsweise eine Dokumentation.

T.: Magische Kreise. Das Konzept stammt vom niederländischen Historiker Johan Huizinga, der die Rolle des Spiels im Kontext von Kultur untersuchte. Besonders fasziniert mich seine Interpretation von „magischen Kreisen“, die er als sichere experimentelle Räume für kreatives Problemlösen sieht. Nehmen wir das Beispiel Kämpfen: Während Straßenkämpfe problematisch sind, bietet ein Boxring mit seinen Regeln einen sicheren Raum für das Experimentieren. Mit unserem Projekt erschaffen wir buchstäblich einen solchen magischen Kreis.

D.: Wir können auf sichere und konstruktive Weise versuchen, von einem selbstfahrenden Auto angefahren zu werden, ohne die realen Konsequenzen fürchten zu müssen. Aber sobald Fragen wie „Möchtest Du Deine Daten senden?“ auftauchen, endet der magische Kreis oft, und die Menschen werden sich der realen Folgen bewusst.

T.: Metal Gear Solid. Davon wurde ich wohl unbewusst inspiriert, da der gesamte Zweck dieses Stealth-Genre-Spiels darin besteht, vom Feind unentdeckt zu bleiben ...

D.: Ich liebte Spiele bereits in jungen Jahren, aber nichts, was mit unserem heutigen Projekt zu tun hat. Zählt Mario Kart (lacht)?

D.: Tomo sieht immer das große Ganze und darüber hinaus. Das kann sowohl eine Stärke als auch eine Schwäche sein. Er ist ein großartiger Planer und Organisator, aber manchmal ist es stressig, ihm zuzuhören, da er oft alle potenziellen Probleme auf einmal aufzeigt.

T.: Ja, ich mache mir oft Sorgen (lacht). Passend dazu ist Daniel optimistisch und glaubt, dass am Ende alles gut wird, was meistens der Fall ist.

D.: Ich lese viel und besuche so viele Ausstellungen in England wie möglich. Außerdem versuche ich, mein Japanisch aufzufrischen. 

T.: Ich bin ein großer Fan von japanischen Mangas und lese generell viel. Ich glaube, dass die Menge an Input, sowohl guter als auch schlechter Art, entscheidend ist, um auf neue Ideen zu kommen. Inspiriert von Hideo Kojima, dem legendären Spieledesigner hinter der Metal-Gear-Reihe, der sich 365 Filme im Jahr ansieht, habe ich mir vorgenommen, 365 Manga pro Jahr zu lesen. Bis jetzt läuft es sehr gut.

T.: Daniel ist Teil des Design- und Kunstduos Playfool mit Saki Maruyama. Sie schaffen es, komplexe Konzepte in einfache, aber elegante Produkte zu verwandeln, vor allem das „Forest Crayons“- Projekt finde ich inspirierend. Um die Gesundheit der Wälder zu erhalten, müssen Bäume regelmäßig abgeholzt und nachgepflanzt werden, was aktuell nicht ausreichend passiert. Um darauf aufmerksam zu machen, kreierten sie Forest Crayons: Sie verwandeln japanische Bäume in natürlich gefärbte Wachsmalstifte. 

D.: Ich mag Tomos aktuelles Projekt, aber ich weiß nicht, wie viel ich verraten darf …

T.: Erzähl ruhig!

D.: Es heißt Enga, ein neuartiges Spiel, das den Spielerinnen ermöglicht, in die Rolle von Manga-Figuren zu schlüpfen und mit KI-Charakteren zusammenzuarbeiten, um einzigartige Erzählungen zu erstellen. Es ist eine Mischung aus traditionellem Manga und Rollenspielen wie Dungeons & Dragons, aber mit einem KI-Spielleiter. Das Spiel kommt bald heraus, Ihr könnt Euch auf ein innovatives Gameplay freuen.

T.: Die militärische Anwendung von KI. Der Gedanke, dass Technologien genutzt werden, um gezielt Menschen anzugreifen oder Fake News zu verbreiten, ist beängstigend.

D.: Aber auch die stille Nutzung von KI in sozialen Medien, um Meinungen zu manipulieren, ist ein großes Problem. Es ist nicht die KI selbst, die gefährlich ist, sondern das, was Menschen damit machen könnten.

D.: In denke in letzter Zeit viel über den Film „Arrival“ und die Idee der Kommunikation mit fremden Intelligenzen nach. Da die KI menschliche Fähigkeiten übersteigt, beginnen wir, sie als eine völlig andere Form der Intelligenz zu betrachten. Der Film erinnert an die geheimnisvolle Natur dieser fremden KI und an die Milliarden anderer intelligenter Wesen, mit denen wir bereits den Planeten teilen.

T.: Mein Favorit ist „Ghost in the Shell“, vor allem wegen der Darstellung der Tachikomas, einer Gruppe intelligenter Panzer. Diese haben eine kindliche Persönlichkeit und ein kollektives Bewusstsein, das begierig ist, alles zu lernen. Als der Protagonist einen der Tachikomas anders behandelte und ihm natürliches Öl gab, entdeckte dieser seine Individualität. Dies löste eine Kette von Ereignissen aus, die dazu führten, dass die Tachikomas auch das Konzept des „Todes“ erkannten. Ironischerweise machte diese neu gewonnene Erkenntnis sie als Waffen nutzlos, was in einer tränenreichen Ausmusterungsszene gipfelt. Diese Darstellung hat mich schon als Kind fasziniert und beeinflusst noch heute meine Gedanken über Intelligenz.

Das ARS ELECTRONICA FESTIVAL findet vom 4. bis 8. September in Linz statt. Hier findest Du alle INFORMATIONEN zu den neuesten digitalen Experimenten, Entwicklungen und künstlerischen Ideen. Es gibt Ausstellungen, Performances, Workshops, Konzerte und mehr. Das Motto ist HOPE – who will turn the tide.

 Hier gehts zu den TICKETS. 

Tomo Kihara ist ein Medienkünstler und Spieldesigner aus Japan. Nach seinem Studium an der Keio University, absolvierte er einen Master in Interaction Design an der University of Technology in den Niederlanden. Er fokussiert sich in seiner Arbeit auf den sozialen Einfluss von KI und hat unter anderem mit Mozilla Foundation in den USA kollaboriert. Seine Arbeit wurde mit dem Ars Electronica STARTS Preis (2021) nominiert und im Victoria & Albert Museum in London ausgestellt. 

Der Brite Daniel Coppen gründete zusammen mit Saki Maruyama das Art-Design-Duo Playfool. Er absolvierte 2017 seinen Master in Global Innovation Design am Royal College of Art in England. Seine Arbeit ist multidisziplinär und experimentell, er erweckt sie in Form von Installationen und Multimediaprodukten zum Leben. Playfools-Projekte wurden bereits im Victoria & Albert Museum in London und im MAK in Wien ausgestellt. 

Ihr gemeinsames Projekt „How (not) to get hit by a self-driving car“  wurde mit dem S+T+ARTS Prize Honorary Mention 2024 von Startseu und Ars Electronica ausgezeichnet.