ARCH+ 234


Erschienen in ARCH+ 234,
Seite(n) 106-119

ARCH+ 234

Anatomie eines KI-Systems: 
Der Raubbau an menschlicher Arbeitskraft, Daten und 
Ressourcen am Beispiel 
des Amazon Echo

Von Crawford, Kate /  Joler, Vladan

I.

Ein Zylinder steht in einem Raum. Reglos, glatt, unscheinbar. Er ist 14,8 cm hoch, um seinen oberen Rand zieht sich ein blaugrüner Lichtstreifen. Still und dienstbereit steht er da. Eine Frau mit einem schlafenden Kind in den Armen betritt den Raum und spricht den Zylinder an.

„Alexa, mach das Licht im Flur an.“

Der Zylinder erwacht zum Leben. „Okay.“ Im Flur wird es hell. Die Frau nickt fast unmerklich und trägt das Kind nach oben.

So beiläufig verläuft eine Interaktion mit Amazons Gerät Echo. Die Kommunikation mit dem sprachgesteuerten KI-Gerät besteht üblicherweise in einem kurzen Befehl und einer Reaktion darauf. Doch in diesem flüchtigen Moment der Interaktion wird eine riesige Matrix von Leistungen aufgerufen: miteinander verflochtene Ketten der Ressourcengewinnung, der menschlichen Arbeit und der algorithmischen Verarbeitung über diverse Netzwerke von Abbau, Logistik, Vertrieb, Prognose und Optimierung hinweg. Die schiere Größe dieses Systems übersteigt beinahe die menschliche Vorstellungskraft. Wie lässt es sich überblicken und in seiner Unermesslichkeit und Komplexität als vernetzte Struktur begreifen? Ein grafischer Überblick, eine Art Explosionsdarstellung eines erdumspannenden Systems mit den drei Phasen Geburt, Leben und Tod [Geburt und Tod siehe Umklapper, Leben siehe S. 112–113], sowie ein Essay in 21 Teilen fügen sich im Folgenden zu einer anatomischen Karte eines einzelnen KI-Systems.

II.

Die eingangs geschilderte Szene, in der eine Frau mit Alexa spricht, stammt aus einem US-amerikanischen Werbevideo aus dem Jahr 2017, in dem die neueste Version von Amazons Echo vorgestellt wird. Das Video beginnt mit dem Satz „Say hello to the all-new Echo“ und erklärt, dass sich Echo mit Alexa (der KI-Sprach­assistentin von Amazon) verbinden wird, um „Musik abzuspielen, Freunde und Verwandte anzurufen, intelligente Heimgeräte zu steuern und vieles mehr“. Das Gerät verfügt über sieben Richt­mikrofone, sodass es die Benutzer*innen auch bei laufender Musik jederzeit hören kann. Es ist in unterschiedlichen Ausführungen erhältlich und so gestaltet, dass es sich in die Umgebung „einfügt oder davon abhebt“. Doch selbst die auffälligen Designoptionen bleiben dabei in gewisser Weise ausdruckslos: Nichts soll die Besitzer*in auf das riesige Netzwerk hinweisen, das hinter den interaktiven Fähigkeiten des Gerätes steht. Das Werbevideo verrät nur, dass die Zahl der Dinge, um die man Alexa bitten kann, ständig erweitert wird. „Weil Alexa in der Cloud ist, wird sie laufend intelligenter und erweitert ständig ihren Funktionsumfang.“

Wie funktioniert das? Alexa ist eine körperlose Stimme und dient in einer Abfolge hochkomplexer Informationsverarbeitungen als Schnittstelle für die Interaktion zwischen Mensch und künstlicher Intelligenz. Eine Flut menschlicher Stimmen wird in Fragen und Instruktionen in Textform übersetzt, anhand derer Datenbanken auf mögliche Antworten durchsucht werden; darauf folgen Alexas Reaktionen. Aus dem, was als nächstes passiert, werden Rückschlüsse auf die Qualität jeder einzelnen Aktion von Alexa gezogen:

SSS Siedle Dornbracht Euroboden
Feedback erwünscht!