Überwacht von hässlichen Brillen
KI, Augmented Reality, autonome Fahrzeuge - alle drei Technologien haben ganz nebenbei eines gemeinsam: die permanente Erfassung der realen Welt.
Mark Zuckerberg hätte gerne Stil. Kleidete er sich früher möglichst unauffällig, trägt er neuerdings Oberteile mit der Aufschrift “ZUCK AUT NIHIL”, was er mit “All Zuck Or All Nothing” übersetzt, eine Cäsar-Referenz. Dazu eine Kette, die an die das traurig-reiche Nepobaby Kendall Roy in “Succession” erinnert, das seine Sinnkrise durch ein Alpha-Mann-Makeover bekämpft. Auch auf der Tech-Seite gibt es etwas (vermeintlich) Modisches von Zuckerberg: eine Brille.
Diese Brille mit dem überhaupt nicht sperrigen Namen “Ray Ban Meta Smart Glasses” war zunächst nicht viel mehr als ein Gadget, verdächtig gut darauf ausgerichtet, Filmaufnahmen von Fremden zu machen. Zuckerberg will auf lange Sicht aber mehr: Er ist - wie in diesem Interview zu hören - nach seinen schon fast vergessenen Metaverse-Träume nun der Überzeugung, dass die Zukunft des Smartphones auf unseren Nasenflügeln und in der realen Welt liegt. Das ist insofern überraschend, weil Versuche in diese Richtung bisher verlässlich scheiterten.
Natürlich soll in dieser Zukunft auch KI eine Rolle spielen. Zumindest US-Nutzer können mit den RayBanMetaSmart-Brillen auf Funktionen zugreifen, die das Sichtfeld auf Anfrage superintelligent analysieren, also zum Beispiel: “Das ist ein Brot”, wenn man auf ein, nun ja, Brot blickt.
Auf Umwegen können auch deutsche Brillenträger diese Features nutzen, die Meta eigentlich für den EU-Raum deaktiviert hatte, sehr wahrscheinlich aus Angst vor Datenschutz-Problemen. Es gibt an der Brille nämlich einen Haken: Das Gesehene wird, sofern die Tragenden etwas analysieren lassen, zum “Training” von KI verwendet, wie Meta-Mitarbeiter erst vor Kurzem auf Nachfrage zugaben. Steht neben dem zu analysierenden Brot also eine unbeteiligte Person, landet deren Gesicht wohl oder übel als Kollateralinformation in den Datenspeichern von Zuckerberg.
Eigentlich bräuchte es keine Erklärungen, warum das datenschutz-technisch eher mittelgut ist. Eine Gruppe von Studierenden konnte mithilfe der Meta-Brillen bereits ein simples Projekt entwickeln, mit dem sich Fremde auf der Straße ohne deren Wissen identifizieren lassen.
Künftige Brillen-Modelle von Meta gehen aber noch über die punktuelle Analyse hinaus: Ein im September vorgesteller (noch weit dämlicher aussehender) Prototyp namens “Orion” soll einen KI-Assistenten beinhalten, der die Umgebung nicht nur auf Nutzer-Anfrage, sondern permanent analysiert. Man kann also davon ausgehen, dass dabei alles durch die Brille Gesehene bei Meta landet.
Und hier kommen wir an einen interessanten Punkt, der (mindestens in der deutschen) Debatte um Hype-Themen wie KI, Augmented Reality oder autonomes Fahren gern unter den Tisch fällt. Anstatt Tech-CEOs bei der Beschreibung dämlicher Untergangs-Szenarien zuzuhören, laut denen ihre KI etwa jeden Moment Biowaffen erfindet, könnte man sich auf eine viel naheliegendere Gefahr der drei “Zukunftstechnologien” konzentrieren: Dass Voraussetzung und Ergebnis von allen, gerade in ihrer Verschränkung, eine allgegenwärtige Überwachung ist. Und zwar nicht im digitalen, sondern im analogen Raum.
Gibt es im Digitalen bereits ein - wenn auch eher beiläufiges - Bewusstsein des “digitalen Überwachungskapitalismus” und Möglichkeiten zur Verhinderung der Überwachung, nehmen wir die analoge Welt gerne noch als rein und sicher wahr –und fürchten dort eher die Kontrolle durch staatliche Akteure.
Allerdings ist das Netz datentechnisch offenbar langsam leergefischt, wodurch die reale Welt für Tech-Unternehmen plötzlich wieder interessant wird. Erfasst von einer Omnipräsenz an Kameras auf Brillen und Autos, wird sie zur Nahrungsquelle der angeblichen KI-Verbesserung, die letztendlich nichts anderes ist, als eine Speicher-Blackbox fernab demokratischer Kontrolle.
Man könnte nun einwenden, dass hier ja nur KI trainiert wird, und niemand die Absicht habe, Menschen zu überwachen. Wenn sich dann aber, wie etwa im Fall von Elon Musk und Donald Trump, die CEOs mit Autokraten zusammentun, braucht es nicht mehr viel zur perfekten Dystopie.
Gleichzeitig warnen Zuckerberg und Spotify-CEO Daniel Eck die EU vor zu viel Regulierung, man wolle ja nicht das angebliche Wettrennnen gegen das autokratische China verlieren, womit sich wohl auch Zuckerbergs “All Zuck or Nothing”-Spruch interpretieren lässt. Man kann eigentlich nur hoffen, dass die Brillen weiterhin so peinlich aussehen, wie der Orion-Prototyp.
Bis nächste Woche!
Quentin