Black Mirror: Dystopischer Blick in die entfernte Zukunft oder Warnung vor dem Morgen? (2018)

George Orwell veröffentlichte im Jahre 1949 seinen dystopischen Roman ‚1984‘, in dem er einen totalitären Überwachungsstaat im Jahre 1984 skizziert. Viele Dinge, die Orwell in die für ihn noch weit entfernte Zukunft projizierte, wurden nach und nach wahr: nicht nur nutzen wir heute Plastikgeld bzw. Kreditkarten, sondern spätestens seit der Debatte um PRISM und Big Data ist allen klar, dass Orwell mit seinen Vorstellungen und auch Befürchtungen in Bezug auf Überwachung keineswegs falsch lag. Der George Orwell von heute heißt Charlie Brooker, ist ebenfalls Engländer und anstatt eines Romans produziert er eine Serie namens „Black Mirror“.

Black Mirror wird seit 2011 produziert und umfasst bisher vier Staffeln, wobei eine fünfte gerade in Auftrag gegeben wurde. Seit Oktober 2016 läuft Black Mirror auf Netflix und ist seither weltweit in aller Munde. Der Titel der Serie bezieht sich auf den Bildschirm, auf den heutzutage immer mehr Menschen tagein, tagaus starren und so nicht selten ein durch die Medien verzerrtes Realitätsbild von sich und der Welt vermittelt bekommen. Bei der Serie handelt es sich um voneinander unabhängige Folgen, deren Handlung sich jedoch alle mit den Auswirkungen von Technologie und Medien auf die Gesellschaft beschäftigen. Auch wenn die einzelnen Episoden in der Zukunft angesiedelt sind und oft überspitzt wirken, so gibt es doch viele Bezüge zu aktuellen Tendenzen und Ereignissen. Aus diesem Grund ist Black Mirror auch vom medienpädagogischen Standpunkt aus höchst interessant.

Hochaktuelle medienpädagogische Themen

Viele Episoden von Black Mirror drehen sich um ethische Fragestellungen, die momentan sich in der Entwicklung befindende Technologien mit sich bringen: Wollen wir wirklich, dass künstliche Intelligenz eines Tages so ausgereift ist, dass ein durch sie gelenktes Videospiel unsere größten Ängste gegen uns nutzt oder sie uns Partner zuweist, mit denen wir einige Stunden oder auch Jahre verbringen müssen, bevor sie den endgültigen Lebenspartner für uns findet? Wollen wir uns von sozialen Netzwerken unseren Alltag und unser Leben bestimmen lassen? Wie wichtig ist Privatsphäre? Sollen Augmented und Virtual Reality so weit in unsere Wahrnehmung eingreifen, dass wir die reale Welt möglicherweise gar nicht mehr ungefiltert wahrnehmen können? Wollen wir denkende Soldaten oder programmierbare Marionetten, die durch Technologie einer Ideologie folgen, ohne dies zu bemerken? Wollen wir unsere Kinder auf Schritt und Tritt überwachen? Wollen wir unsterblich werden?

Aktuelle Ereignisse, die an Black Mirror erinnern

Allein die Hälfte der Episoden der letzten beiden Staffeln erinnern mehr oder weniger stark an Dinge, die in den letzten Jahren oder Monaten von gesellschaftlicher Bedeutung waren oder sind:

Die erste Folge der dritten Staffel, „Abgestützt“, gibt Einblick in das Leben von Lacie, die durchs Leben geht und dank ihres Smartphones und implantierter AR-Linsen konstant damit beschäftigt ist, ihre Mitmenschen nach sozialer Interaktion zu bewerten und selbst bewertet zu werden. Dadurch errechnet sich der „Social Score“ der Person, der wiederrum darüber entscheidet, ob man ein Flugticket buchen kann oder welche Art von Wohnung man sich leisten kann. Abgesehen von der Tatsache, dass Likes das Selbstwertgefühl vieler Jugendlicher weitaus mehr beeinflussen als positive Eigenschaften und Talente, erinnert diese Episode stark an Nachrichten aus China im Februar 2018, die über Bürgerbewertung berichteten. Laut diesen Berichten sollen ab 2020 mit Hilfe intelligenter Kameras, wie sie hochumstritten auch in Berlin getestet werden, gutes gesellschaftliches Verhalten belohnt und schlechtes Verhalten bestraft werden. Noten könnten potenziell nicht nur für gefilmtes Verhalten im Straßenverkehr vergeben werden, sondern auch beispielsweise für das Onlineverhalten und die Ernährung.

In „Erlebnishunger“ lässt sich der abenteuerlustige Cooper darauf ein, ein Horrorspiel zu testen, bei dem die Ängste des Spielers gegen ihn eingesetzt werden. Möglich gemacht wird dies durch künstliche Intelligenz. Auch wenn das Szenario im Horrorhaus durchaus nicht ganz realistisch wirkt, so gibt es für die Programmierung von Spielen bereits ein KI-Werkzeug, das basierend auf der Reaktion eines Avatars Entscheidungen trifft, wie die nichtmenschlichen Charaktere agieren.

Auch die Frage nach Überwachung im eigenen Heim ist hochaktuell: regelmäßig gibt es in der Presse Berichte darüber, dass gehackte Webcams keine Seltenheit sind und dass Alexa & Co uns belauschen. So wie der Protagonist der Folge „Mach, was wir sagen“ wurde auch die Miss Teen USA 2013 erpresst, nachdem ihre Webcam gehackt worden war. Black Mirror zeigt, wohin diese Art der Erpressung führen könnte, nämlich zu handfesten Straftaten. Dies ist auch im Zusammenhang mit Artikeln darüber, wie Smarthome-Geräte wie Amazon Echo oder Google Home uns nicht nur den Alltag einfacher machen, sondern uns auch überwachen (könnten), hochinteressant.

Schließlich wartete die dritte Staffel auch noch mit „San Junipero“ mit einer Folge auf, in der es um (virtuelle) Unsterblichkeit geht. Die zwei Protagonistinnen sind Seniorinnen, die krankheitsbedingt wissen, dass sie bald sterben werden. Deshalb testen sie eine Cloud aus, in die ihr Bewusstsein beim Sterben hochgeladen werden könnte, sodass sie dort als junge Frauen weiterleben können. Während diesen Testaufenthalten verlieben sie sich ineinander und treffen sich dann auch in der realen Welt.  Dies berührt ähnlich wie das Thema der Kryonik die ethische Frage nach dem Wunsch nach Unsterblichkeit.

Außerdem gibt es bereits seit mehr als 15 Jahren eine Art „San Junipero“: Second Life, eine virtuelle Welt, in die man sein Bewusstsein zwar nicht nach dem Tod hochladen kann, in der man aber durchaus im Alter noch jung und agil sein, soziale Kontakte pflegen und seiner Leidenschaft nachgehen kann, wie dies z.B. der bekannte Filmemacher Bernhard Dörries tat, der in Second Life sogar seinen letzten Film drehen konnte.

In der vierten Staffel gab es ebenfalls zwei Episoden, die besonders durch aktuelle Bezüge hervorstachen. In „Arkangel“ geht es um die Überwachung von Kindern in extremis. Der kleinen Sara wird ein Chip implantiert, über den ihre Mutter sie auf Schritt und Tritt verfolgen kann, über den sie außerdem nicht nur die Gesundheitswerte ihrer Tochter sieht, sondern auch einen Live-Feed dessen, was diese gerade vor Augen hat. Auf Wunsch kann sie negative Dinge filtern, sodass Sara die Realität (vermeintlich zu ihrem eigenen Schutz) verzerrt wahrnimmt. Es ist davon auszugehen, dass Sara also AR-Linsen eingepflanzt wurden, die durch das Filter aktiviert werden können. Auch wenn wir noch weit davon entfernt sind, dass solche Experimente erlaubt sind, gibt es doch seit längerer Zeit Smartphone-Apps und Smart Watches, die das Tracking des Kindes möglich machen. In Ludwigsburg (Link 1, Link 2, Link 3) geht man noch einen Schritt weiter: hier wird ein Schulranzen getestet, der es Eltern erlauben soll, ihre Kinder zu orten. Der Hersteller spricht auch davon, den Schulweg so durch Vernetzung mit Autos sicherer machen zu wollen.

Schließlich wird in der vierten Folge der vierten Staffel das Thema Partnervermittlung mit Algorithmen thematisiert, wie es heute schon mit Apps wie Tinder Einzug ins gesellschaftliche Leben vieler Länder gehalten hat. Der einzige Unterschied ist, dass die vorgeschlagenen Partner in „Hang the DJ“ keine eigene Entscheidungsfreiheit mehr haben: der Algorithmus weist ihnen ihre nächsten Partner zu, das Ablaufdatum der Beziehung wird errechnet und sie haben diesen Berechnungen zu folgen.

Augmented & Virtual Reality

Augmented Reality (AR) und Virtual Reality (VR) gehören seit einigen Jahren zu den heißdiskutierten Themen in der Medienpädgogik und im Bildungsbereich (s. Horizon Report). In Black Mirror geht es um ihr Potenzial, die Gesellschaft maßgeblich zu beeinflussen. So verfügen alle Menschen in „Abgestützt“ über eine vermutlich implantierte Augmented Reality-Linse, die es ihnen – ähnlich wie bei der HoloLens aber eben ohne sperrige Brille – ermöglicht, die Bewertungen ihrer Mitmenschen eingeblendet zu bekommen, sobald sie den Blick auf sie richten. Während hier AR zwar das Leben der Menschen diktiert, so hat dies noch keine allzu schlimmen Auswirkungen, wenn man davon absieht, dass der Wert des Menschen durch subjektive Likes definiert wird und hier und da ein Mensch in der Nervenheilanstalt landet.

In „Männer aus Stahl“ hingegen gibt es ein ähnliches System, welches Soldaten suggeriert, dass sie gegen Mutanten Krieg führen und nicht gegen Menschen, die aussehen wie sie selbst. Dies führt dazu, dass sie töten ohne nachzudenken. Die hochentwickelte Technologie verändert nicht nur visuelle Eindrücke, sondern auch olfaktorische und auditive, sodass alle „negativen Begleiterscheinungen“ eines Kriegs, der Soldaten dazu bewegen könnte, ihn in Frage zu stellen, eliminiert werden. Menschen, die aufgrund einer angeblich „minderwertigen“ DNA ausgerottet werden sollen, werden mit Hilfe von AR dehumanisiert und langsam ausgerottet, Soldaten werden zu Marionetten. Versucht ein Soldat aus diesem Korsett auszubrechen, wird er mit seinen Gräueltaten – den realen Bildern ohne AR-Filter – konfrontiert und vor die Wahl gestellt: entweder er muss mit diesen Erinnerungen leben oder sie werden aus seinem Gedächtnis, jedoch nicht aus dem des Systems, gelöscht und er unterwirft sich dem System weiterhin. Dies erinnert mehr als nur leicht an die Ereignisse des zweiten Weltkriegs, jedoch potenziert durch die Möglichkeiten der Technologie.

In “USS Callister” flieht das eher introvertierte Coding-Genie Robert Daly tagtäglich nach Feierabend in eine virtuelle Welt. Diese basiert auf einem von ihm programmierten VR-Spiel namens „Infinity“, jedoch handelt es sich um ein Mod, welches auf seiner Lieblingsserie „Space Fleet“ (in Anlehnung an Star Trek) basiert. In diesem Spiel ist er der Kapitän eines Raumschiffs und seine Crew besteht aus denjenigen Mitarbeitern seiner realen Firma, die ihn verärgert haben. Doch es handelt sich nicht nur um programmierte Figuren, sondern um digitale Klone dieser Menschen, die er mit einer neuen Art von 3D-Drucker anhand einer DNA-Probe hergestellt und ins Spiel geladen hat. Die virtuellen Klone verfügen somit über ein eigenes Bewusstsein, sind jedoch im Spiel gefangen … bis Dalys neue Mitarbeiterin Nanette einen Kommunikationskanal nach außen findet.

Robotik & Künstliche Intelligenz

Auch Robotik und künstliche Intelligenz (KI) werden in vielen Episoden von Black Mirror thematisiert. In „Von allen gehasst“ geht es um ungeklärte Todesfälle, die – wie man später erfährt – von Mikrodrohnen in Form von Bienen verübt werden. Die Opfer sind Menschen, die anderen Internetusern mit einem Hashtag den Tod gewünscht haben. In der Folge wird die Existenz der Drohnen damit erklärt, dass sie gebaut wurden, um die Umwelt zu retten, doch die Finanzierung für das Projekt war nur möglich, weil sich die Erfinder bereit erklärten, der Regierung eine Hintertür in diese Drohnen einzubauen, wodurch sie potenziell manipuliert werden können. Diese Hintertür nutzte derjenige, der die Bienen umprogrammierte und zu Killermaschinen umfunktionierte. Der Grund: er wollte zeigen, dass das sogenannte „Spiel der Konsequenzen“ in beide Richtungen funktioniert: wer jemandem den Tod wünschte, weil er etwas Schlimmes getan hat, wird nun selbst mit dem Tod bestraft. Dies beleuchtet auch den moralischen Aspekt nicht nur der Technologie an sich, sondern auch den von sozialen Netzwerken und Cybermobbing-Methoden. Dass allerdings die Kontrolle über die Bienen verloren ging, war vermutlich vom Verursacher nicht unbedingt vorhergesehen worden. Die Möglichkeit, Drohnenschwärme zu kontrollieren besteht übrigens bereits, und auch Microdrohnen gibt es schon längst.

Ein ähnliches technisches Wunderwerk wie die Microdrohnen kommt in „Metallkopf“ zum Einsatz: hier handelt es sich um mechanische Killerhunde, die in einer postapokalyptischen Welt Menschen jagen und töten. Erstaunlich ist hier übrigens die Ähnlichkeit der KI-Hunde mit dem Boston Dynamics AI Dog.

Künstliche Intelligenz ohne Robotik kommt sowohl bei „Erlebnishunger“ zum Einsatz, als auch in „Hang the DJ“. In „Erlebnishunger“ programmiert die künstliche Intelligenz ein Horrorspiel so, dass es für den Spieler möglichst furchterregend ist – ohne dabei jedoch Grenzen zu kennen, was sich im Endeffekt negativ auf den Spieler auswirkt. In „Hang the DJ“ bestimmen Algorithmen das Beziehungsleben der Menschen. Menschen sind für diese Algorithmen lediglich Datensätze, deren Kompatibilität sich mit fortschreitender Informationsfülle immer besser errechnen lässt. Dass dabei jedoch Gefühle auf der Strecke bleiben und Liebe nicht rational ist, ist der künstlichen Intelligenz ebenso egal wie die Tatsache, dass ein aufgezwungenes Ablaufdatum, das man einhalten muss, dazu führt, dass unglückliche Paare so lange zusammen bleiben, bis das System ihnen erlaubt, sich zu trennen, während andere Menschen dadurch voneinander getrennt werden.

Das Dilemma der sozialen Medien und ständiger Überwachung

Einige Folgen zeigen deutlich das Dilemma, mit welchem sich eine Gesellschaft auseinandersetzen muss, in der sich soziale Medien etabliert haben und ständige Überwachung kaum vermeidbar ist.

Natürlich ist es nicht in Ordnung, dass Kenny aus „Mach, was wir sagen“ mit privaten Videos erpresst wird. Doch was wir am Ende über ihn erfahren, rückt ihn in ein anderes Licht und macht deutlich, dass die Grenze zwischen Opfer und Täter allzu oft nicht eindeutig ist.

Dass soziale Netzwerke unkontrollierbar sind und sich die Nutzer der potenziellen realen Konsequenzen ihres virtuellen Verhaltens nicht bewusst sind, zeigt „Von allen gehasst“ sehr anschaulich. Ein Hashtag wie #deathto ist schnell gestartet und kann sich in Nullkommanichts weltweit verbreiten. Dass man durch die Nutzung dieses Hashtags jedoch reale Menschen angreift, wird ebenso vergessen wie die Tatsache, dass man als öffentlicher Angreifer sehr einfach zu finden ist und selbst zum Angegriffenen werden kann.

Wenn Marie in „Arkangel“ ihre Tochter auf Schritt und Tritt überwacht und mit Hilfe des Gewaltfilters dafür sorgt, dass sie ohne negative Bilder aufwächst, ist dies zuerst einmal der verständliche Wunsch einer Mutter, die sich um das Wohlergehen ihres Kindes sorgt und ihm ein möglichst sorgenfreies Aufwachsen ermöglichen will. Doch kann bzw. soll man sein Kind bis zum äußersten schützen? Wird es dadurch nicht unfähig, mit der Realität, mit der es früher oder später konfrontiert werden wird, umzugehen? Und ab wann überwiegt das Recht auf Privatsphäre des Kindes und übertrumpft den Wunsch der Eltern, das Kind zu schützen? Spätestens als Sara auf ihre Mutter einschlägt und das Filter der Überwachungsapp dafür sorgt, dass sie das Blut und die restlichen Auswirkungen dieses Gewaltausbruchs nicht sieht, wird klar, dass hier ein Filter mehr Schaden anrichtet als es nützt und dass die App nicht intelligent genug ist zu entscheiden, was gefiltert werden sollte und was nicht. Als Sara am Ende der Folge versucht, die Stadt zu verlassen, und vertrauensvoll in einen LKW einsteigt, zeigt sich, dass das Aufwachsen ohne negative Variablen ebenfalls eine große Gefahr darstellen kann, denn sie verfügt über keinerlei warnende Instinkte, die wir durch kleinere negative Erfahrungen entwickeln und die uns im alltäglichen Leben beschützen.

In „Krokodil“ geht es ebenfalls um einen Eingriff in die Privatsphäre von Menschen, diesmal jedoch im Dienste der Gerechtigkeit: Um Versicherungsforderungen schneller und besser bearbeiten zu können, verwenden Versicherungsagenten eine Maschine, die die Erinnerungen von Unfallzeugen und Opfern auslesen können. An sich zwar eine gute Idee, denn so können Ereignisse dank Daten verschiedener Blickwinkel rekonstituiert werden und mit Hilfe eines Computerprogramms der wahrscheinliche Ablauf eines Unfalls – wie in diesem Fall mit einem selbstfahrenden Pizzalieferwagen – ermitteln. Was jedoch wenn die ausgelesenen Erinnerungen weitere Ereignisse beinhalten, die der jeweiligen Person schaden können, beispielsweise weil sie wie der Zahnarzt heimlich andere Menschen beobachten oder – im schlimmsten Falle – wie Mia gerade im Affekt eine Straftat begangen haben? Wo endet hier die Privatsphäre und wo überwiegt das Gemeinwohl?

Ernstgemeinte Warnung vor einer düsteren Zukunft?

Auch wenn viele der Episoden von Black Mirror ein sehr düsteres Bild der Zukunft zeichnen, so denke ich nicht, dass die Serie sich als eine reine Dystopie versteht, die dem Zuschauer vor Augen führen möchte, wie sich die Technologie negativ auf unsere Welt auswirken wird, wenn wir nicht schleunigst kehrtmachen. Es geht nicht darum, jegliche Technologie zu verteufeln. Vielmehr sollen wir wohl dafür sensibilisiert werden, welche ethischen und persönlichen Fragen wir uns stellen sollten, damit wir nach wie vor in einer lebenswerten Welt leben. Wir leben in einer Welt der digitalen Transformation, einer Transformation, die so schnell voranschreitet, dass viele Menschen nicht Schritt halten können und/oder sich von den Vorzügen der neuen Möglichkeiten blenden lassen, ohne zu bemerken, dass es auch eine Kehrseite der Medaille gibt.

Genau aus diesem Grund ist es auch die Aufgabe von Medienpädagogen, Bildungseinrichtungen und Lehrkräften, die Jugend, die keinen Bezug mehr hat zu einer Zeit bevor die Technologie Einzug in unser aller Leben gehalten hat, für den kritischen Umgang mit sozialen Medien und Technologie zu sensibilisieren. Dabei darf es nicht darum gehen, mit erhobenem Zeigefinger lediglich auf die Gefahren hinzuweisen, das Digitale zu verteufeln, Bildung als einen starren Begriff auf eine Empore zu heben und so weiterzumachen wie früher. Vielmehr müssen wir mit den Jugendlichen und Kindern in einen Dialog treten, sie sensibilisieren für Gefahren, mit ihnen erörtern, wie sie sich schützen können und vor allem die Potenziale der Technologie in den Vordergrund stellen. Denn nur so werden sie fit für das – auch uns noch unbekannte – Morgen, das sie erwartet und in dem sie verantwortungsbewusste Bürger sein müssen, die ihre und unsere Welt aktiv mitgestalten.

Doch weshalb glaube ich, dass es sich bei Black Mirror nicht um ein rabenschwarzes Bild unserer Gesellschaft handelt, das zur Umkehr bewegen will? Ganz einfach: Sowohl in der dritten als auch in der vierten Staffel der Serie gab es Episoden, die auf den ersten Blick sehr negativ wirken, die aber im Kern – zumindest für mich – sehr positiv sind.

Natürlich müssen wir uns die Frage stellen, ob es ethisch vertretbar ist, dass wir uns nach unserem Tod in einer Cloud hochladen lassen und so in einem virtuellen „San Junipero“ auf ewig leben können. Doch – wenn man einmal absieht von Serverkapazitäten und der notwendigen Energie um diese zu betreiben sowie von diversen theologischen und religiösen Fragestellungen – was spricht denn dagegen, diese Option zu haben und sein (spätes) Glück dort zu finden? Immerhin hätten wir dann die Gewissheit, was nach dem physischen Tod mit unserer Seele geschieht. Wenn man sich Beispiele wie das von Bernhard Dörries vor Augen führt, kann man nicht sagen, dass die Möglichkeit, sein Leben in einer virtuellen Welt fortzuführen, als verwerflich anzusehen ist.

Auch wenn in „USS Callister“ die virtuelle Realität und das Thema Klonen als sehr negativ dargestellt werden, so darf man nicht vergessen, dass sich nicht alle virtuellen Klone dem grausamen Spiel beugen, sondern sich mit der Ankunft von Nanette beginnen aufzulehnen. Sie entwickeln ein eigenes Bewusstsein und erkennen, dass sie ein Recht darauf haben, das Spiel abzubrechen. Dies ist – sofern ich alle technischen Variablen richtig einschätze – ein Zeichen dafür, dass es sich hier um eine künstlicher Intelligenz handelt, die sich nicht selbst um jeden Preis schützt, um zu überleben, sondern die auch erkennt, wann sie leidet und das Leiden beendet.

Ähnlich verhält es sich schließlich in „Hang the DJ“, wo Frank und Amy zwar das Spiel des Partner-Systems lange mitspielen, wo sich am Ende jedoch die Gefühle der beiden füreinander durchsetzen und sie dem System trotzen und ausbrechen. Ob sie ihr Happy End bekommen oder ob es sich bei dem ganzen Szenario nicht nur um ein virtuelles Experiment in Form einer Simulation handelte, bleibt offen, doch allein die Tatsache, dass sich die „Spielfiguren“ dem Spiel widersetzen, werte ich als durchweg positiv.