Grund- und Freiheitsrechte standen in den vergangenen Jahren zunehmend unter Beschuss. Wo wird das enden? Wie könnten Instrumente wie KI oder Smart Meter gegen den Bürger eingesetzt werden? Was heute als Komfort, Effizienz und Sicherheit verkauft wird, könnte morgen zur Grundlage einer Gesellschaft werden, in der zu jeder Zeit die verschiedensten Daten erfasst werden, um umfassende Profile aller Menschen zu erstellen. Unser Gastautor wagt einen fiktiven Blick in eine dystopische Zukunft. Alles Science-Fiction – oder doch näher an der Realität, als uns lieb ist?

Eine dystopische Zukunftsvision von Rudolf Alethia:

Sie sind mit den Begriffen Dystopie, Smart Meter, Rechenzentren und Künstlicher Intelligenz sicherlich bestens vertraut. Vielleicht lohnt es sich dennoch, für einen Moment bei der Dystopie zu verweilen.

Sie eröffnet einen Blick auf mögliche Zukunftsentwicklungen, die von Kontrollverlust, Überwachung oder gesellschaftlichen Umbrüchen geprägt sind. Dystopische Betrachtungen bieten uns die Möglichkeit, der Gesellschaft einen Spiegel vorzuhalten, in dem ihre Ängste und Zweifel sichtbar werden, um diese in einer erzählerischen Form zu bearbeiten und zu reflektieren. Sie schaffen Raum für Diskussionen über ethische, soziale und politische Grenzen und Möglichkeiten. Sie sollen uns wachrütteln und sensibilisieren, indem sie zeigen, was passieren könnte, wenn Entwicklungen aus dem Ruder laufen.

Dystopische Betrachtungen fordern uns dazu auf, kritisch über Gegenwart und Zukunft nachzudenken, gesellschaftliche Strukturen zu hinterfragen und uns gegen Unrecht oder Gleichgültigkeit zu engagieren. Sie regen uns dazu an, Verantwortung für das eigene Handeln und für die Gesellschaft zu übernehmen, um negative Entwicklungen hintanzuhalten. Sie zeigen, oft in erschreckender Weise, Missstände und Gefahren gesellschaftlicher, politischer oder technologischer Entwicklungen auf. Sie dienen uns als Warnung vor einer möglichen Zukunftsentwicklung, in der die Menschlichkeit, die Freiheit oder grundlegende Rechte verloren gehen könnten.

Eine dystopische Betrachtung

Stellen Sie sich vor, Sie duschen an einem warmen Frühlingsmorgen, als das Wasser plötzlich kalt wird. Ihr Smart Meter blinkt. Tageslimit erreicht: Warmwasser gesperrt zur Netzstabilisierung. Ihr Handy meldet, dass im Fernsehen ein Programmwechsel vorgeschrieben wird. Währenddessen rattert im Hintergrund eine unsichtbare KI, aggregiert Ihre Stromdaten, verknüpft sie mit Ihrem Fernsehverhalten, Ihrer Heizungs-App, Google Health und dem Kontoverlauf. Alles, damit Sie das werden, was die Mächtigen wollen und die neue Gesellschaft angeblich braucht: ein transparenter Verbraucher, effizient, angepasst, gläsern.

Überwachungsbaustein 1: Der Smart Meter – das Gehirn im Zählerkasten

Der Einbau von Smart Metern ist in österreichischen Haushalten und Betrieben nahezu flächendeckend erfolgt. Sie messen längst nicht mehr nur den Energieverbrauch für den Jahresabschluss, sondern melden, wann Ihre Kaffeemaschine morgens läuft, wann das Licht ausgeht, wie viele Stunden das Fernsehgerät oder der Computer eingeschaltet sind. Die Übertragung der Daten geschieht in sehr kurzen Intervallen bis hin zu Echtzeit, und speist zusammen mit Wasser-, Gas- und Bewegungsmeldern das große Datenmeer der Cloud. Smartgeräte werden gesetzlich vorangetrieben, Software-Updates sind verpflichtend. Im Wartungsvertrag Ihres Energieanbieters steht längst, dass die Smart Meter zur Effizienzsteigerung aus der Ferne administriert werden dürfen.

Überwachungsbaustein 2 und 3: Rechenzentren und KI – das neue Herz der Verwaltung

In anonymen Anlagen, überwacht, abgeschirmt und rund um die Uhr klimatisiert, stehen Europas größte Datenzentren. Riesige Serverhallen, betrieben von wenigen Konzernen. Hier verschmilzt, was Privatwirtschaft und Politik an Daten zusammentragen können. KI-Systeme, angeblich rational und unbestechlich, übernehmen die Regie: Sie erkennen abweichende Verbrauchsmuster, berechnen diese aufgrund vorgegebener Bewertungsmodelle und machen Vorschläge zur Rationierung, Sperrung und/oder Priorisierung. Die Vorgabe der Mächtigen: Keine Überlastung des Netzes mehr, dafür harte Lastabschaltungen zu den von den Mächtigen selbst festgelegten Krisensituationen; personalisierte Vorschriften für Warmwasserbereitstellung, Heizung, Ladestrom für E-Autos, bis hin zu Medienkonsum, alles KI-gestützt beschlossen und automatisch durchgesetzt.

Die neue Architektur der Kontrolle

Was als Kostenargument und Klimainnovation verkauft wird, verwandelt sich nach und nach in ein engmaschiges Kontrollnetz. Strom als Machtmittel: Wer das Grenzprofil überschreitet, bekommt Lastspitzen teurer vergütet oder wird zwangsabgeschaltet. Wer zu viel surft, das »falsche« Programm streamt oder nachts Licht brennen lässt, erhält Warnungen, wird mit automatischen Abbuchungen konfrontiert oder erlebt eine sekundengenaue Einschränkung der Nutzungsrechte.

Doppelte Falle für die Bürger

Einen Widerspruch einzulegen, ist umständlich, und der digitale Kundendienst besteht nur noch aus automatischen Antworten. Jede Beschwerde wird als Minuspunkt in Ihrem persönlichen Nutzerprofil gespeichert. Haben Sie zu oft widersprochen, werden wichtige Funktionen für Sie vorübergehend gesperrt.

Gesundheit, Finanzen, Lebensweise 

Unter dem Vorwand der Vorbeugung werden Bewegungsdaten mit Smart-Meter-Profilen und Gesundheitsinformationen zusammengeführt. Wer zu wenig Sport treibt, bekommt einen Niedrigverbrauchsbonus abgezogen. Die Bank verweigert Überweisungen, wenn die Versorgungskriterien nicht erfüllt sind. Die Grenzen zwischen privater Dienstleistung, öffentlicher Ordnung und staatlicher Kontrolle werden algorithmisch verwischt.

Der neue Grundsatz: Transparenz ist Sicherheit

Der gesellschaftliche Diskurs ist abgewürgt; Sicherheit und Nachhaltigkeit dienen als Vorwand, Bürgerrechte werden als Altlast verspottet. Die Verweigerung eines Smart Meters gilt als Ordnungswidrigkeit. Abweichler geraten in den digitalen Schatten, ihre Kinder erhalten schlechtere Kita- und Schulanmeldungen. Offene Debatte findet nur noch in überwachten, KI-moderierten Foren statt. Ausnahmen bestätigen die Regel und werden systematisch kontrolliert.

Alltag in der digitalisierten Zwangsenergie

Die Toleranzschwelle liegt niedrig. Nachbarn denunzieren auffälliges Verhalten, in App-Gruppen kursieren Rankings zur Strom-Solidarität. Wer Umwege findet über alte Solarinseln, Eigenbau-Batterien oder analoge Geräte, gilt als revolutionär. Die Energieunternehmen entwickeln Belohnungssysteme für Bürger, die der KI besonders detaillierte Haushaltsgewohnheiten preisgeben. Gemäß dem Motto »Wer nichts zu verbergen hat, hat Vorteile«, heißt das neue Lockmittel.

Widerstand und Hoffnung

Es gibt sie, die heimlichen Untergrundnetzwerke: Hacker, Verbundgruppen, Nachbarschaften mit Analogtechnik, aber sie agieren im Verborgenen, unter ständiger KI-Beobachtung, von kargen Ressourcen und Misstrauen geprägt. Denn jede Abweichung ist verdächtig, jede Eigenständigkeit riskant.

Ausblick: Die unausweichliche Frage

Das System, so scheint es, hat gesiegt: Zu effizient, zu bequem und für viele schlicht unwiderstehlich.

Aber muss das tatsächlich in dieser Form, in dieser dystopischen Ausprägung sein? Gibt es kein Entrinnen aus diesem System? Natürlich ist es möglich. Denn das System braucht uns, also nicht uns persönlich, sondern unsere Daten. Denn was soll eine KI auswerten, wenn sie nichts zum Auswerten bekommt? Wenn wir elektrische Geräte verwenden, die keine Information über sich selbst ins Netz senden, wenn wir statt täglichem Fernsehkonsum ein Buch lesen würden, mit dem Nachbarn reden, Kontakte von Mensch zu Mensch pflegen, in der Natur spazieren gehen, und nicht auf die Lockangebote der Mächtigen hereinfallen, dann bestünde die Möglichkeit, dass wir bereits einen Großteil unserer persönlichen Daten nicht dem System freiwillig bereitstellen.

Ein Aspekt, den die Mächtigen dieser Welt möglicherweise unterschätzen, ist, dass auch sie Teil des gleichen Systems sind. Dass alles, was für den Bürger gilt, auch für sie selbst gilt. Denn die KI unterscheidet nicht zwischen Bürger A und Bürger B, sondern aufgrund vorgegebener Kriterien. Das mögen viele Mächtige vermutlich noch verdrängen und hoffen, dass sie davon ausgenommen sind, aber für die KI hat eben der Bürger B auch kein »Mascherl«. Es wäre, wie Sie richtig vermuten, naiv anzunehmen, dass sie zumindest versuchen werden, für sich selbst eine Besserstellung zu erreichen. Aber auch das würde irgendwann wieder jemand aufdecken.

Die große Frage bleibt

Wie viel Komfort, wie viel Sicherheit ist individuelle Freiheit uns noch wert? Und wer entscheidet eigentlich, welches Verhalten »richtig« oder »falsch« ist: die KI, der Staat, oder am Ende doch das Volk, weil es einfach aufgehört hat, »bequem« zu sein? Denn eines sollten wir immer in Erinnerung behalten: »Alle Macht geht vom Volke aus«. Denn:

Wer die Freiheit aufgibt, um Sicherheit zu gewinnen, wird am Ende beides verlieren.

Quelle: Benjamin Franklin (1706 bis 1790), 1755 

Ab Juli 2026 wird das Auto zum stillen Beobachter: Die Europäische Union macht das Advanced Driver Distraction Warning (ADDW), ein sogenanntes Ablenkungswarnsystem, zur Pflicht. Mit Kameras im Innenraum sollen Fahrer künftig bei Unaufmerksamkeit gewarnt werden – ein weiterer großer Schritt der EU hin zu angeblich mehr Verkehrssicherheit, oder doch eher zu mehr Überwachung?

Diese Maßnahme wird im Rahmen der „Vision Zero“-Strategie der EU eingeführt, deren Ziel es angeblich sein soll, die Zahl der Todesfälle auf Europas Straßen bis 2050 auf null zu senken, und ist Teil der General Safety Regulation (GSR), die bereits im November 2019 verabschiedet wurde und seit Januar 2020 in Kraft ist. Die Verordnung macht schrittweise immer mehr Assistenzsysteme verpflichtend.

Die erste Phase trat am 6. Juli 2022 in Kraft. Seitdem müssen alle neu entwickelten Fahrzeugtypen unter anderem mit einem Intelligenten Geschwindigkeitsassistenten (ISA), Rückfahrkameras, Müdigkeitswarnern (DDAW) und Ereignisdatenschreibern (EDR) ausgestattet sein. Für Pkw und leichte Transporter sind zusätzlich Spurhalteassistenten und automatische Notbremssysteme vorgeschrieben. Bei Bussen und schweren Lkw kamen Totwinkelwarner sowie Kollisionswarner für Fußgänger und Radfahrer hinzu.

Die zweite Phase startete am 7. Juli 2024. Seit diesem Datum gelten die Anforderungen für alle neu zugelassenen Fahrzeuge in der EU. Systeme wie der Intelligente Geschwindigkeitsassistent, der automatische Notbremsassistent und der Notfall-Spurhalteassistent sind nun für jeden Neuwagen verpflichtend.

Ab dem 7. Juli 2026 tritt eine neue Stufe der Überwachung in Kraft: Das ADDW-System, das den Fahrer mithilfe einer Innenraumkamera überwacht, wird zur Pflicht. Dieses System analysiert kontinuierlich die Blickrichtung und die Augen-, Gesichts- und Kopfhaltung des Fahrers. Sobald das System erkennt, dass der Fahrer zu lange von der Straße wegsieht, löst es eine optische oder akustische Warnung aus. Im Gegensatz zur bereits bekannten Müdigkeitserkennung (DDAW) geht es hier gezielt um Ablenkung. Die genauen Zeitgrenzen richten sich nach der Geschwindigkeit.

Neben dem Ablenkungswarnsystem werden weitere Assistenzsysteme verpflichtend: Dazu gehören adaptive Bremslichter, die bei Vollbremsungen ab 50 km/h schnell aufblinken, sowie eine automatische Warnblinkanlage, die sich nach einer Notbremsung im Stillstand aktiviert. Pflicht wird auch der erweiterte Notbremsassistent (AEB) zum Schutz von Fußgängern und Radfahrern, der eine Gefahrensituation selbstständig erkennt und das Abbremsen des Fahrzeugs veranlassen kann. Neu ist ein verbesserter Kopfschutz für Fußgänger bei Unfällen: Fahrzeuge müssen so konstruiert und gebaut sein, dass sie einen erweiterten Kopfaufprallschutzbereich bieten. Zudem gelten die Vorschriften für den Notfall-Spurhalteassistenten jetzt auch für Fahrzeuge mit hydraulischer Servolenkung. Außerdem müssen alle Neufahrzeuge bereits für den Einbau einer Alkohol-Wegfahrsperre (Alcolock) vorbereitet sein.

Ob diese neuen EU-Regeln Leben retten werden, bleibt abzuwarten. In jedem Fall führen sie zu mehr Überwachung. Zum ersten Mal wird in jedem neuen Auto serienmäßig eine Kamera installiert, die den Fahrer permanent beobachtet. Auch wenn die EU strenge Datenschutzregeln vorgibt, bleibt es eine deutliche Zunahme der Überwachung – Fahrer werden zunehmend von ihrem Auto kontrolliert. Dazu kommen die höheren Kosten: Neuwagen werden sich verteuern, aber auch die Reparaturkosten können steigen, denn die vielen Pflichtsysteme können bei einem Unfall beschädigt werden. Fakt ist, dass die EU hart daran arbeitet, den Menschen das Autofahren abzugewöhnen – die neuen Vorschriften sind ein weiterer Schritt dazu.

Deutschland und die EU sind in vielerlei Hinsicht vom Ausland abhängig – auch, was Überwachungssysteme und IT-Lösungen betrifft. In der Beantwortung einer Kleinen Anfrage der AfD-Fraktion räumt die Bundesregierung selbst potenzielle Sicherheitsrisiken in diesem Bereich ein.

„Die Bundesregierung sieht grundsätzlich Risiken durch unberechtigte Zugriffe beim Einsatz cloudbasierter Kommunikations- und Kollaborationsdiensten aus Drittstaaten“: Das konstatiert die Bundesregierung in der Anfragebeantwortung wörtlich.

Zuvor hatte man angegeben, dass für die durch die Bundespolizei in eigener Zuständigkeit betriebenen öffentlichen Videoüberwachungssysteme teilweise externe Dienstleister Betriebs- und Speicherungsaufgaben übernehmen. Die Verantwortung für die Sicherheit liege bei den jeweiligen Behörden (in diesem Fall also der Bundespolizei), die die Technologien einsetze. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) mache zur Reduktion von Risiken hinsichtlich der digitalen Souveränität aber spezielle Vorgaben.

Die AfD wollte zudem wissen, inwieweit öffentliche Überwachungs- und sicherheitsrelevante Systeme in Bund, Land und Kommunen nach Kenntnis der Bundesregierung zentral oder dezentral betrieben werden. Brisant: Dazu liegen der Bundesregierung keine Informationen vor.

Zugriffe ausländischer Behörden auf in Deutschland genutzte IT- und Cloud-Infrastrukturen sollen „soweit wie möglich“ durch Nutzung des Frameworks „Criteria enabling Cloud Computing Autonomy“ (C3A) ausgeschlossen werden. Der AfD-Bundestagsabgeordnete Sascha Lensing betrachtet die Antwort der Bundesregierung kritisch: Besonders brisant sei, „dass die Bundesregierung ausdrücklich einräumt, Risiken durch mögliche Zugriffe ausländischer Behörden auf in Deutschland genutzte Cloud- und IT-Infrastrukturen nicht vollständig ausschließen zu können. Trotzdem werden entsprechende Systeme weiterhin in erheblichem Umfang genutzt.“

Bezüglich des Einsatzes umstrittener Pegasus-Spyware durch deutsche Sicherheitsbehörden und des Risikos unbemerkter Datenabschöpfung berief sich die Bundesregierung auf notwendige Geheimhaltung – dem Bekanntwerden von Informationen in diesem Bereich stünden überwiegende Belange des Staatswohls entgegen. Außerdem muss nach Ansicht der Bundesregierung geheim bleiben, welche technischen und organisatorischen Schutzmaßnahmen getroffen werden, um Endgeräte von Mitgliedern der Bundesregierung gegen Überwachungs- und Ausspähmaßnahmen zu schützen, wie oft diesbezüglich Prüfungen stattfinden und welche forensischen Fähigkeiten die Bundesregierung hat, um Kompromittierungen festzustellen.

AfD-Politiker Lensing schlussfolgert:

Die Bundesregierung bestätigt selbst erhebliche Risiken für die digitale Infrastruktur Deutschlands. Gleichzeitig fehlt offenbar eine vollständige Übersicht über kritische Überwachungs- und IT-Strukturen im öffentlichen Bereich. Das ist sicherheitspolitisch hochproblematisch. Besonders kritisch ist die weitgehende Auskunftsverweigerung der Bundesregierung beim Themenkomplex ausländischer Überwachungssoftware und möglicher Sicherheitsrisiken durch externe Technologien. Selbst gegenüber dem Deutschen Bundestag verweigert die Bundesregierung zentrale Informationen mit Verweis auf Staatswohl und Geheimschutz. Wenn der Staat immer stärker auf digitale Überwachungs-, Cloud- und Kommunikationssysteme setzt, dann braucht es zugleich maximale Sicherheitsstandards und eine wirksame parlamentarische Kontrolle.

Die Bundesregierung selbst wies übrigens in ihrer Beantwortung auf den „Faktor Mensch“ hin. Kürzlich erst wurde publik, dass mehrere Politikerinnen auf einen bekannten Phishing-Trick in der App Signal hereingefallen sind (Report24 berichtete). Schon das wirkte wenig vertrauenerweckend. Abhängigkeiten bei der digitalen Infrastruktur stellen weitere Einfallstore für Eindringlinge dar, durch die sensibelste Informationen entwendet werden können. Lensings Fazit:

Die Antwort der Bundesregierung zeigt vor allem eines: Deutschland verfügt bislang offenbar weder über ein vollständiges nationales Lagebild sicherheitsrelevanter digitaler Infrastruktur noch über digitale Souveränität gegenüber ausländischen Technologieanbietern. Ein moderner Staat darf sich bei kritischer Sicherheits- und Verwaltungsinfrastruktur nicht in strategische Abhängigkeiten begeben. Deutschland braucht mehr technologische Eigenständigkeit und endlich eine konsequente Sicherheitsstrategie für kritische digitale Systeme.