Mit Zunahme der künstlichen Intelligenz braucht es sinnvolle Ökosysteme der Datenvernetzung – das macht die Gestaltung sozio-technischer Designs zu einer Schlüsselqualifikation.
Der Informatiker und Wissenschaftler Mark Weiser hat im Jahr 1991 prophezeit, wie das Leben einer Familie in der Zukunft aussehen wird. Nach seiner Vision ziehen sich Computer hinter die Oberflächen der Dinge zurück. Sie werden faktisch unsichtbar. Zugleich unterstützen sie das Leben der Menschen. Weiser erkannte, dass Daten nicht mehr an einen einzelnen PC gebunden sein werden, sondern von einer Vielzahl intelligenter Gegenstände verarbeitet werden. Im Ubiquitous Computing werden sie nahtlos in das Leben integriert. „Die tiefgreifendsten Technologien sind jene, die aus unserer Wahrnehmung verschwinden“, sagt er. Sie flechten sich in das Gewebe des täglichen Lebens ein, bis sie nicht mehr davon zu unterscheiden sind.
IT-Automatisierung
Die Automatisierung der IT-Infrastrukturen ist ein Prozess, der diese Datenverarbeitung optimiert. Dafür braucht es Software und Skripten zur Ausführung wiederholbarer Anweisungen und zur Bewältigung standardisierter Prozesse. Heute werden Automatisierungssysteme zur Verwaltung von Netzwerken, Infrastrukturen, Cloud-Diensten, Standardbetriebsumgebungen eingesetzt. Ebenso für Konfigurationsmanagement. Insgesamt geht es um die Orchestrierung umfangreicher Prozesse.
Die Vorteile liegen auf der Hand: reduzierte Kosten, höhere Produktivität, höhere Verfügbarkeit, Fehlerreduktion und höhere Sicherheit. Es geht um die Sicherheit kritischer Infrastrukturen. Es werden immer weitere autonome Systeme geschaffen, die ein vielfältiges und dynamisches Ökosystem schaffen.
Heute binden Automatisierungsplattformen künstliche Intelligenz und menschliche Lerntechnologien in IT-Infrastrukturen ein. Was sich eröffnet, sind Effizienzsteigerungen und neue Anwendungen, durch Technologien wie Big Data Analytics, Machine Learning. Nun werden die IT-Systeme trainierbar. Nicht nur Routine-Abläufe werden automatisiert, es kommt vielmehr zu neuen Formen des Organisierens und Lernens. Nehmen wir ein Beispiel: Wurden Help-Desk-Tickets früher automatisiert ausgesendet, sodass der Nutzer wusste, die Anfrage wurde registriert, so können diese jetzt nach unterschiedlichsten Aspekten gefiltert und priorisiert werden. Neue Formen der Mustererkennung, des Monitorings, der Leistungsüberwachungen und der Datenanalysen entstehen. Ergebnisprotokolle liefern neue Einsichten und können für Sicherheits- und Compliance-Aufgaben automatisiert werden. Je weiter diese Entwicklungen voranschreiten, desto mehr wird die Steuerungsfunktion der Technologien in diesen Ökosystemen sichtbar. Es ist die Morgenröte einer neuen Elastik, deren zentrale Eigenschaft die Verarbeitung in Echtzeit ist.
Echtzeitdaten
Echtzeitdaten sind Daten, die in einer vorgegebenen Zeitspanne – meist unmittelbar nach ihrer Erfassung – ausgewertet oder weiterverarbeitet werden. So kann schnell auf Änderungen von Zuständen oder Bedingungen reagiert werden. Nehmen wir das Beispiel einer Parkplatz-App, die uns dabei helfen kann, einen freien Parkplatz in der Rushhour der Stadt zu finden. Sobald ein Parkplatz frei wird, ändern wir unsere Route und folgen einer neuen Richtung. Während die Fahrerin einen Parkplatz sucht, fließen über ihr Zugangsinstrument im Hintergrund Informationen an den Server zurück. Diese zeitabhängigen Daten fließen differenziert nach Tageszeiten, Wochentagen und verschiedenen saisonalen und eventabhängigen Gegebenheiten in ein dynamisches Modell ein. Das kann das aktuelle Verkehrsaufkommen sein oder es kann sich um Staumeldungen, Wetterdaten, Ferienzeiten oder Zeitpläne von Sportereignissen handeln. Die Kommunikationsstruktur informiert sich laufend selbst und errechnet ihren eigenen Zustand in Echtzeit.
Weil heute faktisch alle Bereiche des Lebens von Computertechnologien durchdrungen sind, kann die Nutzung von Echtzeitdaten für alle möglichen Subsysteme gedacht werden. Für das Gesundheitswesen, den Fitness-Sektor, die Versicherungsbranche, den Handel, den Finanzsektor, die Freizeitgestaltung, die Partnersuche, das Familienleben und natürlich auch für alle Formen der Verwaltung, der Bürokratie und der Politik.
Sozio-technische Systeme
Verbindet man unterschiedliche Dienste miteinander, entstehen Ökosysteme der Datenvernetzung. Wir können sie als sozio-technische Systeme begreifen. Es sind zunächst zwei Subsysteme: das technische Teilsystem und das soziale Teilsystem. Beide werden untrennbar miteinander verbunden. Am Ende verschmelzen sie und wir haben ein anderes Leben. Am Bauernmarkt kaufe ich regionale Produkte und zahle mit Bargeld. Im Supermarkt um die Ecke gibt es eine Automaten-Kassa, da scanne ich die Produkte selbst ein und muss mit niemandem mehr in Kontakt treten. Im Onlineshop bestelle ich Lebensmittel von jedem beliebigen Ort. Meine Bestellung wird Teil eines komplexen Automatisierungsprozesses, in dem unzählige Daten verarbeitet werden. Sozio-technische Designs als solche überhaupt wahrzunehmen und diese zu gestalten, wird zu einer neuen Schlüsselqualifikation, denn diese Prozesse können zu Diskriminierung, Entmenschlichung und Ungleichheit führen. Die EU-Verträge schreiben eine Reihe von Grundrechten vor, deren Beachtung durch die EU-Mitgliedsstaaten rechtlich bindend sind, wie etwa die Achtung der Menschenwürde, die Freiheit des Einzelnen, die Achtung der Demokratie, Gerechtigkeit und Rechtsstaatlichkeit, Gleichheit, Nichtdiskriminierung, Solidarität und Bürgerrechte.
Automatisierte Entscheidungen
Die DSGVO schützt personenbezogene Daten. Schutzziel ist eine identifizierte oder identifizierbare natürliche Person. Kommt es zum „Profiling“, also zu jeder Art der automatisierten Verarbeitung personenbezogener Daten, um bestimmte persönliche Aspekte zu bewerten, wird das Datenschutzrecht relevant. Es geht um Arbeitsleistung, um die wirtschaftliche Lage, Gesundheit, persönliche Vorlieben, Interessen, Zuverlässigkeit, Verhaltensvorlieben, Aufenthaltsorte oder Ortswechsel. Sobald mittels der Technologie automatisierte Entscheidungen getroffen werden, die die Lebenschancen eines Menschen beeinflussen, muss die Letztverantwortung bei einem Menschen liegen. Die Rede ist hier allerdings von automatisierten Entscheidungen mit rechtlicher Wirkung oder solche, die eine erhebliche Beeinträchtigung in ähnlicher Weise haben wie Online-Einstellungsverfahren, automatisierte Ablehnung eines Online-Kreditvertrages, Zugang zu Gesundheitsleistungen, Arbeitsplatz oder Bildung.
Die EU-Gesetzgebung sucht, sich auf die rasanten Entwicklungen im Bereich der IT-Infrastrukturen und der KI-Systeme einzustellen. Dies zeigt sich zum Beispiel im Gesetz über künstliche Intelligenz der Europäischen Union (AI Act). In dieser Verordnung dominiert der risikobasierte Ansatz: Bestimmte KI-Praktiken sollen strikt verboten werden, wenn sie aus grundrechtlicher Perspektive besonders eingriffsintensiv sind. Dazu zählen beispielsweise Techniken unterschwelliger Beeinflussung, sogenannte subliminale Techniken.
Dark Patterns sind Benutzerschnittstellen-Designs, die darauf ausgelegt sind, Benutzer zu Handlungen zu verleiten, die ihnen eigentlich schaden. Es sind Antimuster, die funktionieren, weil menschliche Reaktionen emotional und konditioniert ablaufen. Verboten ist auch Social Scoring, die Zuordnung von Zahlenwerten zu Eigenschaften und anderen Merkmalen wie Verhaltensweisen zur Bewertung einer Person.
Die entscheidende Frage lautet: Hochrisiko-KI-System oder nicht? Die große politische Debatte im Rahmen des Gesetzgebungsverfahrens der Verordnung galt dem Umgang mit GPAI-Systemen. Das sind Large Language Models, wie zum Beispiel GPT-4. Solche können als Hochrisiko-KI-System eingeordnet werden, wenn sie in bestimmten Bereichen erfolgen, die in der Verordnung als hochrisikoreich klassifiziert wurden.
Wer steuert wen?
Im Datenschutzrecht soll das Schutzziel mittels technischer Infrastruktur integriert werden. Privacy by Design nennt sich das. Der Gedanke dahinter kann in vielfältiger Weise fortgesponnen werden. Wegen des Drangs des Menschen nach Vereinfachung wird das „Effizienz-Design“ zur Conditio humana. Automatisierte Prozesse sind weniger fehleranfällig. Wenn die Systeme allerdings dennoch einen Fehler produzieren, lässt sich dieser schwer, manchmal kaum mehr beheben. Was dann? Wenn es um Lebenschancen von Menschen geht? Darüber hinaus werden Menschen ihr Verhalten ändern. In Echtzeitsystemen wird es zu wechselseitigen Anpassungs- und Reaktionsverhalten kommen. Echtzeitdienstleistungslandschaften sind komplexe Gefüge, die sich dynamisch verändern. Ihre Ordnungen sind elastisch. Wenn wir beispielsweise ethische Normen oder Freiheitsrechte in das Design sozio-technischer Systeme integrieren wollen, müssen wir erst begreifen, in welcher Weise das überhaupt möglich ist. Denn wer bestimmt das Design sozio-technischer Systeme?
Wohin die Reise geht
Im Jahr 1950 hat Isaac Asimov die drei berühmten Robotergesetze formuliert, die später um ein Gesetz erweitert wurden. Doch in der Ursprungsfassung hieß es: Ein Roboter darf keinen Menschen verletzen oder durch Untätigkeit zulassen, dass einem menschlichen Wesen Schaden zugefügt wird. Ein Roboter muss den ihm von einem Menschen gegebenen Befehlen gehorchen, es sei denn, ein solcher Befehl würde mit Regel 1 kollidieren. Ein Roboter muss seine Existenz beschützen, solang die Regel nicht mit Regel 1 und 2 kollidiert. Auf sozio-technische Systeme übertragen muss die neue Komplexität in den Blick genommen werden. Man muss nach der Unsichtbarkeit blicken, nach der Elastizität der Verhaltensmuster und nach dem Design sozio-technischer Systeme.