Gesellschaft für Recht und Ethik in der Digitalen Welt

Der umfassende Einsatz Künstlicher Intelligenz wirft zahlreiche Fragen aus den unterschiedlichsten Rechtsbereichen auf. Hierbei sind zwei grundlegende Perspektiven zu unterscheiden:

Zum einen wird Künstliche Intelligenz bewusst eingesetzt, um (illegale) Ziele auf (illegale) Weise zu verfolgen - wesentlich effizienter und zielgerichteter als mit bisherigen Mitteln. Dadurch verändern sich überkommene Risikodimensionen und neue tun sich auf.

Zum anderen kann die Verwendung Künstlicher Intelligenz negative Folgen zeitigen und Kollateralrisiken mit sich bringen, die weder gewollt noch beabsichtigt waren. Darunter fallen etwa Verzerrungs-, Vernetzungs- und Autonomierisiken des Einsatzes Künstlicher Intelligenz.

Aus diesen beiden unterschiedlichen Perspektiven folgen jeweils eigene Anforderungen an die Regulierung der Künstlichen Intelligenz, ihre Entwicklung und Verwendung, sowie an flankierende und unterstützende Maßnahmen. Nur durch kluge und konzertierte Bemühungen kann den sich auftuenden Risiken effizient und proaktiv entgegengewirkt werden.

Mit Legal Tech wird die Digitalisierung juristischer Arbeit und juristischer Prozesse bezeichnet. Hierunter fallen unterstützende Programme aus dem Bereich des juristischen Wissensmanagements ebenso wie Versuche zur Automatisierung juristischer Fallbearbeitung.

Eine große Herausforderung bildet die Formalisierung rechtlicher Strukturen, die aufgrund der Komplexität des juristischen "Corpus" wohl niemals vollends durchgeführt werden kann. Hier setzen innovative Ansätze an, etwa das "argument retrieval", bei dem rechtliche Argumentationsweisen aus bestehenden juristischen Texten extrahiert werden, oder das "information retrieval", das juristisch relevante Sachverhalte in Dokumenten identifiziert, die sodann einer (digitalen) rechtlichen Analyse zugeführt werden können.

Allerdings ist der Weg zum "KI-Richter" noch weit und hierbei gilt es nicht nur technische Probleme zu lösen, sondern fundamentale Aspekte unseres Rechtsstaates zu bedenken. 

Daneben tobt ein Verteilungskampf um das "Anwaltsmonopol" - angefacht von neuen Geschäftsmodellen der Rechtsberatung, die nur mittels Legal Tech möglich sind und das Standesbewusstsein der Anwaltschaft im Mark erschüttern.

Das Begriffspaar "Code is Law" umschreibt eine Diskussion, bei der es um die Frage geht, ob das Recht selbst durch Programmcode und damit durch Computerprogramme abgelöst werden kann. Dabei spielen zwei technische Phänomene eine besondere Rolle, nämlich Smart Contracts und Distributed Ledger Technologies (DLTs) - letzteres oft auch "Blockchain" genannt.

Smart Contracts sind in Programmcode gegossene Verträge, die sich bei Vorliegen der Voraussetzungen selbst erfüllen oder eine andere Folge auslösen - etwa das geleaste Auto, das sich eigenständig deaktiviert, sollte die Leasingrate nicht pünktlich überwiesen worden sein.

DLTs sind demgegenüber fälschungssichere Dateisysteme, bei denen die einzelnen Dateiblöcke mathematisch auf eine Weise miteinander verkettet sind, dass einzelne Blöcke nicht geändert werden können, ohne dass sich diese Fälschung in den nachfolgenden Blöcken fortsetzt. Da sich diese solcherart verketteten Dateiblöcke meist auf unzähligen Rechnern befinden, ist eine Fälschung nahezu ausgeschlossen.

Smart Contracts und DLTs im Verbund sind für manche eine virtuelle Variante des Rechts - eben das "Law" das zu "Code" wird und nunmehr eigenständig bestehen können soll; als ein neues und transformiertes Abbild des überkommenen analogen Rechts in der Digitalen Welt.

E-Government, zu Deutsch "elektronische Verwaltung", galt lange als verheißungsvolle Zukunft, doch meint sie im Kern schlicht die elektronische Kommunikation staatlicher Stellen untereinander sowie mit Bürger*innen und Unternehmen.

Digital Government weitet diese Perspektive und hat als Vision sowohl integrierte digitale Plattformen als auch integrierte digitale Prozesse. Die Schlagworte "Once Only-Prinzip" und "Single Gateway Solution" benennen zwei aktuelle Versuche, dieser Vision näher zu kommen.

Mithilfe des Once Only-Prinzips sollen Bürger*innen ihre Daten nur ein einziges Mal staatlichen Stellen übermitteln müssen, um sämtliche digitale Dienstleistungen der öffentlichen Hand in Anspruch nehmen zu können. Die Single Gateway-Solution hingegen will ein einziges digitales Portal schaffen, mit denen Bürger*innen sämtliche staatlichen Leistungen auf digitalem Weg erreichen können.

Das jüngst geschaffene Onlinezugangsgesetz soll hierzu erste rechtliche Instrumente schaffen, um Digital Government zu ermöglichen - und viele weitere Schritte zeichnen sich bereits am Horizont ab. 

Interaktive Computersysteme, deren Zweck darin besteht, menschliches Verhalten und menschliche Einstellungen zu verändern - so lautet die Definition von "Persuasive Technology", erstmals formuliert von B.J. Fogg in seinem grundlegenden Werk aus dem Jahr 2003 mit dem gleichnamigen Titel.

Der Begriff mag noch wenig bekannt sein, doch ist Persuasive Technology in der Digitalen Welt allgegenwärtig - als "Gamification", als "immersive and addictive Technology" oder in Form digitalisierten Nudgings; alles Unterkategorien des überwölbenden Oberbegriffs "Persuasive Technology". Das wirft ebenso facettenreiche wie grundlegende rechtliche und ethische Fragen auf: 

Wie mit Produkten umgehen, die mittels Persuasive Technology ihre Kundschaft davon überzeugen, sie intensiver und häufiger zu konsumieren?

Müssen wir Arbeitnehmende vor subtiler digitaler Einflussnahme durch Arbeitgebende schützen?

Und wie ist es um das rechtliche und ethische Empfinden einer Gesellschaft bestellt, die sich fortwährend in digitalen Infrastrukturen bewegt, in denen sie durch Künstliche Intelligenz und leistungsfähige Algorithmen effizient und optimiert beeinflusst wird - von unterschiedlichsten ökonomischen und politischen Akteuren mit jeweils eigener Agenda?

Der (körperliche) Weg zur Wahlurne und die Briefwahl - dies sind die vorherrschenden Wahlarten in Deutschland. Nur langsam öffnen sich Gesetzgeber und Verwaltung einer dritten Möglichkeit: dem E-Voting, zu Deutsch dem "elektronischen Wählen". Doch der Diskurs über Demokratie und Digitalisierung, ja über Digitale Demokratie reicht bereits weit darüber hinaus - und gleichermaßen die tatsächlichen Entwicklungen.

Einer breiteren Öffentlichkeit wurde dies durch den Skandal um die Firma "Cambridge Analytica" bekannt, die in erheblichem Umfang illegal Daten sammelte und auswertete, um sie für ein digitales Mikrotargeting zu verwenden. Nun ist Mikrotargeting kein Kind der Digitalen Welt, sondern bedeutet schlicht eine zielgruppenorientierte Kommunikation - im digitalen politischen Kontext jedoch nimmt dessen praktische Bedeutung immens zu.

Dies gilt gleichermaßen für andere Phänomene aus analoger Zeit, etwa der Demoskopie, die in der Digitalen Welt als "Echtzeitdemoskopie" neue demokratietheoretische Fragen aufwirft.

Daneben ermöglichen digitale Technologien völlig neue Instrumente der politischen Einflussnahme, etwa Persuasive Technology, weshalb der rechtliche und ethische Diskurs über eine Digitale Demokratie erst am Anfang steht.

All unser Verhalten in der Digitalen Welt hinterlässt Spuren - manche gewollt, viele ungewollt; jede Spur ein Baustein unserer Digitalen Identität. 

Abhängig davon, woher diese Spuren stammen und wie umfassend sie sind, ergeben sich unterschiedliche Spielarten der Digitalen Identität. Sie kann das widerspiegeln, was wir sein wollen und an Spuren bewusst offenbaren, sie kann jedoch auch umfassend, ja "total" sein und Wesenszüge offenbaren, die wir lieber für uns behalten möchten - und die uns womöglich zu Opfern von Diskriminierung machen können.

Zwar können gewisse Verhaltensweisen in der Digitalen Welt direkte Rückschlüsse auf unser Wesen zulassen, doch ist es gleichermaßen möglich, aus dem Zusammenspiel diverser Merkmale völlig neue Seiten unserer Persönlichkeit zu errechnen und dadurch transparent zu machen. Hat dieses Zusammenspiel nun einen Fehler oder eine Verzerrung, so sehen wir uns mit einer Persönlichkeit konfrontiert, die nicht die unsere ist und doch zu unserer gemacht wird - mit teils unabsehbaren Folgen.

Der analoge und mithin körperliche Weg zur Arbeit ist nicht mehr alternativlos - dies haben Corona und der damit verursachte Anstieg des Home-Office eindrucksvoll gezeigt. Dadurch ergeben sich neue Herausforderungen des digitalen professionellen Miteinanders, etwa das "Zoom Fatigue", eine spezielle Art der Erschöpfung, verursacht durch eine rein digitale Kommunikation.

Doch das Home-Office ist nur der erste Schritt in Richtung einer wahrhaftig Digitalen Arbeit, die ganz eigene Problemlagen mit sich bringen wird.

So sind Arbeitgebende schon jetzt bemüht, die Möglichkeiten digitaler Arbeitswelten für eine subtile Einflussnahme ihrer Arbeitnehmenden zu nutzen - in Form des digitalen Nudgings, einer Spielart der Persuasive Technology.

Und am Horizont zeichnet sich eine umfassende Integration Künstlicher Intelligenz in nahezu sämtliche Arbeitsprozesse ab. Das mag den Beschäftigten zunächst eine Erleichterung sein, doch völlig unklar ist bis dato, welche psychologischen Auswirkungen die regelmäßige Interaktion mit einem KI-Kollegen haben wird - und ob hier womöglich eine neue Variante des Arbeitsschutzes erforderlich werden könnte; oder gar eine betriebliche Mitbestimmungspflicht für die Einführung Künstlicher Intelligenz durch Arbeitgebende.

In dem Maße, wie die Digitale Welt uns Aktivität und Interaktion ermöglicht, nimmt die Digitale Entfaltung der Menschen zu. Und weil, vereinfacht gesprochen, die Freiheit der einen dort aufhört, wo die Freiheit der anderen beginnt, ergeben sich in der Digitalen Welt ähnliche Konflikte und Konfliktlagen, wie wir sie aus analogen Zeiten zur Genüge kennen. Zwar können wir hierzu bewährte Methoden zur rechtlichen Konfliktbewältigung heranziehen, doch ergeben sich bei der Digitalen Entfaltung zuweilen Situationen und Problemlagen, für die wir innovative Ansätze und neue Sichtweisen benötigen.

Dies zeigen nicht zuletzt die Diskussionen um Uploadfilter und das Netzwerkdurchsetzungsgesetz - wenngleich deren ethische Bedeutung unterschiedlicher nicht sein könnte: Geht es bei erstem um den Versuch, Urheber und Schöpfer kreativer Werke an den Früchten ihrer Arbeit angemessen zu beteiligen, so will letzteres die Unmengen an Hass und Hetze in den Griff bekommen und regulieren. Gleichwohl wird in beiden Diskussionen die Meinungsfreiheit als hohes Gut betont und deshalb häufig als Argument im Diskurs bemüht.

Daneben verschwimmen die Grenzen privater und beruflicher Entfaltung, etwa bei YouTuber*innen, die durch ihre Videos durchaus respektable Gewinne erwirtschaften können. Gleichzeitig sind sie von Youtube abhängig, weshalb sich die Frage auftut, nach welchen Regeln Videos von Youtube entfernt oder demonetarisiert werden dürfen - und ob hier womöglich die Grundrechte mittelbar herangezogen werden müssen. Hierdurch würde sich auch für diese Bereiche der Digitalen Welt eine Abwägung der Grundrechte eröffnen, eine "praktische Konkordanz" - und damit eine ethische Abwägung ureigenster juristischer Art.

Digitalisierung ist ein Prozess, nicht ein Zustand. Akten etwa können digitalisiert werden oder digital sein - im ersten Fall werden sie digital "gemacht", im zweiten Fall sind sie es bereits. Für diesen Prozess wird häufig das vermeintliche Synonym "Digitale Transformation" verwendet, wenngleich dieser Begriff weit über unser herkömmliches Verständnis von Digitalisierung hinausreicht - denn dieses Verständnis hat einen schwerwiegenden Makel.

Dies mag ein Blick auf das Konzept des "digitalen Zwillings" verdeutlichen: Ziel ist es hierbei, ein analoges oder reales Objekt bzw. einen analogen Prozess direkt digital abzubilden, eben den korrespondierenden digitalen Zwilling zu erschaffen.

Dieser Ansatz verkennt jedoch die mannigfachen Möglichkeiten und Instrumente, die in der Digitalen Welt zur Verfügung stehen - und häufig nur in ihr. Stattdessen werden Lösungen aus der analogen Welt eins-zu-eins in der Digitalen Welt erzeugt, obwohl diese oft nur notwendige Kinder ihrer Zeit waren, gleichsam analoge Notlösungen. 

Echte Digitale Transformation löst sich von diesen Schranken, indem bei der Suche nach Lösungen nicht mehr auf die analoge Welt zurückgeblickt, sondern vielmehr das komplette digitale Instrumentarium einer Digitalen Welt herangezogen wird. Das erfordert nicht nur technisches Knowhow, sondern einen Geist, der überkommene Lösungen, Abläufe und Institutionen hinter sich lassen kann, um sich dem digitalen Neuen vollends zu öffnen und es nach seinen Bedürfnissen zu verwenden.