Wie künstliche Intelligenz und Recht zusammenfinden

An der Paulus Akademie in Zürich hat sich am 29. August alles um Rechtsfragen in Zusammenhang mit künstlicher Intelligenz (KI) gedreht. Gastgeber des ersten KI-Forums war der 2023 gegründete Verein für KI-Recht. Man wolle nicht nur den Diskurs an den Schnittstellen von KI und Recht, Wirtschaft, Politik und Wissenschaft fördern, erklärten die drei Gründerinnen und KI-Rechtsexpertinnen Rehana Harasgama, Anne-Sophie Morand und Noémi Ziegler zum Auftakt des Anlasses. Zu den weiteren Zielen gehöre, einen eigenen Beitrag zur Diskussion zu leisten und interessierten Personen eine Austauschplattform zu bieten.

Keynote-Speaker Urs Gasser, Professor für Public Policy, Governance, and Innovative Technology an der TU München. (Source: zVg)

Die Bandbreite an rechtlichen Fragestellungen in Zusammenhang mit KI ist gross, wie die Referate an der ausgebuchten Veranstaltung zeigten. Vielfältig sind auch die Regulierungsansätze verschiedener Regierungen. Dabei scheine die Gesetzgebung der tatsächlichen KI-Entwicklung hinterherzuhinken, bemerkte Urs Gasser, Professor für Public Policy, Governance, and Innovative Technology an der TU München, in seiner Keynote. Gleichzeitig wisse man heute oft noch nichts über die Folgen der angepackten Regulierung. "Wir regulieren also auf guten Glauben, dass wir die Probleme identifiziert haben und dass die von uns zur Regulierung gewählten Instrumente funktionieren", so der Referent. Selbst zu den Auswirkungen von KI an sich fehle es an belastbaren Studien. Das Resultat: Die jetzt vorgenommene Regulierung folge weniger einer "juristisch-regulatorisch tiefgründigen Logik", sondern sei vielmehr das Ergebnis momentaner wirtschaftlicher Interessenskonstellationen – oft gefärbt durch geopolitische Überlegungen wie etwa der Rivalität gegenüber China.

Fördern statt verbieten

Ganz praktisch regelt die EU KI mit ihrem AI Act horizontal und umfassend, also als "Hard Law", wie Gasser ausführte. Einen ähnlichen Ansatz verfolgen Brasilien oder Kanada. Demgegenüber regulieren das Vereinigte Königreich oder Japan KI sektoriell. Dieser Ansatz, befand der Referent, könnte auch für die Schweiz interessant sein. Er plädierte dafür, Recht nicht nur als Mittel zur Beschränkung einzusetzen, sondern um Innovation gezielt zu fördern. Später warnte er vor Überregulierung und der Erwartung, dass Recht und Regulierung alle KI-Probleme lösen könnten. "Wir sollten auch über Governance, Standardisierungen, Best Practices und den verantwortungsvollen Umgang mit der Technologie reden."

Kerstin Johansson Baker, Head of Competence Network for AI, BFS. (Source: zVg)

Die Frage, wie ein mögliches Schweizer KI-Gesetz aussehen könnte, kam im Verlauf der Tagung mehrmals zur Sprache. Die Bundesverwaltung hat bereits eine Reihe von KI-Projekten am Laufen und unterhält auch ein Kompetenznetzwerk für die neue Technologie. Gleichzeitig wartet der Bundesrat bezüglich einer Gesetzgebung noch ab. Voraussichtlich Ende 2024 soll eine Auslegeordnung vorliegen, anhand derer er seine nächsten Entscheidungen treffen werde, erklärte Kerstin Johansson Baker, Head of Competence Network for AI beim Bundesamt für Statistik (BFS).

Die Panel-Diskussion am KI-Forum. Von links: Rehana Harasgama, Urs Gasser, Kerstin Johansson Baker, Anna Zeiter, David Rosenthal und Noémi Ziegler. (Source: zVg)

Bei den Teilnehmenden an einer Paneldiskussion am Vormittag stiess diese Strategie auf Zustimmung. "Ich würde mir ganz genau anschauen, was funktioniert und was nicht", befand etwa Anna Zeiter, VP & Chief Privacy Officer der Aktionsplattform Ebay. Bei der Rechtsunsicherheit, die in der EU während der Einführung des AI Acts zu erwarten sei, bestehe für die Schweiz kein Grund, vorschnell zu reagieren. Der AI Act der EU sei kein Innovationstreiber, fügte sie später hinzu. Zu den Schwachpunkten der europäischen Regulierung zählte sie unter anderem den mit jedem neuen Gesetz wachsenden Dokumentationsaufwand für Unternehmen. Gleichzeitig sprach sie sich für einen risikobasierten und Technologie-agnostischen Regulierungsansatz aus.

David Rosenthal, Rechtsanwalt und Partner bei der Kanzlei Vischer, erinnerte an die Einführung der EU-Datenschutzgrundverordnung (DSGVO). Auch hier zog die Schweiz erst nach mehreren Jahren nach. In der EU seien die rechtlichen "Prinzipien so stark formuliert, dass sie keine Prinzipien mehr sind", kritisierte er. Zudem könne man in der Schweiz die meisten KI-Regulierungsfragen mit dem bereits bestehenden Recht abdecken. Im Verlauf der Diskussion ermutigte Rosenthal Unternehmen dazu, sich zu trauen, im KI-Bereich und bei deren Dokumentation Neues auszuprobieren. Die Behörde könne sich dann melden, um zu berichtigen.

Zusammen lernen

Am Nachmittag widmeten sich zwei Referentinnen spezifischen KI-Rechtsfragen. Sandra Marmy-Brändli, Juristin und Partner bei Schiffbau Rechtsanwälte, wies auf die urheberrechtlichen Herausforderungen hin. Die Rechtsgrundlage, ein KI-Modell mit geschützten Werken zu trainieren, ist in der Schweiz demnach eher dünn. Das hiesige Gesetz sieht zwar vor, dass geschützte Werke zu wissenschaftlichen Zwecken vervielfältigt werden dürfen, schliesst aber Computerprogramme aus.

Sandra Marmy-Brändli, Juristin und Partner bei Schiffbau Rechtsanwälte. (Source: zVg)

In der EU wiederum sei das Vervielfältigen zu Forschungszwecken gestattet, wobei die Urheberrechteinhaber dem widersprechen können (Opt-out-Prinzip). Auch bezüglich KI-generierter Inhalte gibt es noch Fragen, die je nach Land unterschiedlich beantwortet werden. "Da bleibt es spannend", fasste die Referentin zusammen.

Isabelle Wildhaber, Dozentin und Co-Gründerin des Law & Tech Lab der Uni St. Gallen. (Source: zVg)

Isabelle Wildhaber, Dozentin und Co-Gründerin des Law & Tech Lab der Uni St. Gallen (HSG), legte ein Augenmerk auf Haftungsgrundlagen. Die EU erweiterte mit ihren Gesetzen die Herstellerhaftung über den Zeitpunkt der Produktlieferung hinaus. Zudem gehören neu auch Plattformbetreiber zu den Herstellern. Zudem sei in der EU die Produkthaftung als reine Gefährdungshaftung ausgestaltet. Eine solche würde sie für die Schweiz nicht empfehlen, befand die Referentin. Stattdessen sprach auch sie sich für sektorielle Ergänzungen zum bestehenden Recht aus. Am Schluss ihres Vortrags warf Wildhaber noch einen Blick voraus: Man lege heute noch viel Wert auf den "Human in the Loop", also darauf, dass eine KI-basierte Entscheidung von Menschen überprüft werde. Diese Forderung basiere auf der Annahme, die KI sei "biased" – fälle also verzerrte Entscheide. "Das ist Isabelle Wildhaber, Dozentin und Co-Gründerin des Law & Tech Lab der Uni St. Gallen (HSG), legte ein Augenmerk auf Haftungsgrundlagen. Die EU erweiterte mit ihren Gesetzen die Herstellerhaftung über den Zeitpunkt der Produktlieferung hinaus. Zudem gehören neu auch Plattformbetreiber zu den Herstellern. Die Schweiz werde die neue Produkthaftungsrichtlinie wahrscheinlich weitgehend autonom nachvollziehen. Hingegen würde die Referentin für die Betreiberhaftung in der Schweiz keine reine Gefährdungshaftung empfehlen. Stattdessen sprach auch sie sich für sektorielle Ergänzungen zum bestehenden Recht aus. Am Schluss ihres Vortrags warf Wildhaber noch einen Blick voraus: Man lege heute noch viel Wert auf den "Human in the Loop", also darauf, dass eine KI-basierte Entscheidung von Menschen überprüft werde. Diese Forderung basiere auf der Annahme, die KI sei "biased" – fälle also verzerrte Entscheide. "Aber auch Menschen sind biased", stellte die Referentin fest. Es könne sein, dass dereinst das Gegenteil, also von KI explizit unterstützte Entscheidungen, gefordert werde.

Kai Zenner, Head of Office and Digital Policy Adviser for MEP Axel Voss. (Source: zVg)

Dass noch viele rechtlichen Fragen offen sind, könnten und sollten Unternehmen als Chance nutzen. "Share your Expertise", ermutigte Kai Zenner, Head of Office and Digital Policy Adviser for MEP Axel Voss, der Teile des Gesetzestextes mitverfasste. Er räumte ein, dass der AI Act gut gemeint, aber schlecht ausgeführt sei. "Wir haben es uns glaub ich unnötig schwer gemacht. Aber noch ist nicht alles verloren. Und es liegt jetzt viel daran, dass alle extremst gut zusammenarbeiten", fasste er zusammen.

Anna Zeiter, VP & Chief Privacy Officer, Ebay. (Source: zVg)

Sowohl in der Paneldiskussion als auch in ihrem eigenen Vortrag hob Anna Zeiter von Ebay die Wichtigkeit von Prinzipien hervor. In Zusammenarbeit mit einer 30-köpfigen Arbeitsgruppe – alle Abteilungen sollten mitreden können – formulierte Zeiter einen Satz solcher Prinzipien. Basierend darauf entstanden weiterführende Dokumente wie Standards und Guidelines. Dazu kommen Gremien, die die Dokumente auf dem neuesten Stand halten und offene Fragen zum KI-Einsatz klären.

In der Unternehmenswelt sei auch das Upscaling von Fachwissen ein heisses Thema, merkte Zeiter in der Paneldiskussion an. "Es gibt nicht so viele KI-Talente wie aktuell benötigt werden", erklärte sie. Nicht nur Unternehmen, sondern auch behördliche Aufsichtsgremien sollten darum in Bildungsinitiativen investieren, um diesen Fachkräftemangel einzudämmen.

Das nächste Forum KI-Recht findet am 21. August 2025 statt. Bis dahin will der Verein in themenspezifischen Arbeitsgruppen den Austausch intensivieren.

Im Mai 2024 widmete sich der Digital Summit in Vaduz den aktuellen Entwicklungen in der künstlichen Intelligenz. An der Digitalkonferenz sprachen Experten und Branchenvertreter unter anderem von Amazon Web Services und Palantir über die Erfolgsfaktoren von KI für Wirtschaft und Staat. Mehr dazu lesen Sie hier.