KI-Regulierung: Wie soll die Schweiz mit der Technologie umgehen?

Nach dem Erlass des «AI Act» durch die EU stellt sich auch für die Schweiz die Frage, ob und wie wir die Künstliche Intelligenz (KI) regulieren wollen. Um was geht es denn genau im AI Act?

Isabelle Wildhaber: Der EU AI Act ist eine horizontale Regulierung, die an der Technologie Künstliche Intelligenz (KI) als solcher anknüpft und diese regelt. Er verfolgt einen risikobasierten Ansatz, d.h. je nach Risikokategorie sind unterschiedliche Regelungen vorgesehen: je risikoreicher, desto strenger reguliert bis hin zu verboten. Das Europäische Parlament, der Rat und die Kommission haben sich im Dezember 2023 auf eine finale Version des AI Act geeinigt. Sämtliche Mitgliedstaaten haben diese Fassung im Februar 2024 akzeptiert, sodass einem Inkrafttreten Mitte 2024 nichts mehr im Weg steht.

Wie sinnvoll sind denn diese Regeln aus Ihrer Sicht?

Melinda Lohmann: Bei uns an der HSG hat im Sommer 2023 ein Expertenteam den EU AI Act einem Stresstest unterzogen. In dieser «Grand Challenge» traten Teams aus aller Welt in einem Wettbewerb an, um spezifische KI-Produkte oder KI-Dienstleistungen im Lichte der neuen KI-Regulierung zu beurteilen. Der HSG Grand Challenge Wettbewerb hat gezeigt, wie weitgehend die Regelungen sind, und wie schwierig umzusetzen. Es ist in unseren Augen wichtig, dass sich Gesetzgeber mit KI auseinandersetzen und überlegen, wo es Regelungslücken gibt. Das hat man schon früher beim Aufkommen neuer Technologien wie der Kernenergie oder der Gentechnologie getan. Unseres Erachtens ist der EU AI Act aber zu umfassend und zu weitgehend. Er wird für einige Unternehmen das Aus bedeuten und damit auch Innovation verhindern. In der Schweiz müssen wir uns gut überlegen, wie wir nun vorangehen möchten.

Wie soll denn eine Schweizer Regulierung von KI in der Verwaltung und in der Privatwirtschaft aussehen?

Isabelle Wildhaber: Wichtig ist es, die verschiedenen Anwendungsfälle differenziert anzuschauen und nicht alle über einen Kamm zu scheren. Deshalb empfehlen wir für die Schweiz sektorspezifische Regelungen. Wir brauchen kein horizontales KI-Gesetz. In der Verwaltung gelten andere Grundsätze als in der Privatwirtschaft. So haben zum Beispiel Bürger:innen beim Nutzen einer App mit KI-basiertem Chatbot weitergehende Ansprüche auf Information als private Nutzer:innen. Im Strassverkehr stellen sich andere Probleme als in der Medizin oder in den Medien.

Welche Risiken für die Grundrechte und Demokratie bringen die aktuellen Entwicklungen mit sich?

Melinda Lohmann: Wie alle neuen Technologien bringt die KI Chancen UND Risiken mit sich. Als Jurist:innen beschäftigen wir uns berufsbedingt viel mit Risiken, uns ist es aber wichtig, auch das Innovationspotential von KI zu betonen, z.B. zur Lösung der Klimakrise. Eine Regulierung muss so ausgestaltet sein, dass sie nicht Innovation abwürgt, sondern sichere und grundrechtskonforme KI ermöglicht. Regulierung kann auch Rechtssicherheit bedeuten und so Innovation ankurbeln. Ein Risiko von KI-Systemen wie dem HR Recruiting ist beispielweise die Diskriminierung. KI-Systeme sind mit historischen Daten erstellt und diese Daten enthalten oft einen «bias», der sich dann im System fortsetzt. Natürlich ist die KI selbst nicht sexistisch und «möchte» nur Männer einstellen, aber sie arbeitet eben mit diesen historischen Daten, die wir Menschen bereitstellen und die «bias» enthalten. Es ist wichtig, dass wir für diese möglichen Auswirkungen sensibilisiert werden.

Von welchen Erfahrungen anderer Länder kann die Schweiz lernen?

Isabelle Wildhaber: Die Schweiz ist in der luxuriösen Position, mit der Regulierung zuzuwarten und andere Länder zu beobachten. Was sich in der EU tut, ist für uns sicher am relevantesten und wird uns – ob wir wollen oder nicht – tangieren. Zum einen entfaltet der AI Act rechtliche Wirkung über die EU hinaus, zum anderen sorgt der sogenannte Brussels Effect dafür, dass Standards gesetzt werden (die EU hat mit ihrem AI Act jetzt natürlich einen Pflock in der Regulierungslandschaft eingeschlagen). 

Wann ist Künstliche Intelligenz Ihrer Meinung nach riskant und sollte in der Schweiz verboten werden?

Melinda Lohmann: Dystopische Szenarien wie Social Scoring und ähnliche Praktiken müssen gänzlich verhindert werden. Grundsätzlich sind wir allerdings der Ansicht, dass man ganz vorsichtig sein sollte, in diesem frühen Stadium Innovation pauschal abzuschnüren und wir finden, dass ein Verbot nur für besondere Anwendungen ausgesprochen werden sollte.

Das Law & Tech Lab lädt anlässlich der Frage, wie die KI in der Schweiz zu regulieren sei, zu einer Konferenz ein. Was ist das Ziel der Fachtagung?

Isabelle Wildhaber: Der Bundesrat hat dem UVEK den Auftrag gegeben, bis Ende 2024 einen Überblick über verschiedene Möglichkeiten der Regulierung in der Schweiz zu liefern. Ziel unserer Konferenz zur Regulierung von Künstlicher Intelligenz am 22. März 2024 im Technopark Zürich ist es, mit interessierten Personen diese Möglichkeiten kritisch zu diskutieren und eine Schweizer KI-Strategie zu besprechen. An der Konferenz nehmen Expert:innen aus Wirtschaft, Politik, Rechtswesen und Forschung teil. Zu Gast ist auch Bundesrat Beat Jans, Vorsteher des Eidgenössischen Justiz- und Polizeidepartements (EJPD). Er hält eine Keynote und diskutiert mit uns Aspekte einer Schweizer KI-Regulierung. Gastgeber der Konferenz ist das Law & Tech Lab an der Universität St.Gallen (HSG). Das Lab vereint sechs Rechtsprofessor:innen der HSG, die gemeinsam Forschung und Praxis in Law & Tech vorantreiben.

Abschliessend die Frage: Wie nützlich ist KI aktuell für Ihre eigene Arbeit in der Forschung? 

Melinda Lohmann: KI ist für uns in erster Linie ein faszinierender Forschungsgegenstand. Wir experimentieren aber natürlich auch selbst gerne mit neuen Tools wie ChatGPT. Vor allem in der Lehre kann man hier innovative Formate ausprobieren und die Studierenden wichtige Erfahrungen im Umgang mit KI-Tools und weiteren «LegalTech»-Tools sammeln lassen.