Internationale Expert:innen testen an der HSG das neue EU-Gesetz zur Künstlichen Intelligenz

Ein roter Roboter auf vier Rädern kurvt durch den SQUARE. In dem weitläufigen HSG-Gebäude findet er sich bestens zurecht, weicht Menschen aus und überwindet Treppen. Der Roboter wird im SQUARE von einem seiner Entwickler gesteuert, könnte aber mittels Künstlicher Intelligenz (KI) auch komplett autonom unterwegs sein. Im SQUARE zeigte er sich anlässlich der ersten «University of St.Gallen Grand Challenge – The EU AI Act». An dieser haben am 18. und 19. Juli zwölf multidisziplinäre Teams verschiedene KI-Anwendungen darauf geprüft, inwiefern bei diesen Risiken in Bezug auf den geplanten «AI Act» der EU bestehen. Auch den erwähnten Roboter des Startups Swiss-Mile haben sie analysiert. 

EU plant weltweit erstes KI-Gesetz

Mit ihrem «AI Act» will die EU eine Verordnung zur Entwicklung und Nutzung von KI erlassen. Das Gesetz wird voraussichtlich 2026 in Kraft treten und weltweit das erste seiner Art sein. Es sieht vor, KI-Anwendungen je nach ihrem Risikopotential mit Auflagen zu versehen. «Es ist zu erwarten, dass einige Artikel des AI Acts in der Praxis schwierig anzuwenden sind oder zu viel Ermessensspielraum offenlassen», sagt Thomas Burri, HSG-Professor für Völkerrecht und Europarecht und Initiator der Grand Challenge. «Diese zwei Tage haben auch dazu gedient, zu erkennen, ob und wo es im Gesetzesentwurf Nachbesserungsbedarf gibt.» 

Burri und die Teilnehmenden haben mit der Grand Challenge hochaktuelle Fragen aufgegriffen. Das EU-Parlament, die EU-Kommission und die EU-Mitgliedstaaten verhandeln derzeit über den definitiven Gesetzestext des AI Acts. Dieser sogenannte Trilog dürfte sich noch über Monate hinziehen. Burri wird die Erkenntnisse aus der Grand Challenge voraussichtlich in einem Bericht zusammenfassen und diesen auch an die EU-Organe weiterleiten.  

Hersteller von KI-Anwendungen erhalten rechtliche Einschätzung

Neben dem Stresstest für das Gesetz haben während der zwei Tage im SQUARE insgesamt sechs Hersteller von Produkten, die KI einsetzen, eine erste Einschätzung aus Sicht des AI Acts zu ihren Anwendungen erhalten. «Mit der bevorstehenden Einführung des KI-Gesetzes, gibt es viele Fragen, die meine Kunden haben. Die AI Grand Challenge hilft uns zu verstehen, was das Gesetzt für unser Unternehmen bedeuten könnte», sagte etwa Kevin Kuhn, CEO des Schweizer Startups Gopf, das KI-gestützte Strategieberatung anbietet. Daneben analysierten die Teams auch autonome Baumaschinen der Firma Gravis Robotics, einen autonom patrouillierenden Sicherheitsroboter der Firma Ascento Robotics sowie eine KI-Anwendung der Deutschen Telekom, die betrügerische Anrufe erkennt und blockiert. Auch zwei Anwendungen, die von der KI-Plattform Merantix in Berlin gefördert werden (Ovom Care und Deltia AI), sowie eine KI-Anwendung von Mercedes-Benz wurden beurteilt.

«Die Stärke der Grand Challenge ist die Perspektivenvielfalt»

Die Grand Challenge war als Wettkampf organisiert: Rund 30 Teams bewarben sich in der Vorrunde, 12 wurden für das zweitägige Finale im SQUARE an der HSG eingeladen. Die Teams waren weitgehend multinational zusammengesetzt und vereinten Fachleute aus verschiedenen Disziplinen – darunter beispielsweise Anwält:innen, Computerwissen-schaftler:innen, Philosoph:innen und Ethiker:innen aber auch Vertreter:innen von Unternehmen. 

«Die Stärke der Grand Challenge ist, dass sie verschiedenste fachliche Perspektiven zusammenbringt – diese Vielfalt braucht es, um einen komplexen Gegenstand wie KI umfassend zu analysieren», sagte etwa Ibrahim Halfaoui, der als KI-Experte in einem Team der technischen Prüforganisation TÜV Süd teilnahm. Die ganze Welt schaue derzeit bei der Entwicklung des AI Acts auf die EU, es sei darum wichtig, das Gesetz und dessen Bedeutung für Unternehmen genau zu prüfen. «Veranstaltungen wie diese erhöhen auch das Bewusstsein dafür, dass diese grosse gesetzliche Veränderung kommt», sagte sein Teamkollege Martin Saerbeck. Derzeit würden viele Unternehmen dem AI Act noch zu wenig Beachtung schenken.

«Die wichtige Forschungsarbeit zu KI fortführen»

Die Teams erhielten zu den AI-Anwendungen jeweils ein Briefing des Herstellers. Bis zum Morgen des zweiten Tages schrieb jedes Team eine Einschätzung zu vier Anwendungen aus Sicht des AI Acts – dabei kamen etwa mögliche Risiken und weiterer Abklärungsbedarf zur Sprache.

Eine hochkarätige Jury bewertete diese Einschätzungen. Sie bestand aus Mariana Valente, HSG-Professorin für internationales Wirtschaftsrecht, Andreas Paulus, ehemaliger Richter am deutschen Bundesverfassungsgericht, Renata Jungo Brüngger, Vorstandsmitglied der Mercedes Benz Group AG mit Verantwortung für das Ressort Integrität und Recht, Barnali Choudhury, Rechtsprofessorin an der kanadischen Osgoode Hall Law School, Gustav Flecke-Giammarco, Partner bei Seven Summits Arbitrations in München, Michael Waibel, Professor für internationales Recht an der Universität Wien, sowie Viktor von Essen, Anwalt mit Fokus auf Technologie. 

Durch die Selektion der Jury kamen das spanische Team «Conformity Mavericks» sowie das Team «LegalAIzers» unter der Führung der südafrikanischen Universität Stellenbosch ins Finale. Dort mussten sie eine KI-Anwendung von Mercedes-Benz, die auf ChatGPT beruht, untersuchen und ihre Einschätzung mündlich abgeben. Die Jury entschied schliesslich, das Preisgeld von 100'000 Franken – es soll für weitere Forschungsprojekte eingesetzt werden -, zwischen den beiden Teams aufzuteilen. «Wir wollen damit auch dazu beitragen, dass beide Teams ihre Arbeit zu diesem wichtigen Thema fortführen können», sagt Jurypräsident Andreas Paulus in der Begründung.