Wissenschaftliches Schreiben mit KI-Unterstützung an der HSG: «Die kritische Reflexion steht im Mittelpunkt»

An der HSG gibt es mit dem «Writing Lab» eine Anlaufstelle, die Studierende und Dozierende beim wissenschaftlichen Schreiben unterstützt. 2024 hat das HSG Writing Lab rund 700 Schreibberatungen durchgeführt, ein Fünftel davon drehte sich um den Einsatz von Künstlicher Intelligenz (KI). «Wir spüren, dass die Nachfrage von Studierenden nach Workshops und Beratungen zu KI laufend ansteigt», sagt Carina Gröner, promovierte Germanistin und administrative Leiterin des Labs. Dieses bietet darum während des Semesters an der HSG mehrere Workshops zum Thema KI und wissenschaftliches Schreiben und Arbeiten an. 

Zudem hat Gröner gemeinsam mit dem HSG-Lehrbeauftragten und KI-Forscher Reto Gubelmann einen Bachelorkurs mit dem Titel «(Wissenschaftlich) schreiben mit AI-Unterstützung - interdisziplinäre Zugänge zu Large Language Models» lanciert. Dieser ist Teils des Skills-Bereiches des HSG-Kontextstudium. «Bei diesem Kurs stehen praktische Schreibübungen, das Ausprobieren von verschiedenen KI-Tools sowie deren kritische Betrachtung im Mittelpunkt», sagt Gröner.

Kritisch bewerten, was die KI produziert

«Die meisten Studierenden nutzen KI im Alltag, etwa für Zusammenfassungen. Der Anteil jener, die Tools wie ChatGPT auch beim Schreiben von wissenschaftlichen Arbeiten nutzen, dürfte jedoch geringer sein», sagt Gubelmann. Er forscht an der Universität Zürich unter anderem zu logischen und argumentativen Fähigkeiten von Large Language Models (LLM). LLMs sind Sprachmodelle, die mittels Wahrscheinlichkeitsrechnungen Texte generieren. 

Beispiele für LLMs sind die Modelle hinter ChatGPT von OpenAI, Googles Gemini, Claude von Anthropic oder seit Kurzem auch DeepSeek von DeepSeek AI. In einem ersten Schritt lernen die Studierenden im Kurs, was LLMs sind und wie sie funktionieren. «Es ist dabei zentral zu verstehen, dass LLMs Worte nicht als richtig oder falsch deuten, sondern sie nach Wahrscheinlichkeitsgesetzen anwenden. Sie können darum auch nicht wirklich kreativ ‘denken’», sagt Gubelmann. 

Ein wichtiges Lernziel des Kurses ist laut Gröner, dass die Studierenden die Qualität von Texten bewerten können, die von einer KI generiert werden. «Dafür müssen sie die Anforderungen an wissenschaftliche Texte kennen, die wir ihnen im Kurs ebenfalls vermitteln», sagt Gröner. 

Und, so ergänzt Gubelmann, die Studierenden müssten erkennen, dass sie KI nur in Bereichen einsetzen sollten, in denen sie deren Resultate eigenständig überprüfen können. «Es gibt unzählige Beispiele von Fällen, in denen KIs Halluzinationen produzieren. Die KI-Inhalte kritisch auf ihre Genauigkeit und Richtigkeit zu prüfen ist deshalb eine zentrale Fähigkeit für das Studium und das Arbeitsleben», ergänzt der Philosoph und KI-Forscher.

Neben ChatGPT schauen die Studierenden im Kurs diverse weitere KI-Tools an – darunter beispielsweise solche, die auf Literaturrecherchen spezialisiert sind. Dazu werden Mitarbeitende der HSG-Bibliothek ein Gastreferat im Kurs halten.

HSG fördert reflektierten KI-Einsatz

Der Kurs fügt sich in Entwicklungen rund um KI an der HSG ein: So will die HSG die Vermittlung von KI-Kompetenz in ihrem Lehrangebot laufend stärken. Die Universitätsleitung hat 2024 eine Vision formuliert, gemäss der die Universitätsangehörigen die transformative Kraft der KI nutzen sollen. Die HSG lege Wert auf eine Kultur, die technische Innovationen zukunftsgerichtet aufnimmt und deren Einsatz verantwortungsbewusst reflektiert, so die Vision. 

Die HSG stellt unter anderem allen Dozierenden die Nutzung der Lern-App Brian zur Verfügung. Diese App wurde von HSG-Absolvierenden in Zusammenarbeit mit dem Teaching Innovation Lab der HSG entwickelt und setzt KI zur Erstellung von Kursinhalten ein. Parallel können sich Dozierende in Angeboten der HSG laufend in der KI-Anwendung weiterbilden.

Bei wissenschaftlichen Arbeiten von Studierenden verlangt die HSG, dass diese den Einsatz von KI-Tools im Hilfsmittelverzeichnis deklarieren, wenn sie als Hilfsmittel eingesetzt werden. Wenn KI-Inhalte im Rahmen der Argumentation verwendet werden, müssen diese Inhalte nach den Vorgaben gängiger Zitierstandards, wie APA, wörtlich oder sinngemäss zitiert und das KI-Tool als Quelle angegeben werden. 

KI kann Sparringpartner sein

Laut Gubelmann ist die Rolle von KI bei der Produktion von wissenschaftlichen Texten bislang jene eines Tools, das die Autor:innen unterstützt. «Eine KI kann bei der Literaturrecherche helfen, sie kann Sparringpartner bei der Ideensuche sein und auch bei Schreibblockaden helfen», sagt Gubelmann. LLMs hätten jedoch Mühe, ein Argument über mehrere Dutzend Seiten zu entwickeln. «Wissenschaftliche Texte sollten originell sein und einen neuen Beitrag leisten in einem Fachgebiet. Hier stösst die KI an ihre Grenzen.»

Die Studierenden erproben im Kurs beim Schreiben verschiedener Textformate, welche Unterstützung KI liefert und wie KI-generierte Texte beschaffen sind. Als Prüfungsleistung exzerpieren und rezensieren die Studierenden schliesslich einen wissenschaftlichen Artikel und vergleichen das eigene Exzerpt mit der KI-Zusammenfassung. «Wissenschaftliches Schreiben setzt bei den Autor:innen über die Zeit einen Denkprozess in Gang, bei dem Informationen vernetzt werden und neue Einsichten entstehen. Dabei kann die KI Studierende und Forschende unterstützen, sie kann den Prozess aber nicht ersetzen», so Gröner.