Hintergründe zur generativen Künstlichen Intelligenz

Instrumente der generativen Künstlichen Intelligenz (KI) erstellen in wenigen Sekunden Inhalte wie Texte, Bilder, Codes, Musik oder Videos auf der Basis von Mustern und Strukturen verwendeter Trainingsdaten.

Aus Daten generiert

Je nach Inhalt werden unterschiedliche Daten zum Trainieren von KI-Algorithmen verwendet. Ein Beispiel dafür sind Large Language Models (LLMs), welche auf Textanalyse, -verarbeitung sowie Textgenerierung spezialisiert sind und mit sehr grossen Datensätzen trainiert wurden. Die ausgegebenen Resultate basieren auf Plausibilitäten und Wahrscheinlichkeiten; Kategorien wie «richtig» vs. «falsch» oder «wahr» vs. «unwahr» kennt die generative KI hingegen nicht. In der Konsequenz sind Ergebnisse oft fehlerhaft, einseitig (biased) oder gar erfunden (sog. Halluzinationen oder confabulations). Zugleich ergibt sich daraus, dass das immer mächtiger werdende Potential der generativen KI in gleichem Masse wie sie konstruktiv und nutzbringend auch destruktiv und zerstörerisch eingesetzt werden kann.

Chancen und Risiken von generativer KI

Die verantwortungsvolle und informierte Nutzung generativer KI im Sinne von Assistenzsystemen kann auch im wissenschaftlichen Kontext sehr hilfreich sein, etwa bei Brainstorming, Themenfindung und Schärfung einer Fragestellung, zur Verschaffung eines ersten Überblicks oder bei der Generierung von Codes, Illustrationen, Tabellen oder Präsentationen, aber auch zur Fehlerbehebung oder Redaktion.

Die rasche und kontinuierliche (Weiter-)Entwicklung von immer mehr Instrumenten der generativen KI birgt im universitären Kontext sowohl im Lehrbetrieb als auch in der Forschung aber auch diverse Herausforderungen und Risiken. Diese betreffen zentral das Konzept von Autorschaft (und damit auch das Urheberrecht), neue Formen wissenschaftlichen Fehlverhaltens durch undeklarierte oder intransparente Nutzung von Instrumenten der generativen KI, damit auch die Glaubwürdigkeit von Wissenschaft und wissenschaftlichen Publikationen überhaupt, das erhebliche Missbrauchspotential für (z.B. wissenschaftsfeindliche) Desinformationskampagnen oder die Tradierung von Biases.

Limitationen von generativer KI

Vor diesem Hintergrund wird deutlich, dass eine verantwortungsvolle Nutzung von Instrumenten der generativen KI ein Wissen um deren Limitationen ebenso voraussetzt:

• Inhaltliche und sachliche Fehler: Generative KI kann ungenaue oder fehlerhafte Informationen liefern.
• Halluzinationen: Ausgegebene Informationen können plausibel klingen, aber schlicht erfunden sein.
• Falsche Quellenangaben: Quellenangaben sind sehr häufig fehlerhaft oder erfunden, da die generative KI in der Regel noch nicht in der Lage ist, Texte oder andere Informationen korrekt zu zitieren.
• Intransparente Herkunft der Trainingsdaten: Welche Trainingsdaten für die Entwicklung von Outputs verwendet wurden, ist in der Regel nicht erkennbar. Die damit verbundenen Urheberrechtsprobleme sind noch weitgehend ungelöst. Die Intransparenz bezüglich der zugrundeliegenden Trainingsdaten kann ausserdem Bias verschleiern.
• Reproduktion von Bias: Überwiegt in den verwendeten Trainingsdaten z.B. eine bestimmte Forschungssicht oder ein anderer Bias, reproduzieren die ausgegebenen Resultate diese Schlagseite.
• Begrenztes Verständnis von Kontext: Der Kontext oder die Bedeutung einer Frage oder eines Textes wird von generativer KI oft unzureichend bzw. in starker Abhängigkeit vom jeweiligen Prompt erfasst. Die ausgegebenen Resultate können dadurch stark abweichen, unsinnig oder falsch erscheinen.

Ein erstes Fazit

Eine informierte und den Grundsätzen von akademischer Integrität entsprechende Nutzung der generativen KI setzt nicht nur Übung und ein Wissen um die Limitationen der jeweiligen Instrumente voraus, sondern auch eine profunde Kenntnis des jeweiligen Fachgebiets, da die Faktizität aller Aussagen unabhängig von der KI geprüft und beurteilt können werden muss.