Von Schummelei bis Chance – KI in der Lehre

11.06.2024

Eva-Maria Pottkämper und Moritz Köhler sind wissenschaftliche Mitarbeiter der Kölner Forschungsstelle für Medienrecht an der TH Köln.

Am 4. Juni 2024 fand ein spannender Live-Podcast der F.A.Z. Beruf & Chance statt, moderiert von Lisa Becker und Ursula Kals. Gemeinsam mit Prof. Dr. Rolf Schwartmann, Professor und Leiter der Kölner Forschungsstelle für Medienrecht sowie Vorsitzender der Gesellschaft für Datenschutz und Datensicherheit (GDD), diskutierten sie über das brisante Thema der Künstlichen Intelligenz (KI) in der Lehre.

Die Diskussion startete mit einer Anmerkung von Ursula Kals: „Jeder denkt bei KI an eine Suchmaschine, aber Sie hat es auf den Hund gebracht?“ Prof. Dr. Schwartmann erklärte „Hunde sind autonom, genauso wie KI“. Ein Hund könne auf dem Sofa kuscheln oder auf die Jagd gehen, wobei er autonom entscheide, ob er eine Ente oder ein Eichhörnchen bringe. „Genauso ist es bei der KI: Technik, die sich selbst entwickelt und verändert. Man kann nie genau sagen, was sie hervorbringt“, so Prof. Dr. Schwartmann. Die Frage, wer intelligenter sei – Hund oder KI –, führte zu einem interessanten Austausch über die Definition von Intelligenz. Lisa Becker betonte, dass Intelligenz oft mit Kreativität besetzt werde, während Prof. Dr. Schwartmann vorschlug, bei KI lieber von Autonomie zu sprechen, da es keine klaren Parameter zur Bewertung der Intelligenz gebe.

Eine aktuelle Studie zeige, dass drei Viertel aller Studierenden begeistert von KI sind, insbesondere männliche Studierende. Prof. Dr. Schwartmann äußerte sich ebenfalls begeistert in Bezug auf KI und dessen rasanten Entwicklungen, betonte jedoch die Notwendigkeit, KI verantwortbar zu machen, wenn man sie schon nicht beherrschen könne. „Entscheidend ist die Fähigkeit, qualifiziert und kritisch nachzufragen“, betonte er. An Hochschulen sei es wichtig, das Thema proaktiv anzugehen und Studierende anzuregen, sich intensiv mit den Möglichkeiten und Grenzen der KI auseinanderzusetzen.

Ein heikles Thema in der Diskussion war der Einsatz von KI in Prüfungen. Laut Prof. Dr. Schwartmann müsse die Eigenleistung der Studierenden stets erkennbar sein. Er stellte zwei Möglichkeiten vor: Entweder verzichte man komplett auf den Einsatz von KI in Prüfungen, was jedoch unrealistisch sei, oder man finde Wege, den verantwortungsvollen Einsatz von KI zu gewährleisten. „Studierende könnten KI zur Vorbereitung nutzen, müssten aber dokumentieren, wo sie eingreifen mussten und welcher Dialog mit einem Bot geführt wurde“, schlug Prof. Dr. Schwartmann vor. Ein zentrales Thema der Diskussion war die kritische Auseinandersetzung mit KI. „KI wird oft als Zaubermaschine gehandelt, die uns das Denken abnimmt, aber das ist sie nicht“, betonte Prof. Dr. Schwartmann. Sie sei ein mächtiges Werkzeug, das es verantwortungsvoll einzusetzen gelte.

Eine Frage aus dem Publikum lautete, ob KI-generierte Texte erkannt werden könnten. Prof. Dr. Schwartmann verneinte dies und verwies auf einen Beschluss des VG München[1], bei dem eine Bewerbung „zu gut“ für das Leistungsvermögen des Bewerbers war und der Verdacht aufkam, sie sei von einer KI erstellt worden. Die Richter mussten entscheiden, ob der Text KI-generiert war oder nicht – eine schwierige Aufgabe, die zeige, wie wichtig die kritische Auseinandersetzung ist.

Ein weiteres großes Thema war die rechtliche Seite des KI-Einsatzes in Prüfungsbewertungen. Prof. Dr. Schwartmann erläuterte die speziellen Rechtsprobleme, die durch den Einsatz von KI entstehen, und betonte, dass an der TH Köln der Einsatz von KI zur Bewertung von Prüfungen nicht erlaubt sei. „Studierende müssen ihre Note von einem Menschen und nicht von einer Maschine erhalten“, erläuterte er.

Aus dem Publikum kam der Hinweis, dass man ChatGPT Aufgaben stellen und anschließend Fakten überprüfen sollte, um zu lernen, dass die Intelligenz der KI noch nicht so weit ist, wie man es gerne hätte. Prof. Dr. Schwartmann ergänzte dies mit dem Konzept des Ankereffekts, bei dem das zuerst Genannte als Bezugspunkt dient – etwa in Verkaufsverhandlungen. Er betonte, dass die KI-Verordnung (KI-VO) darauf abzielt, eigenständige Urteile zu fördern und diese innerhalb der von KI gesetzten Grenzen zu überprüfen. Wenn Menschen jedoch der Maschine die erste Entscheidung überlassen, geht die Fähigkeit zur eigenständigen Beurteilung schlichtweg verloren.

Zum Abschluss wagte das Podium einen Blick in die Zukunft. Prof. Dr. Schwartmann betonte, dass KI nicht aus sich selbst heraus Fortschritt erzeugen könne und dass es wichtig sei, kritisch mit ihr umzugehen. „Wenn wir nur auf die vorhandenen Daten setzen, haben wir unser Wissen in fünf Jahren im Vergleich zu heute nicht fortentwickelt“, warnte er.

Das Gespräch kann auszugsweise im F.A.Z. Beruf und Chance Podcast unter diesem Link gehört werden.

[1] VG München, Beschluss v. 28.11.2023 – M 3 E 23.4371.