Unsere FAQ-Liste mit Empfehlungen für die Praxis zur ethischen Nutzung von KI-Systemen (verabschiedet vom Netzwerk am 7. März 2024):
Was ist Künstliche Intelligenz (KI)?
Wie kann ich KI ethisch in der Hochschule nutzen?
Die Handreichung „Was ist KI?“ des Netzwerks „Ethische Nutzung von KI“ richtet sich als Erstinformation an Lehrende in Hochschulen, die bisher noch nicht mit KI gearbeitet haben, und besteht aus den grundlegenden zehn Statements zur Nutzung von KI an Hochschulen und aus der nachfolgenden FAQ-Liste mit Empfehlungen für die Praxis.
FAQ-Liste mit Empfehlungen für die Praxis
- Wie funktionieren KI-Systeme überhaupt im Allgemeinen?
Antwort: Große Datenmengen werden mit Hilfe von Algorithmen analysiert und ausgewertet. Ein Teil davon wird als Trainingsdaten für das KI-System zu Beginn oder zwischendurch von Menschen selektiert und bewertet.
Empfehlung: Klären Sie, welche Art von KI Sie für Ihr Anliegen nutzen können und wollen, und mit welchen Daten das KI-System trainiert wurde.
- Welche Arten von KI-Systemen gibt es denn?
Antwort: Unter den vielen KI-Arten können generell zwei Typen von KI-Systemen unterschieden werden: analysierende (und ggf. entscheidende) KI-Systeme sowie produzierende (sog. generative) KI-Systeme wie ChatGPT und DALL-E.
Empfehlung: Überlegen Sie, welche Ergebnisse Sie mit welchen Daten und Eingaben erzielen wollen.
- Welche Kompetenzen benötigen Lehrende und Studierende für die ethische Nutzung von KI-Systemen?
Antwort: Eine große Vielzahl an digitalen, aber auch pädagogischen und rechtlichen Kompetenzen.
Empfehlung: Suchen Sie den Austausch mit Kolleg*innen, Netzwerken und Studierenden.
- Welche Verantwortung haben Lehrende und die Leitung der Hochschule konkret?
Antwort: Lehrende und Leitung sind eigenverantwortlich. Dies gilt auch für die Wahrung der Studierendenrechte.
Empfehlung: Lassen Sie sich beraten, lesen Sie interne KI-Richtlinien oder initiieren Sie diese ggf.
- Welche rechtlichen Aspekte müssen Lehrende beachten?
Antwort: Auch bei der Nutzung von KI-Systemen müssen Gesetze beachtet werden (Urheberrechte, Datenschutz, KI-Verordnung (AI Act), Persönlichkeitsrechte, Barrierefreiheit).
Empfehlung: Holen Sie vorab die Zustimmung (von Institution und Studierenden) zur Nutzung von KI-Systemen ein und stellen Sie Studierenden die KI-Nutzung frei.
- Welche formalen Aspekte müssen Lehrende beachten?
Antwort: Lehrende sind sowohl für die Nutzung der KI-Systeme (Input) als auch die Nutzung von deren Ergebnissen (Output) selbst verantwortlich.
Empfehlung: Geben Sie ausschließlich eigene bzw. gemeinfreie Texte oder Bilder zu Korrektur, Übersetzung, Analyse, Zusammenfassung, Bewertung etc. ein, nicht aber die von Dritten (z. B. Lernenden), Dritte sollten diese Eingabe dann selbst vornehmen.
- Welche Chancen bieten KI-Systeme in der Lehre?
Antwort: Zahlreiche, z. B. können Lehrende Materialien einfacher anpassen und von Studierenden bearbeiten lassen, so dass Dynamisierung, Personalisierung, Differenzierung und Individualisierung möglich sind.
Empfehlung: Machen Sie sich mit den Potentialen und Grenzen von KI-Systemen vertraut und integrieren Sie diese nach und nach in Ihre Lehrmethoden.
- Welche Risiken bergen KI-Systeme in der Lehre?
Antwort: Zahlreiche, z. B.: Ergebnisse von generativen KI-Systemen (wie ChatGPT oder DALL-E) sind durch die verwendeten Daten häufig nicht „objektiv“ und reproduzieren Stereotypen bzw. Bias. Diese KI-Ergebnisse werden möglicherweise unreflektiert weiterverwendet.
Empfehlung: Machen Sie sich und den Studierenden (teilweise diskriminierende) Stereotype und Bias bewusst. Betrachten Sie generiertes Material kritisch und überarbeiten Sie ggf. das KI-Ergebnis.
- Wie können KI-Systeme für Fake News und Desinformationen missbraucht werden?
Antwort: Insbesondere generative KI-Systeme können täuschend „echte“ Texte, Bilder, Stimmen und sogar Videos erzeugen.
Empfehlung: Diskutieren Sie mit Studierenden, dass Ergebnisse von generativen KI-Systemen nur schwierig oder gar nicht mehr erkannt werden können und stellen Sie klare Regeln für die Verwendung und Kennzeichnung von Ergebnissen (Output) der KI-Systeme auf.
- Wie können KI-Systeme in der Hochschule strategisch eingeführt werden?
Antwort: Die Entwicklung von hochschulweiten ethischen KI-Rahmenrichtlinien ist für die Einführung unerlässlich.
Empfehlung: Fragen Sie in Ihrem Fachbereich, Institut und bei Ihrer Hochschulleitung nach Richtlinien für die KI-Nutzung und kooperieren Sie interdisziplinär und mit anderen Hochschulen, um voneinander zu lernen. Fordern Sie von Ihrer Hochschule Autonomie und Anbieter-Vielfalt, um eine Abhängigkeit von einigen wenigen kommerziellen KI-Unternehmen zu vermeiden.
- Wie können KI-Systeme in der Hochschule allgemein verantwortungsvoll genutzt werden?
Antwort: Verantwortungsvoller KI-Einsatz erfordert die Sensibilisierung aller Hochschulangehörigen inklusive Angeboten zu internem Austausch und Weiterbildung, damit die Organisationsziele unterstützt werden.
Empfehlung: Fragen Sie nach Angeboten zu internem Austausch und Weiterbildung und diskutieren und bewerten (und ggf. optimieren) Sie die Richtlinien und Einsatzbereiche von KI-Systemen regelmäßig.
- Wie können Lehrende KI-Systeme verantwortungsvoll in ihre Lehrkonzeption integrieren?
Antwort: Der Einsatz von KI-Systemen erfordert, ebenso wie der aller anderen Lehrmaterialien, geeignete Lernszenarien mit klar formulierten Lernzielen, sodass der Lernprozess effektiv unterstützt wird.
Empfehlung: Überarbeiten Sie kontinuierlich selbst (ggf. auch mit den Studierenden) die Lehrkonzeption, die Lernziele und Einsatzszenarien von KI-Systemen.
- Wie können Lehrende KI-Systeme in der Lehrausübung verantwortungsvoll nutzen?
Antwort: Die Regeln der Nutzung von KI-Systemen und -Kennzeichnung sollten von Anfang an für alle bekannt sein (gemäß den Empfehlungen in dieser Handreichung).
Empfehlung: Unterstützen Sie den verantwortungsvollen Umgang mit KI-Systemen. Reflektieren und bewerten Sie mit den Studierenden die Nutzung von KI-Systemen in der Lehre. Sorgen Sie dafür, dass KI-Systeme nicht als Ersatz für eine fundierte Diskussion mit einer Lehrperson angesehen werden.
- Wie können KI-Systeme von Lehrenden für die Leistungsbewertung genutzt werden?
Antwort: Falls KI-Systeme für die Bewertung genutzt werden dürfen, erfordern diese präzise und vorab bekannte Bewertungskriterien, damit Studierende die Bewertung ihrer Leistung nachvollziehen können.
Empfehlung: Diskutieren Sie mit den Studierenden sowohl Ihre Bewertungskriterien als auch deren „Übersetzung“ für das von Ihnen favorisierte KI-System. Die Verantwortung für Ihre endgültige Bewertung dürfen Sie nicht dem KI-System überlassen.
- Welche ersten Schritte kann ich bei der Nutzung von KI-Systemen in der Lehre gehen?
Antwort: Dies hängt stark von Ihren eigenen Zielen, Kenntnissen und Bedingungen in der Lehre ab.
Empfehlung: Reflektieren und vergleichen Sie Beispiele und Anwendungsfälle mit Kolleg*innen.
- Welche Folgen wird die Nutzung von KI-Systemen in der Lehre haben?
Antwort: KI-Systeme können die Lehre entscheidend verändern und Sie können und sollten diesen Prozess mitgestalten.
Empfehlung: Überlegen Sie, ob Sie KI-Systeme nutzen wollen und falls ja, wie Sie KI-Systeme sinnvoll für Ihre Lehre und Lernziele einsetzen.
Die vollständige Handreichung kann hier heruntergeladen werden.
Empfohlene Zitation: Stracke, Bohr, Gabriel, Galla, Hofmann, Karolyi, Mersmann-Hoffmann, Mönig, Mundorf, Opel, Rischke-Neß, Schröppel, Silvestri, & Stroot (2024): Was ist Künstliche Intelligenz (KI)? Wie kann ich KI ethisch in der Hochschule nutzen? Hrsg. v. Netzwerk „Ethische Nutzung von KI“. https://doi.org/10.5281/zenodo.10793844