Unsere zehn Statements zur ethischen Nutzung von KI-Systemen (verabschiedet vom Netzwerk am 22. Februar 2024):
Was ist Künstliche Intelligenz (KI)?
Wie kann ich KI ethisch in der Hochschule nutzen?
Die Handreichung „Was ist KI?“ des Netzwerks „Ethische Nutzung von KI“ richtet sich als Erstinformation an Lehrende in Hochschulen, die bisher noch nicht mit KI gearbeitet haben, und besteht aus den nachfolgenden grundlegenden zehn Statements zur Nutzung von KI an Hochschulen und aus einer FAQ-Liste mit Empfehlungen für die Praxis.
10 Statements zu Künstlicher Intelligenz (KI)
1. Es gibt nicht die eine KI, sondern viele Arten von KI-Systemen mit unterschiedlichen Funktionen (zur Text- und Bild-Generierung, Übersetzung, Suche, Korrektur, Konvertierung etc.).
2. KI ist aktuell nicht „intelligent“, sondern als sog. „schwache KI“ eine Form der Automatisierung. Dabei werden große Datenmengen durch Algorithmen unter Nutzung von Wahrscheinlichkeiten ausgewertet, wobei (von Menschen konzipierte und trainierte) Modelle und (menschliche) Bewertungen kombiniert werden.
3. KI wird zukünftig (nach aktuellem Kenntnisstand) nicht als sog. „starke (d.h. autonom lernfähige) KI“ die Weltherrschaft übernehmen und auch kein autonomes Bewusstsein erlangen können.
4. KI ist nicht objektiv, sondern basiert auf Daten, die von Menschen erzeugt, ausgewählt und/oder klassifiziert werden, weshalb KI auch diskriminierend wirken kann.
5. KI bietet viele Chancen und viele Risiken: Pauschale Verbote sind keine Lösung, kluge Konzepte zur sinnvollen Nutzung sind notwendig, aber manchmal sind auch Verbote nötig.
6. KI hat keine Handlungskompetenz, denn diese liegt, wie die Verantwortung für die KI-Nutzung, immer beim Menschen. Die Hochschule muss diese menschliche Verantwortung sicherstellen.
7. KI ist immer in Bezug auf den Zweck zu sehen, für den sie (als Werkzeug) eingesetzt wird, denn KI ist ein Werkzeug mit großen ethischen, rechtlichen und sozialen Implikationen.
8. KI durchdringt alle Lebenswelten und wird auch in der Bildung schon genutzt. Daher ist KI nicht zu ignorieren und sollte darüber hinaus für alle zugänglich sein.
9. Bildung ist insgesamt ein spezieller Sektor, der aufgrund der allgemeinen Menschenrechte auf Bildung, Kinderschutz, Privatheit, etc. besondere KI-Regulierungen und Sorgfalt benötigt.
10. Die Nutzung von KI-Systemen in Hochschulen darf nicht vollkommen automatisiert erfolgen. Entscheidungen und Bewertungen müssen immer durch Menschen verantwortet werden.
Über unser Netzwerk „Ethische Nutzung von KI“, die Autorinnen, offene Lizenz und Zitationsweise:
Das Netzwerk „Ethische Nutzung von KI“ kam am 11.05.2023 erstmals zusammen. Seitdem treffen wir uns einmal im Monat und alle Interessierten sind herzlich willkommen! http://ethischeki.ecompetence.eu – Kontakt: Christian M. Stracke: <stracke@uni-bonn.de>
Autorinnen: Christian M. Stracke (Universität Bonn), Bärbel Bohr (Ostschweizer Fachhochschule), Sonja Gabriel (KPH Wien/Krems), Nina Galla, Martin Hofmann (Pädagogische Hochschule St.Gallen), Heike Karolyi (FernUniversität in Hagen), Heike Mersmann-Hoffmann (Universität Münster), Julia Maria Mönig (Universität Bonn), Margret Mundorf (Hochschule Kaiserslautern), Simone Opel (FernUniversität in Hagen), Janine Rischke-Neß (HWR Berlin), Markus Schröppel (HMKW Hochschule für Medien), Alexis Silvestri (Universität für Weiterbildung Krems), Gudrun Anne Stroot (Jade Hochschule)
Offene und freie Lizenz: Creative Commons CC-BY 4.0
Die vollständige Handreichung kann hier heruntergeladen werden.
Empfohlene Zitation: Stracke, Bohr, Gabriel, Galla, Hofmann, Karolyi, Mersmann-Hoffmann, Mönig, Mundorf, Opel, Rischke-Neß, Schröppel, Silvestri, & Stroot (2024): Was ist Künstliche Intelligenz (KI)? Wie kann ich KI ethisch in der Hochschule nutzen? Hrsg. v. Netzwerk „Ethische Nutzung von KI“. https://doi.org/10.5281/zenodo.10793844