Empfehlungen zur ethischen Nutzung von KI-Systemen in der Hochschullehre

Janine Rischke-Neß, Wiss. MA für E-Didaktik, BPS Berlin

Während sich diese Systeme weiterentwickeln, entstehen damit auch weitere ethische Dilemmata, die mit steigenden Trainingsdaten noch zunehmen. Dies zeigten die zahlreichen Debatten, etwa um facial recognition systems die bei der Identifikation von Personen mit unterschiedlicher Hautfarbe – vor allem bei der Anwendung auf People of Colour – erhebliche Fehler machten. Auch Kreditwürdigkeitsprüfungen durch KI-Systeme, die ihre Ergebnisse aus historischen Daten generierten, diskriminierten insbesondere Frauen und Minderheiten, da sie Verbindungen aus den durch Vorurteile geprägten Daten herstellten. Die zentrale Herausforderung für die ethisch verantwortungsvolle Nutzung von KI-Systemen und ihren Ergebnissen besteht demnach darin, dass generative KI bestehende gesellschaftliche Ungleichheiten widerspiegeln und verschärfen kann, oder „Lücken“ in den Daten mit Verzerrungen aus ähnlichen Kontexten füllt.

Weil aber Lehrende wie Studierende die Möglichkeiten, die Sprachmodelle wie ChatGPT 4.0 und andere bieten, in der Lehre, für das Lernen und zur persönlichen Weiterentwicklung einsetzen möchten, erhält der reflektierte Umgang mit KI-Technologie einen hohen Stellenwert.

Für die Auswertung von Texten, das Erstellen von Mindmaps, Gliederungen oder Verzeichnissen werden solche Tools durch Studierende bereits weitgehend genutzt, viele Lehrende haben die Vorteile für die Erstellung, Anpassung oder Übersetzung von Lehrmaterialien durch generative KI ebenfalls erkannt.

Dieser Beitrag möchte angesichts der großen Anzahl an Anleitungen und Richtlinien auf wesentliche Inhalte hinweisen, die wichtigsten Aspekte zusammenführen und aus den Erkenntnissen der didaktischen Diskurse in den letzten Jahren und Monaten einige Empfehlungen zur ethischen Nutzung von KI-Tools aus der Praxis geben. Diese stellen erste Arbeitsergebnisse der gemeinsamen kritischen Reflexion mit den Studierenden nach dem Einsatz von KI-Systemen in Workshops und Lehrveranstaltungen – vor allem im dualen Masterstudiengang Digitale Transformation – dar.

Empfehlungen für den Einsatz in der Hochschullehre:

Die Anleitungen und Handreichungen, wie jene vom Netzwerk „Ethische Nutzung von KI“ empfehlen einen bewussten und reflektierten Umgang mit den Möglichkeiten der KI-Tools und die Beachtung von ethischen Maßstäben:

Empfehlung 1:

Um datenschutzrechtliche und urheberrechtliche Regelungen, die etwa durch DSGVO, das Urheberrecht und den EU AI Act vorgegeben sind, einzuhalten, können Lehrende auf datenschutzrechtlich abgesicherte Systeme wie „HAWKI“ verweisen, das einen Zugang zu Sprachmodellen über eine Anmeldemaske aus der Hochschule heraus ermöglicht. Außerdem sollte die Nutzung von KI nicht verpflichtend sein, sondern den Studierenden freigestellt werden.

Empfehlung 2:

Da auch Persönlichkeitsrechte beachtet werden sollten, Geben Sie ausschließlich von ihnen selbst erstellte oder gemeinfreie Texte oder Bilder für die Korrektur, Übersetzung, Analyse, Zusammenfassung, Bewertung in Form von Prompts ein, verwenden Sie keine Daten von Dritten (z. B. Studierenden), vermeiden Sie personenbezogene Daten.

Empfehlung 3:

Nutzen Sie die Chancen, die Sprachmodelle wie Llama, Gemini oder ChatGPT für die Erstellung von Lehrmaterialien bieten und vernetzen Sie sich mit Expert:innen aus der Hochschuldidaktik, die bereits Informationen zu KI-System bereitstellen und Möglichkeiten sowie Grenzen verschiedener KI-Systeme benennen können. Auch an der HWR gibt es in den Fachbereichen fachkundige Ansprechpartner:innen, die bei Bedarf mit Informationen weiterhelfen können.

Empfehlung 4:

Informieren Sie sich zu den Risiken, die mit der Verwendung von generativer KI einhergehen und machen Sie ebenfalls ihre Studierenden auf Verzerrungen und Bias in den Trainingsdaten aufmerksam – alle Trainingsdaten sowie die Technologien selbst sind Produkte menschlichen Schaffens und damit immer auch kulturell, sozial und ideologisch beeinflusst. Die Forschung in diesen Bereichen wächst – nutzen Sie Studien in ihrer Lehre und bauen Sie den Diskurs bewusst ein.

Empfehlung 5:

Suchen Sie immer neue Wege, sich zu informieren. AI Literacy als Form der Digitalkompetenz kann nur über das Verstehen der Funktionsweise von Sprachmodellen und durch anhaltendes Interesse und Weiterbildung erreicht werden. Teilen Sie ihr Wissen und ihre Erkenntnisse gern auch mit ihren Studierenden und ermuntern sie diese, verschiedene Modelle zu nutzen, vergleichbar zu testen und die Ergebnisse kritisch zu reflektieren.

Die ethische Dimension des Trainings von Sprachmodellen mit vielfältigen Daten ergibt sich aus deren breitem Anwendungsspektrum in nahezu allen gesellschaftlichen Bereichen, sowohl in sensiblen als auch in weniger sensiblen Kontexten. Auch in der Lehre an Schulen und Hochschulen wird Generative KI zunehmend eine Rolle spielen. Für eine verantwortungsvolle Nutzung dieser Technologie sind das Wissen und die Reflektion der Nutzerinnen und Nutzer von entscheidender Bedeutung. Nur so kann der Einsatz von Künstlicher Intelligenz ethisch verantwortbar gestaltet werden.