{"id":42177,"date":"2024-10-04T07:07:03","date_gmt":"2024-10-04T05:07:03","guid":{"rendered":"https:\/\/blog.hwr-berlin.de\/elerner\/?p=42177"},"modified":"2024-10-04T08:29:02","modified_gmt":"2024-10-04T06:29:02","slug":"aus-grosser-macht-folgt-grosse-verantwortung","status":"publish","type":"post","link":"https:\/\/blog.hwr-berlin.de\/elerner\/aus-grosser-macht-folgt-grosse-verantwortung\/","title":{"rendered":"„Aus gro\u00dfer Macht folgt gro\u00dfe Verantwortung“"},"content":{"rendered":"

[et_pb_section fb_built=“1″ prev_background_color=“#ffffff“ next_background_color=“#ffffff“ admin_label=“section“ _builder_version=“4.16″ background_color=“#F0F0F1″ custom_padding=“102px||102px||true|false“ top_divider_style=“mountains2″ bottom_divider_style=“mountains2″ global_colors_info=“{}“][et_pb_row admin_label=“row“ _builder_version=“4.16″ background_size=“initial“ background_position=“top_left“ background_repeat=“repeat“ global_colors_info=“{}“][et_pb_column type=“4_4″ _builder_version=“4.16″ custom_padding=“|||“ global_colors_info=“{}“ custom_padding__hover=“|||“][et_pb_text _builder_version=“4.16.0″ _module_preset=“default“ global_colors_info=“{}“]<\/p>\n

Empfehlungen zur ethischen Nutzung von KI-Systemen in der Hochschullehre<\/h2>\n

Janine Rischke-Ne\u00df, Wiss. MA f\u00fcr E-Didaktik, BPS Berlin<\/p>\n

[\/et_pb_text][et_pb_text _builder_version=“4.16.0″ _module_preset=“default“ global_colors_info=“{}“]<\/p>\n

W\u00e4hrend sich diese Systeme weiterentwickeln, entstehen damit auch weitere ethische Dilemmata, die mit steigenden Trainingsdaten noch zunehmen. Dies zeigten die zahlreichen Debatten, etwa um facial recognition systems die bei der Identifikation von Personen mit unterschiedlicher Hautfarbe – vor allem bei der Anwendung auf People of Colour – erhebliche Fehler machten. Auch Kreditw\u00fcrdigkeitspr\u00fcfungen durch KI-Systeme, die ihre Ergebnisse aus historischen Daten generierten, diskriminierten insbesondere Frauen und Minderheiten, da sie Verbindungen aus den durch Vorurteile gepr\u00e4gten Daten herstellten. Die zentrale Herausforderung f\u00fcr die ethisch verantwortungsvolle Nutzung von KI-Systemen und ihren Ergebnissen besteht demnach darin, dass generative KI bestehende gesellschaftliche Ungleichheiten widerspiegeln und versch\u00e4rfen kann, oder \u201eL\u00fccken\u201c in den Daten mit Verzerrungen aus \u00e4hnlichen Kontexten f\u00fcllt.<\/p>\n

Weil aber Lehrende wie Studierende die M\u00f6glichkeiten, die Sprachmodelle wie ChatGPT 4.0 und andere bieten, in der Lehre, f\u00fcr das Lernen und zur pers\u00f6nlichen Weiterentwicklung einsetzen m\u00f6chten, erh\u00e4lt der reflektierte Umgang mit KI-Technologie einen hohen Stellenwert.<\/p>\n

F\u00fcr die Auswertung von Texten, das Erstellen von Mindmaps, Gliederungen oder Verzeichnissen werden solche Tools durch Studierende bereits weitgehend genutzt, viele Lehrende haben die Vorteile f\u00fcr die Erstellung, Anpassung oder \u00dcbersetzung von Lehrmaterialien durch generative KI ebenfalls erkannt.<\/p>\n

Dieser Beitrag m\u00f6chte angesichts der gro\u00dfen Anzahl an Anleitungen und Richtlinien auf wesentliche Inhalte hinweisen, die wichtigsten Aspekte zusammenf\u00fchren und aus den Erkenntnissen der didaktischen Diskurse in den letzten Jahren und Monaten einige Empfehlungen zur ethischen Nutzung von KI-Tools aus der Praxis geben. Diese stellen erste Arbeitsergebnisse der gemeinsamen kritischen Reflexion mit den Studierenden nach dem Einsatz von KI-Systemen in Workshops und Lehrveranstaltungen \u2013 vor allem im dualen Masterstudiengang Digitale Transformation \u2013 dar.<\/p>\n

[\/et_pb_text][\/et_pb_column][\/et_pb_row][\/et_pb_section][et_pb_section fb_built=“1″ admin_label=“section“ _builder_version=“4.16″ global_colors_info=“{}“][et_pb_row admin_label=“row“ _builder_version=“4.16″ background_size=“initial“ background_position=“top_left“ background_repeat=“repeat“ global_colors_info=“{}“][et_pb_column type=“4_4″ _builder_version=“4.16″ custom_padding=“|||“ global_colors_info=“{}“ custom_padding__hover=“|||“][et_pb_text _builder_version=“4.16.0″ _module_preset=“default“ global_colors_info=“{}“]<\/p>\n

\n
\n
\n
\n

Allgemeine Rahmenbedingungen f\u00fcr eine ethische Nutzung von KI<\/strong>:<\/h3>\n

\u2192 Transparenz<\/strong> \u00fcber die verwendeten Trainingsdaten und die Gr\u00fcnde f\u00fcr die Selektion der jeweiligen Trainingsdaten durch menschliches Feedback, durch Unternehmen und Anbieter von KI-Tools \u2013 hierauf haben wir als Nutzende insofern einen Einfluss, indem wir beispielsweise Open Source-Modelle unterst\u00fctzen, indem wir sie nutzen und Feedback geben.[1]<\/span><\/a><\/p>\n

\u2192 Rechenschaft und Verantwortung<\/strong>: Zum einen m\u00fcssen gewisse Regeln der Governance im Sinne von verbindlichen Vorschriften f\u00fcr die ethische Nutzung in Unternehmen etabliert werden. Diese sollten in enger Verbindung zu den Bestimmungen im EU AI Act und zu weiteren Richtlinien stehen. Auch an den Hochschulen in Deutschland finden Richtlinien f\u00fcr den Umgang mit Generativer KI immer mehr Beachtung.<\/p>\n

\u2192 Pers\u00f6nliche Verantwortung f\u00fcr die Verwendung des Outputs<\/strong>: die durch Prompts erzeugten Ergebnisse sollten durch die Nutzenden stets inhaltlich und auch auf ethische Widerspr\u00fcche hin \u00fcberpr\u00fcft werden. Auch und gerade f\u00fcr den Einsatz im wissenschaftlichen Kontext sind hier Hintergrundwissen und die Einsch\u00e4tzung der Aussagewerte bedeutend, da diese wiederum im Falle von Publikationen erneut als Trainingsdaten f\u00fcr die Sprachmodelle Verwendung finden k\u00f6nnen.<\/p>\n

\u2192 <\/strong>Bildung<\/strong>: Um die Grenzen der KI-Tools zu erkennen und auch, um m\u00f6gliche Diskriminierungen in den Outputs zu erkennen, bedarf es der Weiterbildungs- und Schulungsangebote f\u00fcr Studierende wie f\u00fcr Lehrende. Die vielen M\u00f6glichkeiten, die durch die Nutzung von Tools wie ChatGPT geboten werden sind eben nicht gleichzusetzen mit einer ethisch verantwortungsbewussten Nutzung dieser digitalen Tools. Hierf\u00fcr ist ein st\u00e4ndiger Lernprozess notwendig, auch angesichts der Tatsache, dass wir uns erst in den letzten Jahren mit Lernen als einem Prozess auseinandersetzen, der neurologisch unterschiedlich und \u201edivers\u201c ablaufen kann und Lernwege daher methodisch offen, inklusiver und partizipativer gestaltet werden sollten.<\/p>\n

[1]<\/span><\/a> Hier sei etwa auf die Sprachmodelle Llama 2 oder Bloom verwiesen: https:\/\/bigscience.huggingface.co\/blog\/bloom<\/a><\/span><\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n

[\/et_pb_text][\/et_pb_column][\/et_pb_row][\/et_pb_section][et_pb_section fb_built=“1″ prev_background_color=“#ffffff“ next_background_color=“#ffffff“ admin_label=“section“ _builder_version=“4.16″ background_color=“#F0F0F1″ custom_padding=“102px||102px||true|false“ top_divider_style=“mountains2″ bottom_divider_style=“mountains2″ global_colors_info=“{}“][et_pb_row admin_label=“row“ _builder_version=“4.16″ background_size=“initial“ background_position=“top_left“ background_repeat=“repeat“ global_colors_info=“{}“][et_pb_column type=“4_4″ _builder_version=“4.16″ custom_padding=“|||“ global_colors_info=“{}“ custom_padding__hover=“|||“][et_pb_text _builder_version=“4.16.0″ _module_preset=“default“ global_colors_info=“{}“]<\/p>\n

Empfehlungen f\u00fcr den Einsatz in der Hochschullehre:<\/h3>\n

Die Anleitungen und Handreichungen, wie jene vom Netzwerk \u201eEthische Nutzung von KI<\/a>\u201c empfehlen einen bewussten und reflektierten Umgang mit den M\u00f6glichkeiten der KI-Tools und die Beachtung von ethischen Ma\u00dfst\u00e4ben:<\/p>\n

Empfehlung 1<\/strong>:<\/p>\n

Um datenschutzrechtliche und urheberrechtliche Regelungen, die etwa durch DSGVO, das Urheberrecht und den EU AI Act vorgegeben sind, einzuhalten, k\u00f6nnen Lehrende auf datenschutzrechtlich abgesicherte Systeme wie \u201eHAWKI<\/a>\u201c verweisen, das einen Zugang zu Sprachmodellen \u00fcber eine Anmeldemaske aus der Hochschule heraus erm\u00f6glicht. Au\u00dferdem sollte die Nutzung von KI nicht verpflichtend sein, sondern den Studierenden freigestellt werden.<\/p>\n

Empfehlung 2:<\/strong><\/p>\n

Da auch Pers\u00f6nlichkeitsrechte beachtet werden sollten, Geben Sie ausschlie\u00dflich von ihnen selbst erstellte oder gemeinfreie Texte oder Bilder f\u00fcr die Korrektur, \u00dcbersetzung, Analyse, Zusammenfassung, Bewertung in Form von Prompts ein, verwenden Sie keine Daten von Dritten (z. B. Studierenden), vermeiden Sie personenbezogene Daten.<\/p>\n

Empfehlung 3:<\/strong><\/p>\n

Nutzen Sie die Chancen, die Sprachmodelle wie Llama, Gemini oder ChatGPT f\u00fcr die Erstellung von Lehrmaterialien bieten und vernetzen Sie sich mit Expert:innen aus der Hochschuldidaktik, die bereits Informationen zu KI-System bereitstellen und M\u00f6glichkeiten sowie Grenzen verschiedener KI-Systeme benennen k\u00f6nnen. Auch an der HWR gibt es in den Fachbereichen fachkundige Ansprechpartner:innen, die bei Bedarf mit Informationen weiterhelfen k\u00f6nnen.<\/p>\n

Empfehlung 4:<\/strong><\/p>\n

Informieren Sie sich zu den Risiken, die mit der Verwendung von generativer KI einhergehen und machen Sie ebenfalls ihre Studierenden auf Verzerrungen und Bias in den Trainingsdaten aufmerksam \u2013 alle Trainingsdaten sowie die Technologien selbst sind Produkte menschlichen Schaffens und damit immer auch kulturell, sozial und ideologisch beeinflusst. Die Forschung in diesen Bereichen w\u00e4chst \u2013 nutzen Sie Studien in ihrer Lehre und bauen Sie den Diskurs bewusst ein.<\/p>\n

Empfehlung 5:<\/strong><\/p>\n

Suchen Sie immer neue Wege, sich zu informieren. AI Literacy<\/em> als Form der Digitalkompetenz kann nur \u00fcber das Verstehen der Funktionsweise von Sprachmodellen und durch anhaltendes Interesse und Weiterbildung erreicht werden. Teilen Sie ihr Wissen und ihre Erkenntnisse gern auch mit ihren Studierenden und ermuntern sie diese, verschiedene Modelle zu nutzen, vergleichbar zu testen und die Ergebnisse kritisch zu reflektieren.<\/p>\n

Die ethische Dimension des Trainings von Sprachmodellen mit vielf\u00e4ltigen Daten ergibt sich aus deren breitem Anwendungsspektrum in nahezu allen gesellschaftlichen Bereichen, sowohl in sensiblen als auch in weniger sensiblen Kontexten. Auch in der Lehre an Schulen und Hochschulen wird Generative KI zunehmend eine Rolle spielen. F\u00fcr eine verantwortungsvolle Nutzung dieser Technologie sind das Wissen und die Reflektion der Nutzerinnen und Nutzer von entscheidender Bedeutung. Nur so kann der Einsatz von K\u00fcnstlicher Intelligenz ethisch verantwortbar gestaltet werden.<\/p>\n

[\/et_pb_text][\/et_pb_column][\/et_pb_row][\/et_pb_section][et_pb_section fb_built=“1″ admin_label=“section“ _builder_version=“4.16″ global_colors_info=“{}“][et_pb_row admin_label=“row“ _builder_version=“4.16″ background_size=“initial“ background_position=“top_left“ background_repeat=“repeat“ global_colors_info=“{}“][et_pb_column type=“4_4″ _builder_version=“4.16″ custom_padding=“|||“ global_colors_info=“{}“ custom_padding__hover=“|||“][et_pb_text _builder_version=“4.16.0″ _module_preset=“default“ global_colors_info=“{}“]<\/p>\n

\n
\n
\n
\n

Referenzen:<\/h4>\n

Lemke, C. (2024). EdTech Ethics \u2013 Digital-ethische Implikationen durch den Einsatz von Bildungstechnologien. Educational Technology (EdTech). Entwicklung und Bewertung von Bildungstechnologien. <\/em>Hrsg. von Tim Br\u00fcggemann, Marie Tuchscherer & Claudia Wiepcke. Springer <\/em>(in Vorbereitung)<\/p>\n

Huggingface: Introducing The World\u2019s Largest Open Multilingual Language Model: BLOOM: https:\/\/bigscience.huggingface.co\/blog\/bloom<\/a><\/span> [30.09.2024]<\/p>\n

Lemke, C.; Monett D., Faustmann, G. & Kirchner, K. (2021). Digitale Ethik der Bildung: Methodische Entwicklung eines Rahmenwerks. Digitalisierung in Studium und Lehre gemeinsam gestalten: Innovative Formate, Strategien und Netzwerke<\/em>, 83-110.<\/p>\n

Stracke, C. M., Chounta, I.-A., & Holmes, W. (2024). Global trends in scientific debates on trustworthy and ethical Artificial Intelligence and education. Artificial Intelligence in Education. AIED 2024. Communications in Computer and Information Science. <\/em>Springer<\/em>: https:\/\/doi.org\/10.1007\/978-3-031-64315-6_21<\/a><\/span><\/p>\n

Stracke, Bohr, Gabriel, Galla, Hofmann, Karolyi, Mersmann-Hoffmann, M\u00f6nig, Mundorf, Opel, Rischke-Ne\u00df, Schr\u00f6ppel, Silvestri, & Stroot (2024): Was ist K\u00fcnstliche Intelligenz (KI)? Wie kann ich KI ethisch in der Hochschule nutzen? Hrsg. v. Netzwerk \u201eEthische Nutzung von KI\u201c. https:\/\/doi.org\/10.5281\/zenodo.10793844<\/a><\/span><\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n

[\/et_pb_text][\/et_pb_column][\/et_pb_row][\/et_pb_section]<\/p>\n","protected":false},"excerpt":{"rendered":"

Generative KI st\u00f6\u00dft seit einigen Jahren in allen Branchen und Bereichen mit generierten Texten, Bildern, Musik und sogar Code zahlreiche Ver\u00e4nderungen und Prozesse an. Systeme wie OpenAI`s GPT, Google`s Bard und DALL\u00b7E zeigen Ergebnisse, die sprachlich eloquent und kreativ wirken. Diese Modelle finden in vielen Branchen Anwendung und erm\u00f6glichen auch im Bereich der Bildung weitreichende M\u00f6glichkeiten f\u00fcr Lehrende bei der Erstellung von Lehrmaterialien sowie f\u00fcr Studierende in Bezug auf den eigenen Lernprozess. Aufgrund der hohen Produktion an Texten und anderen Artefakten durch generative KI scheint diese Technologie gerade f\u00fcr die Hochschullehre vielversprechend und effizient.<\/p>\n","protected":false},"author":77,"featured_media":42178,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_et_pb_use_builder":"on","_et_pb_old_content":"","_et_gb_content_width":"","inline_featured_image":false,"footnotes":""},"categories":[2666],"tags":[3004,761,3006,3008],"class_list":["post-42177","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-lehre_studium","tag-ethik","tag-ki","tag-sprachmodelle","tag-verantwortung"],"_links":{"self":[{"href":"https:\/\/blog.hwr-berlin.de\/elerner\/wp-json\/wp\/v2\/posts\/42177","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blog.hwr-berlin.de\/elerner\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.hwr-berlin.de\/elerner\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.hwr-berlin.de\/elerner\/wp-json\/wp\/v2\/users\/77"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.hwr-berlin.de\/elerner\/wp-json\/wp\/v2\/comments?post=42177"}],"version-history":[{"count":17,"href":"https:\/\/blog.hwr-berlin.de\/elerner\/wp-json\/wp\/v2\/posts\/42177\/revisions"}],"predecessor-version":[{"id":42198,"href":"https:\/\/blog.hwr-berlin.de\/elerner\/wp-json\/wp\/v2\/posts\/42177\/revisions\/42198"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blog.hwr-berlin.de\/elerner\/wp-json\/wp\/v2\/media\/42178"}],"wp:attachment":[{"href":"https:\/\/blog.hwr-berlin.de\/elerner\/wp-json\/wp\/v2\/media?parent=42177"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.hwr-berlin.de\/elerner\/wp-json\/wp\/v2\/categories?post=42177"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.hwr-berlin.de\/elerner\/wp-json\/wp\/v2\/tags?post=42177"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}