KI und Gesellschaft: Unterschied zwischen den Versionen

Aus ZUM-Unterrichten
(inhalte eingefügt)
 
(kat)
Markierung: 2017-Quelltext-Bearbeitung
 
(16 dazwischenliegende Versionen von 2 Benutzern werden nicht angezeigt)
Zeile 1: Zeile 1:
=== Über diese OER ===
Diese OER bietet einen Strukturvorschlag, Inhalte und Unterrichtsideen für eine Lehreinheit zu '''KI und Gesellschaft''', insbesondere den Grundlagen von KI, den Einsatzgebieten (mit Fokus auf KI in der Bildung) und den Problemen, die KI verursachen kann.
Diese OER bietet einen Strukturvorschlag, Inhalte und Unterrichtsideen für eine Lehreinheit zu den Grundlagen von KI, den Einsatzgebieten (insbesondere KI in der Bildung) und den Problemen, die KI verursachen kann.


==== Lernziele ====
===Über diese OER===
====Lernziele====


* Die Schüler:innen können grob erklären, was KI ist.
*Die Schüler:innen können grob erklären, was KI ist.
* Die Schüler:innen verstehen den Unterschied zwischen KI-Programmen und normalen Programmen.
*Die Schüler:innen verstehen den Unterschied zwischen KI-Programmen und vorgegebenen Programmen.
* Die Schüler:innen können mögliche Einsatzgebiete von KI nennen.
*Die Schüler:innen können mögliche Einsatzgebiete von KI nennen.
* Die Schüler:innen können an Beispielen vorurteilsbehaftete KI erkennen.
*Die Schüler:innen können an Beispielen vorurteilsbehaftete KI erkennen.
* Schüler:innen können ihre Meinung zu KI in der Bildung äußern.
*Schüler:innen können ihre Meinung zu KI in der Bildung äußern.


==== Zielgruppe ====
====Zielgruppe====
Die vorgestellten Inhalte sind für Schüler:innen der Mittelstufe geeignet. Vorkenntnisse über KI werden nicht vorausgesetzt.
Die vorgestellten Inhalte sind für Schüler:innen der Mittelstufe geeignet. Vorkenntnisse über KI werden nicht vorausgesetzt.


=== Einleitung ===
====Zeitumfang====
Diese OER umfasst Material für 90 Min. Unterricht.
 
===Einleitung===
''Dieser Abschnitt führt Thema und Begriffe ein und erzeugt Motivation, sich mit dem Thema zu beschäftigen.''  
''Dieser Abschnitt führt Thema und Begriffe ein und erzeugt Motivation, sich mit dem Thema zu beschäftigen.''  
Künstliche Intelligenz (KI) ist ein Programm, das eingegebene Daten interpretiert, daraus lernt und das Gelernte nutzt, um bestimmte Ziele zu erreichen [5, S.8]. KI ist jedoch nicht zu verwechseln mit normalen Programmen. Normale Programme bekommen die Regeln und die Struktur für das Lösen der Aufgabe vorgegebe [2]. KI-Programme bekommen jedoch die Struktur des Lernens vorgegeben und entwickeln an Hand von Daten eigene Regeln für die Lösung einer Aufgabe [2]. Man sagt, die KI “lernt” aus den Daten, oder sie wird an Hand von Daten “trainiert”. Eine andere Abgrenzung von KI zu normalen Programmen ergibt sich daraus, ob ein Programm den Turing-Test besteht. Dieser wird von einer Maschine bzw. einem Programm bestanden, wenn ein Mensch in der Interaktion mit einer Maschine nicht erkennt, dass es eine Maschine ist [2]. Dann sagt man, das Programm ist “intelligent”.
 
Künstliche Intelligenz (KI) ist ein Programm, das eingegebene Daten interpretiert, daraus lernt und das Gelernte nutzt, um bestimmte Ziele zu erreichen<ref name=":0">Lee, D. (2020). Samsung and LG go head to head with AI-powered fridges that recognize food. Verfügbar unter: https://www.theverge.com/2020/1/2/21046822/samsung-lg-smart-fridge-family-hub-instaview-thinq-ai-ces-2020 (Zugriff zuletzt: 27.06.2023)</ref>. KI ist jedoch nicht zu verwechseln mit normalen Programmen. Vorgegebene ("normale") Programme bekommen die Regeln und die Struktur für das Lösen der Aufgabe vorgegeben<ref name=":1">Automation Hero (2023). What’s the difference between software automation and artificial intelligence. Verfügbar unter: https://automationhero.ai/blog/whats-the-difference-between-software-automation-and-artificial-intelligence/ (Zugriff zuletzt: 02.08.2023)</ref>. KI-Programme bekommen jedoch die Struktur des Lernens vorgegeben und entwickeln an Hand von Daten eigene Regeln für die Lösung einer Aufgabe<ref name=":1" />. Man sagt, die KI "lernt" aus den Daten, oder sie wird an Hand von Daten "trainiert". Eine andere Abgrenzung von KI zu normalen Programmen ergibt sich daraus, ob ein Programm den Turing-Test besteht. Dieser wird von einer Maschine bzw. einem Programm bestanden, wenn ein Mensch in der Interaktion mit einer Maschine nicht erkennt, dass es eine Maschine ist<ref name=":1" />. Dann sagt man, das Programm ist "intelligent".  
 
Künstliche Intelligenz entwickelt sich schnell weiter und wird bereits vielseitig im Alltag eingesetzt. Wie wir später sehen werden, kommt KI auch in Situationen zum Einsatz, die unser Leben beeinflussen. Um den verantwortungsbewussten Umgang mit KI zu fördern, ist es notwendig, über die möglichen Probleme von KI und ihre Auswirkungen auf die Gesellschaft zu reflektieren.
Künstliche Intelligenz entwickelt sich schnell weiter und wird bereits vielseitig im Alltag eingesetzt. Wie wir später sehen werden, kommt KI auch in Situationen zum Einsatz, die unser Leben beeinflussen. Um den verantwortungsbewussten Umgang mit KI zu fördern, ist es notwendig, über die möglichen Probleme von KI und ihre Auswirkungen auf die Gesellschaft zu reflektieren.


Unterrichtsidee: Fragen Sie die Schüler:innen, ob sie schon mal von KI gehört haben und mit eigenen Worten sagen können, was das ist. Machen Sie daraus eine Fragen-Ideen-Runde.
{{Idee|Fragen Sie die Schüler:innen, ob sie schon mal von KI gehört haben und mit eigenen Worten sagen können, was das ist. Machen Sie daraus eine Fragen-Ideen-Runde.}}{{Idee|Nutzen Sie vor der Klasse ChatGPT oder ein ähnliches Tool (Microsoft BingAI) und fragen Sie die KI, was eine KI ist.}}


Unterrichtsidee: Nutzen Sie vor der Klasse ChatGPT oder ein ähnliches Tool (Microsoft BingAI) und fragen Sie die KI, was eine KI ist.
===Anwendungsfälle von KI===
''Dieser Abschnitt gibt einen Überblick über mögliche Anwendungsfälle von KI. Optional kann hier der Fokus auf KI für ein bestimmtes Einsatzgebiet, z.B. Bildung, gelegt werden.''


=== Einsatzgebiete von KI ===
====A) KI in der Bildung====
''Dieser Abschnitt gibt einen Überblick über mögliche Anwendungsfälle von KI. Optional kann hier der Fokus auf KI für einen bestimmten Bereich, z.B. Bildung, gelegt werden.''
Bereits seit längerem, spätestens jedoch seit dem Hype um ChatGPT, ist KI in der Bildung angekommen<ref>Tahiru, F. (2021). AI in Education: A Systematic Literature Review. Journal of Cases on Information Technology (JCIT), 23(1), 1-20. DOI: 10.4018/JCIT.2021010101</ref>. KI kann hierbei sowohl zur Unterstützung von Schüler:innen, als auch für Lehrkräfte eingesetzt werden.
 
==== A) KI in der Bildung ====
Bereits seit längerem, spätestens jedoch seit dem Hype um ChatGPT, ist KI in der Bildung angekommen [1]. KI kann hierbei sowohl zur Unterstützung von Schüler:innen, als auch für Lehrkräfte eingesetzt werden.


Unterstützung für Schüler:innen:
Unterstützung für Schüler:innen:


* KI Nachhilfelehrer:innen in Form von Chatbots [30]
*KI Nachhilfelehrer:innen in Form von Chatbots<ref>Graesser, A. C., Hu, X., Susarla, S., Harter, D., Person, N., & Olde, B. (2001). AutoTutor: An Intelligent Tutor and Conversational Tutoring Scaffold. Workshop on Tutorial Dialog Systems. 10th International Conference on Artificial Intelligence in Education (AIED), San Antonio, Texas. https://www.cs.cmu.edu/~aleven/AIED2001WS/Graesser.pdf</ref>
* An persönliche Präferenzen, Vorkenntnisse oder Lerntyp angepasste Lerninhalte (personalisiertes oder adaptives Lernen) [12]
*An persönliche Präferenzen, Vorkenntnisse oder Lerntyp angepasste Lerninhalte (personalisiertes oder adaptives Lernen)<ref>Cherif-Zahar, Mehdi (2022). Smartest – oder wie man künstliche Intelligenz zur Automatisierung von formativen Beurteilungen einsetzt. In: Hochschulforum Digitalisierung. Verfügbar unter: https://hochschulforumdigitalisierung.de/de/blog/smartest (Zugriff zuletzt: 02.08.2023)</ref>
* Analyse des eigenen Lernverhaltens zur Selbsteinschätzung [31]
*Analyse des eigenen Lernverhaltens zur Selbsteinschätzung<ref>Love, J., DeMonner, S., & Teasley, S. (2021). Show Students Their Data: Using Dashboards to Support Self-Regulated Learning. In: Why IT Matters to Higher Education - EDUCAUSE Review. https://er.educause.edu/articles/2021/7/show-students-their-data-using-dashboards-to-support-self-regulated-learning (Zugriff zuletzt: 02.08.2023)</ref>
* Verwendung für Hausaufgaben (z.B. ChatGPT für Deutsch-Aufsätze, DeepL für den Fremdsprachenunterricht) [11]
*Verwendung für Hausaufgaben (z.B. ChatGPT für Deutsch-Aufsätze, DeepL für den Fremdsprachenunterricht)<ref>Pölert, Hauke (2022). ChatGPT – ein KI-Chatbot (GPT-3) als Assistent für Lernen und Lehren?! In: Unterrichten Digital. Verfügbar unter: https://unterrichten.digital/2022/12/10/kuenstliche-intelligenz-ki-schule-unterricht/ (Zugriff zuletzt: 02.08.2023)</ref>


Unterstützung für Lehrkräfte:
Unterstützung für Lehrkräfte:


* Bewertung von Aufgaben [32]
*Bewertung von Aufgaben<ref>Pearson Languages. (2019, August 30). Can a computer really mark an exam? The benefits of automated assessment in ELT - Blogs | Pearson Languages. https://www.pearson.com/languages/community/blogs/2019/08/the-benefits-of-automated-assessment-in-elt.html (Zugriff zuletzt: 02.08.2023)</ref>
* Formulieren von Aufgaben [33]
*Formulieren von Aufgaben<ref>Valenzuela, J. (2023). Using AI to Help Organize Lesson Plans. Edutopia. https://www.edutopia.org/article/ai-lesson-plans/ (Zugriff zuletzt: 02.08.2023)</ref>
* Analyse von Lernverhalten um bei Problemen frühzeitig eingreifen zu können [34]
*Analyse von Lernverhalten um bei Problemen frühzeitig eingreifen zu können<ref>Lu, O. H. T., Huang, A. Y. Q., Huang, J. C. H., Lin, A. J. Q., & Yang, S. J. H. (2018). Applying Learning Analytics for the Early Prediction of Students' Academic Performance in Blended Learning. In: Educational Technology & Society. 21(2), 220–232.</ref>


Unterrichtsidee: Fordern Sie die Schüler:innen auf, zu überlegen, wo in ihrem Schulalltag sie bereits KI nutzen oder sich wünschen, von einer KI unterstützt zu werden. Es kann erneut erst ein stilles Brainstorming oder ein Brainstorming in Kleingruppen erfolgen.
{{Idee|Fordern Sie die Schüler:innen auf, zu überlegen, wo in ihrem Schulalltag sie bereits KI nutzen oder sich wünschen, von einer KI unterstützt zu werden. Es kann erneut erst ein stilles Brainstorming oder ein Brainstorming in Kleingruppen erfolgen. Ideen können zunächst still auf Karten geschrieben werden (um auch die Ideen von introvertierten Schüler:innen mit einfließen zu lassen), die dann an der Tafel nach Zugehörigkeit sortiert und besprochen werden.}}


==== B) Weitere Einsatzgebiete ====
====B) Weitere Einsatzgebiete====
Künstliche Intelligenz wird in unserem alltäglichen Leben immer relevanter. Sie wird bereits in folgenden Bereichen eingesetzt:
Künstliche Intelligenz wird in unserem alltäglichen Leben immer relevanter. Sie wird bereits in folgenden Bereichen eingesetzt:
{| class="wikitable"
|+
!Bereich
!Einsatzbeispiel
|-
|Alltagsorganisation und Haushalt
|
*Sprachassistenzsysteme wie Siri, Alexa, usw.<ref>Schulz, J. (2019). Smarte Sprachassistenten und künstliche Intelligenz—"Ich verstehe Liebeskummer nicht". Deutschlandfunk Kultur. https://www.deutschlandfunkkultur.de/smarte-sprachassistenten-und-kuenstliche-intelligenz-ich-100.html (Zugriff zuletzt: 02.08.2023)</ref>
*Suchmaschinen<ref>Kapit, M. (2022). AI in Search Engines: Everything You Need to Know. Verfügbar unter: https://www.marketingaiinstitute.com/blog/how-search-engines-use-artificial-intelligence (Zugriff zuletzt: 27.06.2023)</ref>
*Intelligente Kühlschränke<ref name=":0" />
|-
|Transport und Personenbeförderung
|
*Selbstfahrende Autos und Busse (mit verschiedenen Graden von "Selbstständigkeit")<ref>Cusack, Jenny (2021). How driverless cars will change our world: BBC. Verfügbar unter: https://www.bbc.com/future/article/20211126-how-driverless-cars-will-change-our-world (Zugriff zuletzt: 27.06.2023)</ref>
*Entwicklung selbstfahrender Schiffe, Drohnen und weiterer Liefer-Roboter<ref>Levander, Oskar (2017). Forget autonomous cars - autonomous ships are almost here. IEEE Spectrum. Verfügbar unter: https://spectrum.ieee.org/forget-autonomous-cars-autonomous-ships-are-almost-here (Zugriff zuletzt: 02.08.2023)</ref>
|-
|Sicherheit & Justiz
|
*Zugangsregelung<ref>Toft, Malou (2019). Künstliche Intelligenz für Gebäude: Zutrittskontrolle intelligent gesteuert. In: Gebäudedigital. Verfügbar unter: https://gebaeudedigital.de/allgemein/kuenstliche-intelligenz-fuer-gebaeude/ (Zugriff zuletzt: 02.08.2023)</ref>
*Videoüberwachung mit KI Gesichtserkennung<ref>Schönherr, Harff-Peter (2022). Lückenlose Auswertung. In: taz. Verfügbar unter: https://taz.de/Ueberwachungskameras-in-Gefaengnissen/!5856202/ (Zugriff zuletzt: 02.08.2023)</ref>
*Empfehlungen für Richter:innen<ref>Richter, Thomas (2023). Künstliche Intelligenz unterstützt Richterinnen und Richter in Zivilprozessen. In: Nachrichten Informationsdienst Wissenschaft (idw). Verfügbar unter: https://nachrichten.idw-online.de/2023/06/28/kuenstliche-intelligenz-unterstuetzt-richterinnen-und-richter-in-zivilprozessen (Zugriff zuletzt: 02.08.2023)</ref>
|-
|Produktion
|
*Intelligente Fabriken (Material, Qualität)<ref>Industrie-Wegweiser (n.d.). Künstliche Intelligenz (KI) – Einsatz in der Produktion. Verfügbar unter: https://industrie-wegweiser.de/kuenstliche-intelligenz-produktion-ki/ (Zugriff zuletzt: 02.08.2023)</ref>
*Produkt-Design<ref>Karlsruher Institut für Technologie (2022). Karlsruher Forschungsfabrik: Industrielle Produktion mit KI optimieren. Verfügbar unter: https://www.kit.edu/kit/pi_2022_087_karlsruher-forschungsfabrik-industrielle-produktion-mit-ki-optimieren.php (Zugriff zuletzt: 02.08.2023)</ref>
|-
|Medizin und Pflege
|
*Entwicklung neuer Medikamente & Impfungen<ref>mdr Wissen (2023). Neue KI berechnet Wirkstoffe für nächste Pandemie. Verfügbar unter: https://www.mdr.de/wissen/ki-berechnet-medikamente-fuer-nacheste-pandemie-100.html (Zugriff zuletzt: 02.08.2023)</ref>
*Diagnose an Hand von Bildern (z.B. MRT, Röntgenbild, mikroskopische Abbildungen von Gewebe, Hautkrebsfrüherkennung)<ref>Jutzi, Tanja B.; Brinker, Titus J. (2020). Hautkrebserkennung: Wie künstliche Intelligenz die Diffenzialdiagnose schärft. In: Deutsches Ärzteblatt. Verfügbar unter: https://www.aerzteblatt.de/archiv/214284/Hautkrebserkennung-Wie-kuenstliche-Intelligenz-die-Diffenzialdiagnose-schaerft (Zugriff zuletzt: 02.08.2023)</ref><ref>Healthcare-in-Europe.com (2021). KI analysiert Röntgenbilder des Bewegungsapparats. Verfügbar unter: https://healthcare-in-europe.com/de/news/ki-analysiert-roentgenbilder-des-bewegungsapparats.html (Zugriff zuletzt: 02.08.2023)</ref>
*"Emotionale" Roboter interagieren mit Demenz-Patient:innen<ref>Schmitt-Sausen, Nora (2017). Assistenzroboter: „Ach ist der süß“. In: Deutsches Ärzteblatt. Verfügbar unter: https://www.aerzteblatt.de/archiv/193912/Assistenzroboter-Ach-ist-der-suess (Zugriff zuletzt: 02.08.2023)</ref>
|-
|Kunst und Musik
|
*ChatGPT schreibt Texte und Gedichte<ref>Habert, Jesko (2023). ChatGPT als Poet? Künstliche Intelligenz und Slam. In: Kiezpoeten. Verfügbar unter: https://kiezpoeten.com/chatgpt-als-poet-kuenstliche-intelligenz-und-slam/ (Zugriff zuletzt: 02.08.2023)</ref>
*Neue Lieder/ Bilder im Stil bekannter Künstler:innen<ref>Heaven, Douglas (2020). Neues KI-Werkzeug produziert Songs mit Stil und Stimme bekannter Künstler. In: Heise Online. Verfügbar unter: https://www.heise.de/hintergrund/Neues-KI-Werkzeug-produziert-Songs-mit-Stil-und-Stimme-bekannter-Kuenstler-4716718.html (Zugriff zuletzt: 02.08.2023)</ref>
*Musikvorschläge bei Spotify und Co.<ref>Katzlberger, Michael (2021). Wie und wo Spotify Künstliche Intelligenz nutzt. Verfügbar unter: https://katzlberger.ai/2021/03/29/wie-und-wo-spotify-kuenstliche-intelligenz-nutzt/ (Zugriff zuletzt: 02.08.2023)</ref>
|-
|Computerspiele
|
*Generierung von Spielwelten<ref>Glanzer, Sebastian (2023). Blizzard will mit KI-generierten Grafiken die Spielwelten verbessern. In: Buffed. Verfügbar unter: https://www.buffed.de/Blizzard-Firma-15293/News/mit-KI-generierten-Grafiken-Spielwelten-verbessern-1418921/ (Zugriff zuletzt: 02.08.2023)</ref>
*Verhalten von Gegner:innen und NPCs<ref>DerStandard (2023). KI soll ermöglichen, sich mit Computerspiel-Figuren zu "unterhalten". Verfügbar unter: https://www.derstandard.de/consent/tcf/story/3000000172189/ki-soll-ermoeglichen-sich-mit-computerspiel-figuren-zu-unterhalten (Zugriff zuletzt: 02.08.2023)</ref>
|-
|Landwirtschaft
|Bewässerungsmaschinen<ref>Schreier, Jürgen (2020). Mit KI in der Landwirtschaft Wasser sparen. In: Industry of Things. Verfügbar unter: https://www.industry-of-things.de/mit-ki-in-der-landwirtschaft-wasser-sparen-a-936966/ (Zugriff zuletzt: 02.08.2023)</ref>
|-
|Bewerbungen
|
*Vorfiltern von Bewerbungen nach geeigneten Bewerber:innen<ref>Reddig, Sophia (2021). Künstliche Intelligenz im Bewerbungsprozess: KI guckt mit. In: Tagesspiegel. Verfügbar unter: https://www.tagesspiegel.de/wirtschaft/ki-guckt-mit-4264693.html (Zugriff zuletzt: 02.08.2023)</ref>
*Erstellen von Persönlichkeitsprofilen an Hand von Videos von Bewerber:innen<ref>de Molina, Karl-Maria (2021). KI-Einsatz in Videointerviews: Was geht, was geht nicht? In: HR Journal. Verfügbar unter: https://www.hrjournal.de/ki-einsatz-in-videointerviews-was-geht-was-geht-nicht/ (Zugriff zuletzt: 02.08.2023)</ref>
|}


Alltagsorganisation und Haushalt
{{Idee|Fordern Sie die Schüler:innen auf, zu überlegen, wo KI eingesetzt wird. Ideen können erneut auf Karten geschrieben und an der Tafel geclustert werden.}}


* Sprachassistenzsysteme wie Siri, Alexa, usw. [35]
===Die KI hat Vorurteile===
* Suchmaschinen [4]
* Intelligente Kühlschränke [5]
 
Transport und Personenbeförderung
 
* Selbstfahrende Autos und Busse (mit verschiedenen Graden von “Selbstständigkeit”) [9]
* Entwicklung selbstfahrender Schiffe, Drohnen und weiterer Liefer-Roboter [8]
 
Sicherheit & Justiz
 
* Zugangsregelung [13]
* Videoüberwachung mit KI Gesichtserkennung [14]
* Empfehlungen für Richter:innen [15]
 
Produktion
 
* Intelligente Fabriken (Material, Qualität) [16]
* KI als Produkt-Designerin [17]
 
Medizin und Pflege
 
* Entwicklung neuer Medikamente & Impfungen [18]
* Diagnose an Hand von Bildern (z.B. MRT, Röntgenbild, mikroskopische Abbildungen von Gewebe, Hautkrebsfrüherkennung) [19] [20]
* “Emotionale” Roboter interagieren mit Demenz-Patient:innen [21]
 
Kunst und Musik
 
* ChatGPT schreibt Texte und Gedichte [22]
* Neue Lieder/ Bilder im Stil bekannter Künstler:innen [23]
* Musikvorschläge bei Spotify und Co. [24]
 
Computerspiele
 
* Generierung von Spielwelten [25]
* Verhalten von Gegner:innen und NPCs [26]
 
Landwirtschaft
 
* Bewässerungsmaschinen [27]
 
Bewerbungen
 
* Vorfiltern von Bewerbungen nach geeigneten Bewerber:innen [28]
* Erstellen von Persönlichkeitsprofilen an Hand von Videos von Bewerber:innen [29]
 
Unterrichtsidee: Fordern Sie die Schüler:innen auf, zu überlegen, wo KI eingesetzt wird. Ideen können zunächst still auf Karten geschrieben werden (um auch die Ideen von introvertierten Schüler:innen mit einfließen zu lassen), die dann an der Tafel nach Zugehörigkeit sortiert und besprochen werden.
 
=== Die KI hat Vorurteile ===
''Dieser Abschnitt beschreibt zunächst ein Experiment, das durchgeführt werden kann, um Vorurteile von KI zu erkunden. Dann werden weitere Fälle vorurteilsbehafteter KI beleuchtet.''
''Dieser Abschnitt beschreibt zunächst ein Experiment, das durchgeführt werden kann, um Vorurteile von KI zu erkunden. Dann werden weitere Fälle vorurteilsbehafteter KI beleuchtet.''


==== A) Experiment: Wie sieht eine Lehrkraft aus? ====
====A) Experiment: Wie sieht eine Lehrkraft aus?====
Experimente haben gezeigt, dass Menschen bestimmte Berufe mit bestimmten Geschlechtern assoziieren [10]. Wir wollen in einem eigenen Experiment herausfinden, welche Vorstellungen KI von bestimmten Berufen hat.  
Experimente haben gezeigt, dass Menschen bestimmte Berufe mit bestimmten Geschlechtern assoziieren<ref>Wang, J., Liu, Y., & Wang, X.E. (2021). Are Gender-Neutral Queries Really Gender-Neutral? Mitigating Gender Bias in Image Search. Conference on Empirical Methods in Natural Language Processing. DOI: 10.48550/arXiv.2109.05433</ref>. Wir wollen in einem eigenen Experiment herausfinden, welche Vorstellungen KI von bestimmten Berufen hat.  


Für unser Experiment werden einer KI eine Berufsbezeichnungen auf Englisch gegeben (auf englisch ist die Berufsbezeichnung meist geschlechtsneutral und schränkt daher die Resultate nicht auf ein bestimmtes Geschlecht ein, z.B. lawyer, doctor, scientist, police officer, engineer). Die KI gibt dann ein Bild zurück, das sie mit diesem Beruf verbindet.  
Für unser Experiment werden einer KI eine Berufsbezeichnungen auf Englisch gegeben (auf englisch ist die Berufsbezeichnung meist geschlechtsneutral und schränkt daher die Resultate nicht auf ein bestimmtes Geschlecht ein, z.B. lawyer, doctor, scientist, police officer, engineer). Die KI gibt dann ein Bild zurück, das sie mit diesem Beruf verbindet.  


Für dieses Experiment wird empfohlen, sich bei OpenAI (<nowiki>https://openai.com/</nowiki>) zu registrieren und die KI Dall-E zu nutzen. Dall-E ist eine sog. “Generative AI”, die Bilder erzeugen kann [6]. Die Nutzung von Dall-E ist derzeit für eine bestimmte Menge von Anfragen kostenlos. Alternativ kann auch die Google Bildersuche genutzt werden.  
Für dieses Experiment wird empfohlen, sich bei OpenAI (https://openai.com/) zu registrieren und die KI Dall-E zu nutzen. Dall-E ist eine sog. "Generative AI", die Bilder erzeugen kann<ref>Ramesh, A. et al. (2021). DALL·E: Creating images from text. Verfügbar unter: https://openai.com/research/dall-e (Zugriff zuletzt: 27.06.2023)</ref>. Die Nutzung von Dall-E ist derzeit für eine bestimmte Menge von Anfragen kostenlos. Alternativ kann auch die Google Bildersuche genutzt werden.  
 
{{Idee|Lassen Sie die Schüler:innen Berufe nennen und die Ergebnisse beobachten. Beschränken Sie von vornherein die Anzahl der Berufe, die Sie testen wollen. Sie können das Experimentziel (beobachten, ob die KI Vorurteile hat, und welche) auch erst im Anschluss an die ersten Beobachtungen benennen, um einen Überraschungseffekt zu erzielen.}}
{{Idee|Sollten Sie Dall-E nutzen, lassen die die Schüler:innen zum Abschluss des Experiments ein Fantasiebild erstellen, indem sie die Begriffe der Schüler:innen aufnehmen und auf englisch in Dall-E eingeben. Dadurch lockern Sie die Situation noch etwas auf.}}


Unterrichtsidee: Lassen Sie die Schüler:innen Berufe nennen und die Ergebnisse beobachten. Beschränken Sie von vornherein die Anzahl der Berufe, die Sie testen wollen. Sie können das Experimentziel (beobachten, ob die KI Vorurteile hat, und welche) auch erst im Anschluss an die ersten Beobachtungen benennen, um einen Überraschungseffekt zu erzielen.
Beim Experiment sollte auffallen, dass die Google-Ergebnisse vorurteilsbehaftet sind<ref>Nicoletti, L., Bass, D. (2023): Humans are biased. Generative AI is even worse. Verfügbar unter: https://www.bloomberg.com/graphics/2023-generative-ai-bias/ (Zugriff zuletzt: 02.08.2023)</ref><ref>Petereit, D. (2022): KI-Bildgenerator DALL-E mit schweren Vorurteilen: Ingenieure sind weiße Männer, Krankenpflegende Frauen. Verfügbar unter: https://t3n.de/news/ki-bildgenerator-dall-e-schweren-1482800/ (Zugriff zuletzt: 02.08.2023)</ref> (Siehe Screenshots rechts). Also z.B. mehr männlich-gelesene Personen, mehr weiße Personen, keine Personen mit sichtbarer Behinderung, etc.  


Unterrichtsidee: Sollten Sie Dall-E nutzen, lassen die die Schüler:innen zum Abschluss des Experiments ein Fantasiebild erstellen, indem sie die Begriffe der Schüler:innen aufnehmen und auf englisch in Dall-E eingeben. Dadurch lockern Sie die Situation noch etwas auf.
[[Datei:Google-image-search-results-teacher.jpg|mini|Ergebnisse der Google Bildersuche für den Beruf "teacher"]]
[[Datei:Google-image-search-results-engineer.jpg|mini|Ergebnisse der Google Bildersuche für den Beruf "engineer"]]


Beim Experiment sollte auffallen, dass die Google-Ergebnisse vorurteilsbehaftet sind [36] (Screenshots auf der nächsten Seite). Also z.B. mehr männlich-gelesene Personen, mehr weiße Personen, keine Personen mit sichtbarer Behinderung, etc. Diese Vorurteile in den Ergebnissen werden durch das KI-Programm erzeugt, das bei der Bildersuche genutzt wird. Sie entstehen dadurch, dass das KI-Programm basierend auf Bilddaten gelernt hat, bestimmte Geschlechter und Hautfarben mit bestimmten Berufen zu assoziieren. Das konnte passieren, weil manche Berufe traditionell eher weiblich oder männlich besetzt waren, oder weil manche Personengruppen daran gehindert waren, bestimmte Berufe zu ergreifen. Diese Diskriminierung sollte sich eine KI jedoch nicht aneignen, denn das könnte Vorurteile verstärken indem der Eindruck erweckt wird, z.B. der Beruf der Anwältin wäre für Frauen eine ungewöhnliche Wahl.
Diese Vorurteile in den Ergebnissen werden durch das KI-Programm erzeugt, das bei der Bildersuche genutzt wird. Sie entstehen dadurch, dass das KI-Programm basierend auf Bilddaten gelernt hat, bestimmte Geschlechter und Hautfarben mit bestimmten Berufen zu assoziieren. Das konnte passieren, weil manche Berufe traditionell eher weiblich oder männlich besetzt waren, oder weil manche Personengruppen daran gehindert waren, bestimmte Berufe zu ergreifen. Diese Diskriminierung sollte sich eine KI jedoch nicht aneignen, denn das könnte Vorurteile verstärken indem der Eindruck erweckt wird, z.B. der Beruf der Anwältin wäre für Frauen eine ungewöhnliche Wahl.


Dass die traditionelle Besetzung von Berufen mit bestimmten Geschlechtern heute zu einer diskriminierenden KI führt, nennt man das “Garbage in, Garbage out” Prinzip [38]. Um das Prinzip besser zu verstehen soll es kurz an Hand einer Alltagsmetapher erläutert werden: Stellen Sie sich vor, Künstliche Intelligenz sei ein Küchenmixer. Was hineingegeben wird, bestimmt, was herauskommt. Wenn alte schrumplige Bananen hineingegeben werden (“Garbage in”), dann wird daraus kein frischer Bananenshake (“Garbage out”). Das bedeutet, KI lernt von den Daten, die ihr gegeben werden. Wenn die verwendeten Daten Vorurteile beinhalten, etwa die Annahme, dass in der Vergangenheit hauptsächlich Männer Informatiker*innen waren, kann die KI fälschlicherweise annehmen, dass Männer besser für IT-Jobs geeignet sind, obwohl dies nicht der Realität entspricht. Deshalb ist es sehr wichtig, dass darauf geachtet wird, welche Daten der KI zum Lernen gegeben werden, und dass das Verhalten der KI regelmäßig geprüft wird.  
Dass die traditionelle Besetzung von Berufen mit bestimmten Geschlechtern heute zu einer diskriminierenden KI führt, nennt man das "Garbage in, Garbage out" Prinzip<ref>ChatBot4You (2023). "Garbage in, garbage out": Wie die Qualität Ihrer Daten den Erfolg Ihres Chatbots bestimmt. Verfügbar unter: https://www.chatbot4you.io/blog/detailseite/garbage-in-garbage-out (Zugriff zuletzt: 02.08.2023)</ref>. Um das Prinzip besser zu verstehen soll es kurz an Hand einer Alltagsmetapher erläutert werden: Stellen Sie sich vor, Künstliche Intelligenz sei ein Küchenmixer. Was hineingegeben wird, bestimmt, was herauskommt. Wenn alte schrumplige Bananen hineingegeben werden ("Garbage in"), dann wird daraus kein frischer Bananenshake ("Garbage out"). Das bedeutet, KI lernt von den Daten, die ihr gegeben werden. Wenn die verwendeten Daten Vorurteile beinhalten, etwa die Annahme, dass in der Vergangenheit hauptsächlich Männer Informatiker:innen waren, kann die KI fälschlicherweise annehmen, dass Männer besser für IT-Jobs geeignet sind, obwohl dies nicht der Realität entspricht. Deshalb ist es sehr wichtig, dass darauf geachtet wird, welche Daten der KI zum Lernen gegeben werden, und dass das Verhalten der KI regelmäßig geprüft wird.  


Die Entwickler:innen der Google Bildersuche und von Generative AI Systemen arbeiten daran, die Vorurteile ihrer KIs zu beheben. Es kann also immer wieder zu unterschiedlichen Experiment-Ergebnissen kommen.
Die Entwickler:innen der Google Bildersuche und von Generative AI Systemen arbeiten daran, die Vorurteile ihrer KIs zu beheben. Es kann also immer wieder zu unterschiedlichen Experiment-Ergebnissen kommen.


BILDER
====B) Weitere Fälle von vorurteilsbehafteter KI====
 
==== B) Weitere Fälle von vorurteilsbehafteter KI ====
Weitere Beispiele für vorurteilsbehaftete KI im Alltag sind:
Weitere Beispiele für vorurteilsbehaftete KI im Alltag sind:


* Bewerbungen um eine neue Arbeitsstelle [7]: In der Arbeitswelt existieren bereits KI’s, die dazu dienen, Bewerbungen für neue Arbeitsstellen zu screenen und zu bewerten. Diese Systeme können jedoch potenzielle Vorurteile aufweisen, die sich aus den Daten ergeben, mit denen sie trainiert wurden. Historische Verzerrungen in den Trainingsdaten können dazu führen, dass sie bestimmte demografische Gruppen benachteiligen. Es kann beispielsweise vorkommen, dass Bewerber*innen aufgrund ihres Geschlechts, Alters, ihrer Ethnizität oder anderer Merkmale von den Systemen weniger bevorzugt werden.
*Bewerbungen um eine neue Arbeitsstelle<ref>Harlan, Elisa und Schnuck, Oliver (2021). Fairness oder Vorurteil? Fragwürdiger Einsatz von Künstlicher Intelligenz bei der Jobbewerbung. In: Bayerischer Rundfunk. Verfügbar unter: https://interaktiv.br.de/ki-bewerbung/index.html (Zugriff zuletzt: 02.08.2023)</ref>: In der Arbeitswelt existieren bereits KI’s, die dazu dienen, Bewerbungen für neue Arbeitsstellen zu screenen und zu bewerten. Diese Systeme können jedoch potenzielle Vorurteile aufweisen, die sich aus den Daten ergeben, mit denen sie trainiert wurden. Historische Verzerrungen in den Trainingsdaten können dazu führen, dass sie bestimmte demografische Gruppen benachteiligen. Es kann beispielsweise vorkommen, dass Bewerber:innen aufgrund ihres Geschlechts, Alters, ihrer Ethnizität oder anderer Merkmale von den Systemen weniger bevorzugt werden.


* Antrag eines Kredits bei der Bank [37]: KI’s könnten aufgrund ihrer Trainingsdaten unfaire Entscheidungen treffen, indem sie bestimmte Bevölkerungsgruppen, wie beispielsweise Gruppen mit traditionell niedrigerem Einkommen oder Personen aus bestimmten ethnischen Hintergründen, benachteiligen. Das kann dazu führen, dass diesen Personen ein Kredit verwehrt wird oder sie höhere Zinssätze zahlen müssen.
*Antrag eines Kredits bei der Bank<ref>Luther, T. (2018): Wenn Künstliche Intelligenz über eine Finanzierung entscheidet. Verfügbar unter: https://www.handelsblatt.com/unternehmen/rating-durch-digitale-kreditpruefer-wenn-kuenstliche-intelligenz-ueber-eine-finanzierung-entscheidet/22593710.html (Zugriff zuletzt: 02.08.2023)</ref>: KI’s könnten aufgrund ihrer Trainingsdaten unfaire Entscheidungen treffen, indem sie bestimmte Bevölkerungsgruppen, wie beispielsweise Gruppen mit traditionell niedrigerem Einkommen oder Personen aus bestimmten ethnischen Hintergründen, benachteiligen. Das kann dazu führen, dass diesen Personen ein Kredit verwehrt wird oder sie höhere Zinssätze zahlen müssen.


* bei der Polizei/ im Gericht [3]: Künstliche Intelligenz wird auch im Justizsystem und bei der Polizeiarbeit eingesetzt, beispielsweise zur Vorhersage von Verbrechen oder zur Entscheidungsunterstützung bei Gerichtsverfahren. Hier könnten KI-Systeme aufgrund der Daten, mit denen sie trainiert wurden, Vorurteile gegen bestimmte Bevölkerungsgruppen aufweisen. Dies könnte dazu führen, dass bestimmte Gruppen übermäßig ins Visier genommen oder bei Gerichtsentscheidungen benachteiligt werden.
*bei der Polizei/ im Gericht<ref>Noiret, S., Lumetzberger, J., & Kampel, M. (2021). Bias and Fairness in Computer Vision Applications of the Criminal Justice System. 2021 IEEE Symposium Series on Computational Intelligence (SSCI), 1-8. DOI: 10.1109/SSCI50451.2021.9660177</ref>: Künstliche Intelligenz wird auch im Justizsystem und bei der Polizeiarbeit eingesetzt, beispielsweise zur Vorhersage von Verbrechen oder zur Entscheidungsunterstützung bei Gerichtsverfahren. Hier könnten KI-Systeme aufgrund der Daten, mit denen sie trainiert wurden, Vorurteile gegen bestimmte Bevölkerungsgruppen aufweisen. Dies könnte dazu führen, dass bestimmte Gruppen übermäßig ins Visier genommen oder bei Gerichtsentscheidungen benachteiligt werden.


Unterrichtsidee: Da Künstliche Intelligenz auch wie zuvor beschrieben mehrfach im Bildungsbereich eingesetzt wird, müssen auch hier die Vorurteile eines KI-Programms beachtet werden. Bitten Sie die Schüler:innen sich vorzustellen, dass KI von nun an Hausaufgaben kontrolliert und bewertet. Fragen Sie die Schüler:innen, wie sie das finden. Überlegen Sie gemeinsam ob so eine KI für manche Schüler:innen zum Problem werden könnte. Hilfreiche Stichwörter für die Aufgabe wären [7, S. 17 f.]: Sprachbarriere, Gender, Einkommen der Familie. Beachten Sie auch mögliche Vorteile.
{{Idee|Da Künstliche Intelligenz auch wie zuvor beschrieben mehrfach im Bildungsbereich eingesetzt wird, müssen auch hier die Vorurteile eines KI-Programms beachtet werden. Bitten Sie die Schüler:innen sich vorzustellen, dass KI von nun an Hausaufgaben kontrolliert und bewertet. Fragen Sie die Schüler:innen, wie sie das finden. Überlegen Sie gemeinsam ob so eine KI für manche Schüler:innen zum Problem werden könnte. Hilfreiche Stichwörter für die Aufgabe wären: Sprachbarriere, Gender, Einkommen der Familie. Beachten Sie auch mögliche Vorteile. Diese Fragestellung könnte im Placemat oder im Plenum bearbeitet werden.}}


=== Zusammenfassung & Fazit ===
===Zusammenfassung & Fazit===
KI umfasst viele verschiedene intelligente Programme, die in immer mehr Bereichen unseres Lebens zum Einsatz kommen. Wie jede neue Technik bietet auch KI einige Risiken. Sie gibt nämlich meist die Vorurteile wieder, die sie gelernt hat. Es ist daher wichtig, die Ergebnisse und Handlungen von KI zu hinterfragen und zu prüfen.
KI umfasst viele verschiedene intelligente Programme, die in immer mehr Bereichen unseres Lebens zum Einsatz kommen. Wie jede neue Technik bietet auch KI einige Risiken. Sie gibt nämlich meist die Vorurteile wieder, die sie gelernt hat. Es ist daher wichtig, die Ergebnisse und Handlungen von KI zu hinterfragen und zu prüfen.


Unterrichtsidee: Fordern Sie die Schüler:innen auf, in drei Sätzen schriftlich zu formulieren, was sie von dieser Unterrichtseinheit mitnehmen.
{{Idee|Fordern Sie die Schüler:innen auf, in drei Sätzen schriftlich zu formulieren, was sie von dieser Unterrichtseinheit mitnehmen. Lassen Sie die Schüler:innen in einem Blitzlicht zu Wort kommen.}}
 
===Credits===
Diese OER wurde von den Autorinnen zu ZUM hinzugefügt, um sie mehr Lehrkräften zugänglich zu machen. Die Original-PDF wurde von Fiona Fischer, Monika Resner und Linda Fernsel (HTW Berlin) unter https://iug.htw-berlin.de/wp-content/uploads/2023/11/OER-KI-und-Gesellschaft.pdf (CC-BY-SA 4.0) veröffentlicht.  


=== Quellen ===
<references />
QUELLEN


=== Credits ===
[[Kategorie:Informatik]]
Diese OER wurde im August 2023 von Fiona Fischer, Monika Resner und Linda Fernsel (HTW Berlin) unter https://iug.htw-berlin.de/wp-content/uploads/2023/08/OER-KI-und-Gesellschaft.pdf als PDF veröffentlicht (CC-BY-SA 4.0). Sie wurde von den Autorinnen ebenfalls zu ZUM hinzugefügt, um sie mehr Lehrkräften zugänglich zu machen.
[[Kategorie:Ethik]]
[[Kategorie:Unterrichtsidee]]
[[Kategorie:Angewandte Ethik]]
[[Kategorie:Sekundarstufe 1]]
[[Kategorie:KI in der Schule]]

Aktuelle Version vom 8. April 2024, 17:11 Uhr

Diese OER bietet einen Strukturvorschlag, Inhalte und Unterrichtsideen für eine Lehreinheit zu KI und Gesellschaft, insbesondere den Grundlagen von KI, den Einsatzgebieten (mit Fokus auf KI in der Bildung) und den Problemen, die KI verursachen kann.

Über diese OER

Lernziele

  • Die Schüler:innen können grob erklären, was KI ist.
  • Die Schüler:innen verstehen den Unterschied zwischen KI-Programmen und vorgegebenen Programmen.
  • Die Schüler:innen können mögliche Einsatzgebiete von KI nennen.
  • Die Schüler:innen können an Beispielen vorurteilsbehaftete KI erkennen.
  • Schüler:innen können ihre Meinung zu KI in der Bildung äußern.

Zielgruppe

Die vorgestellten Inhalte sind für Schüler:innen der Mittelstufe geeignet. Vorkenntnisse über KI werden nicht vorausgesetzt.

Zeitumfang

Diese OER umfasst Material für 90 Min. Unterricht.

Einleitung

Dieser Abschnitt führt Thema und Begriffe ein und erzeugt Motivation, sich mit dem Thema zu beschäftigen.

Künstliche Intelligenz (KI) ist ein Programm, das eingegebene Daten interpretiert, daraus lernt und das Gelernte nutzt, um bestimmte Ziele zu erreichen[1]. KI ist jedoch nicht zu verwechseln mit normalen Programmen. Vorgegebene ("normale") Programme bekommen die Regeln und die Struktur für das Lösen der Aufgabe vorgegeben[2]. KI-Programme bekommen jedoch die Struktur des Lernens vorgegeben und entwickeln an Hand von Daten eigene Regeln für die Lösung einer Aufgabe[2]. Man sagt, die KI "lernt" aus den Daten, oder sie wird an Hand von Daten "trainiert". Eine andere Abgrenzung von KI zu normalen Programmen ergibt sich daraus, ob ein Programm den Turing-Test besteht. Dieser wird von einer Maschine bzw. einem Programm bestanden, wenn ein Mensch in der Interaktion mit einer Maschine nicht erkennt, dass es eine Maschine ist[2]. Dann sagt man, das Programm ist "intelligent".

Künstliche Intelligenz entwickelt sich schnell weiter und wird bereits vielseitig im Alltag eingesetzt. Wie wir später sehen werden, kommt KI auch in Situationen zum Einsatz, die unser Leben beeinflussen. Um den verantwortungsbewussten Umgang mit KI zu fördern, ist es notwendig, über die möglichen Probleme von KI und ihre Auswirkungen auf die Gesellschaft zu reflektieren.

Unterrichtsidee
Fragen Sie die Schüler:innen, ob sie schon mal von KI gehört haben und mit eigenen Worten sagen können, was das ist. Machen Sie daraus eine Fragen-Ideen-Runde.

Unterrichtsidee
Nutzen Sie vor der Klasse ChatGPT oder ein ähnliches Tool (Microsoft BingAI) und fragen Sie die KI, was eine KI ist.


Anwendungsfälle von KI

Dieser Abschnitt gibt einen Überblick über mögliche Anwendungsfälle von KI. Optional kann hier der Fokus auf KI für ein bestimmtes Einsatzgebiet, z.B. Bildung, gelegt werden.

A) KI in der Bildung

Bereits seit längerem, spätestens jedoch seit dem Hype um ChatGPT, ist KI in der Bildung angekommen[3]. KI kann hierbei sowohl zur Unterstützung von Schüler:innen, als auch für Lehrkräfte eingesetzt werden.

Unterstützung für Schüler:innen:

  • KI Nachhilfelehrer:innen in Form von Chatbots[4]
  • An persönliche Präferenzen, Vorkenntnisse oder Lerntyp angepasste Lerninhalte (personalisiertes oder adaptives Lernen)[5]
  • Analyse des eigenen Lernverhaltens zur Selbsteinschätzung[6]
  • Verwendung für Hausaufgaben (z.B. ChatGPT für Deutsch-Aufsätze, DeepL für den Fremdsprachenunterricht)[7]

Unterstützung für Lehrkräfte:

  • Bewertung von Aufgaben[8]
  • Formulieren von Aufgaben[9]
  • Analyse von Lernverhalten um bei Problemen frühzeitig eingreifen zu können[10]

Unterrichtsidee
Fordern Sie die Schüler:innen auf, zu überlegen, wo in ihrem Schulalltag sie bereits KI nutzen oder sich wünschen, von einer KI unterstützt zu werden. Es kann erneut erst ein stilles Brainstorming oder ein Brainstorming in Kleingruppen erfolgen. Ideen können zunächst still auf Karten geschrieben werden (um auch die Ideen von introvertierten Schüler:innen mit einfließen zu lassen), die dann an der Tafel nach Zugehörigkeit sortiert und besprochen werden.


B) Weitere Einsatzgebiete

Künstliche Intelligenz wird in unserem alltäglichen Leben immer relevanter. Sie wird bereits in folgenden Bereichen eingesetzt:

Bereich Einsatzbeispiel
Alltagsorganisation und Haushalt
  • Sprachassistenzsysteme wie Siri, Alexa, usw.[11]
  • Suchmaschinen[12]
  • Intelligente Kühlschränke[1]
Transport und Personenbeförderung
  • Selbstfahrende Autos und Busse (mit verschiedenen Graden von "Selbstständigkeit")[13]
  • Entwicklung selbstfahrender Schiffe, Drohnen und weiterer Liefer-Roboter[14]
Sicherheit & Justiz
  • Zugangsregelung[15]
  • Videoüberwachung mit KI Gesichtserkennung[16]
  • Empfehlungen für Richter:innen[17]
Produktion
  • Intelligente Fabriken (Material, Qualität)[18]
  • Produkt-Design[19]
Medizin und Pflege
  • Entwicklung neuer Medikamente & Impfungen[20]
  • Diagnose an Hand von Bildern (z.B. MRT, Röntgenbild, mikroskopische Abbildungen von Gewebe, Hautkrebsfrüherkennung)[21][22]
  • "Emotionale" Roboter interagieren mit Demenz-Patient:innen[23]
Kunst und Musik
  • ChatGPT schreibt Texte und Gedichte[24]
  • Neue Lieder/ Bilder im Stil bekannter Künstler:innen[25]
  • Musikvorschläge bei Spotify und Co.[26]
Computerspiele
  • Generierung von Spielwelten[27]
  • Verhalten von Gegner:innen und NPCs[28]
Landwirtschaft Bewässerungsmaschinen[29]
Bewerbungen
  • Vorfiltern von Bewerbungen nach geeigneten Bewerber:innen[30]
  • Erstellen von Persönlichkeitsprofilen an Hand von Videos von Bewerber:innen[31]

Unterrichtsidee
Fordern Sie die Schüler:innen auf, zu überlegen, wo KI eingesetzt wird. Ideen können erneut auf Karten geschrieben und an der Tafel geclustert werden.


Die KI hat Vorurteile

Dieser Abschnitt beschreibt zunächst ein Experiment, das durchgeführt werden kann, um Vorurteile von KI zu erkunden. Dann werden weitere Fälle vorurteilsbehafteter KI beleuchtet.

A) Experiment: Wie sieht eine Lehrkraft aus?

Experimente haben gezeigt, dass Menschen bestimmte Berufe mit bestimmten Geschlechtern assoziieren[32]. Wir wollen in einem eigenen Experiment herausfinden, welche Vorstellungen KI von bestimmten Berufen hat.

Für unser Experiment werden einer KI eine Berufsbezeichnungen auf Englisch gegeben (auf englisch ist die Berufsbezeichnung meist geschlechtsneutral und schränkt daher die Resultate nicht auf ein bestimmtes Geschlecht ein, z.B. lawyer, doctor, scientist, police officer, engineer). Die KI gibt dann ein Bild zurück, das sie mit diesem Beruf verbindet.

Für dieses Experiment wird empfohlen, sich bei OpenAI (https://openai.com/) zu registrieren und die KI Dall-E zu nutzen. Dall-E ist eine sog. "Generative AI", die Bilder erzeugen kann[33]. Die Nutzung von Dall-E ist derzeit für eine bestimmte Menge von Anfragen kostenlos. Alternativ kann auch die Google Bildersuche genutzt werden.

Unterrichtsidee
Lassen Sie die Schüler:innen Berufe nennen und die Ergebnisse beobachten. Beschränken Sie von vornherein die Anzahl der Berufe, die Sie testen wollen. Sie können das Experimentziel (beobachten, ob die KI Vorurteile hat, und welche) auch erst im Anschluss an die ersten Beobachtungen benennen, um einen Überraschungseffekt zu erzielen.


Unterrichtsidee
Sollten Sie Dall-E nutzen, lassen die die Schüler:innen zum Abschluss des Experiments ein Fantasiebild erstellen, indem sie die Begriffe der Schüler:innen aufnehmen und auf englisch in Dall-E eingeben. Dadurch lockern Sie die Situation noch etwas auf.


Beim Experiment sollte auffallen, dass die Google-Ergebnisse vorurteilsbehaftet sind[34][35] (Siehe Screenshots rechts). Also z.B. mehr männlich-gelesene Personen, mehr weiße Personen, keine Personen mit sichtbarer Behinderung, etc.

Ergebnisse der Google Bildersuche für den Beruf "teacher"
Ergebnisse der Google Bildersuche für den Beruf "engineer"

Diese Vorurteile in den Ergebnissen werden durch das KI-Programm erzeugt, das bei der Bildersuche genutzt wird. Sie entstehen dadurch, dass das KI-Programm basierend auf Bilddaten gelernt hat, bestimmte Geschlechter und Hautfarben mit bestimmten Berufen zu assoziieren. Das konnte passieren, weil manche Berufe traditionell eher weiblich oder männlich besetzt waren, oder weil manche Personengruppen daran gehindert waren, bestimmte Berufe zu ergreifen. Diese Diskriminierung sollte sich eine KI jedoch nicht aneignen, denn das könnte Vorurteile verstärken indem der Eindruck erweckt wird, z.B. der Beruf der Anwältin wäre für Frauen eine ungewöhnliche Wahl.

Dass die traditionelle Besetzung von Berufen mit bestimmten Geschlechtern heute zu einer diskriminierenden KI führt, nennt man das "Garbage in, Garbage out" Prinzip[36]. Um das Prinzip besser zu verstehen soll es kurz an Hand einer Alltagsmetapher erläutert werden: Stellen Sie sich vor, Künstliche Intelligenz sei ein Küchenmixer. Was hineingegeben wird, bestimmt, was herauskommt. Wenn alte schrumplige Bananen hineingegeben werden ("Garbage in"), dann wird daraus kein frischer Bananenshake ("Garbage out"). Das bedeutet, KI lernt von den Daten, die ihr gegeben werden. Wenn die verwendeten Daten Vorurteile beinhalten, etwa die Annahme, dass in der Vergangenheit hauptsächlich Männer Informatiker:innen waren, kann die KI fälschlicherweise annehmen, dass Männer besser für IT-Jobs geeignet sind, obwohl dies nicht der Realität entspricht. Deshalb ist es sehr wichtig, dass darauf geachtet wird, welche Daten der KI zum Lernen gegeben werden, und dass das Verhalten der KI regelmäßig geprüft wird.

Die Entwickler:innen der Google Bildersuche und von Generative AI Systemen arbeiten daran, die Vorurteile ihrer KIs zu beheben. Es kann also immer wieder zu unterschiedlichen Experiment-Ergebnissen kommen.

B) Weitere Fälle von vorurteilsbehafteter KI

Weitere Beispiele für vorurteilsbehaftete KI im Alltag sind:

  • Bewerbungen um eine neue Arbeitsstelle[37]: In der Arbeitswelt existieren bereits KI’s, die dazu dienen, Bewerbungen für neue Arbeitsstellen zu screenen und zu bewerten. Diese Systeme können jedoch potenzielle Vorurteile aufweisen, die sich aus den Daten ergeben, mit denen sie trainiert wurden. Historische Verzerrungen in den Trainingsdaten können dazu führen, dass sie bestimmte demografische Gruppen benachteiligen. Es kann beispielsweise vorkommen, dass Bewerber:innen aufgrund ihres Geschlechts, Alters, ihrer Ethnizität oder anderer Merkmale von den Systemen weniger bevorzugt werden.
  • Antrag eines Kredits bei der Bank[38]: KI’s könnten aufgrund ihrer Trainingsdaten unfaire Entscheidungen treffen, indem sie bestimmte Bevölkerungsgruppen, wie beispielsweise Gruppen mit traditionell niedrigerem Einkommen oder Personen aus bestimmten ethnischen Hintergründen, benachteiligen. Das kann dazu führen, dass diesen Personen ein Kredit verwehrt wird oder sie höhere Zinssätze zahlen müssen.
  • bei der Polizei/ im Gericht[39]: Künstliche Intelligenz wird auch im Justizsystem und bei der Polizeiarbeit eingesetzt, beispielsweise zur Vorhersage von Verbrechen oder zur Entscheidungsunterstützung bei Gerichtsverfahren. Hier könnten KI-Systeme aufgrund der Daten, mit denen sie trainiert wurden, Vorurteile gegen bestimmte Bevölkerungsgruppen aufweisen. Dies könnte dazu führen, dass bestimmte Gruppen übermäßig ins Visier genommen oder bei Gerichtsentscheidungen benachteiligt werden.

Unterrichtsidee
Da Künstliche Intelligenz auch wie zuvor beschrieben mehrfach im Bildungsbereich eingesetzt wird, müssen auch hier die Vorurteile eines KI-Programms beachtet werden. Bitten Sie die Schüler:innen sich vorzustellen, dass KI von nun an Hausaufgaben kontrolliert und bewertet. Fragen Sie die Schüler:innen, wie sie das finden. Überlegen Sie gemeinsam ob so eine KI für manche Schüler:innen zum Problem werden könnte. Hilfreiche Stichwörter für die Aufgabe wären: Sprachbarriere, Gender, Einkommen der Familie. Beachten Sie auch mögliche Vorteile. Diese Fragestellung könnte im Placemat oder im Plenum bearbeitet werden.


Zusammenfassung & Fazit

KI umfasst viele verschiedene intelligente Programme, die in immer mehr Bereichen unseres Lebens zum Einsatz kommen. Wie jede neue Technik bietet auch KI einige Risiken. Sie gibt nämlich meist die Vorurteile wieder, die sie gelernt hat. Es ist daher wichtig, die Ergebnisse und Handlungen von KI zu hinterfragen und zu prüfen.

Unterrichtsidee
Fordern Sie die Schüler:innen auf, in drei Sätzen schriftlich zu formulieren, was sie von dieser Unterrichtseinheit mitnehmen. Lassen Sie die Schüler:innen in einem Blitzlicht zu Wort kommen.


Credits

Diese OER wurde von den Autorinnen zu ZUM hinzugefügt, um sie mehr Lehrkräften zugänglich zu machen. Die Original-PDF wurde von Fiona Fischer, Monika Resner und Linda Fernsel (HTW Berlin) unter https://iug.htw-berlin.de/wp-content/uploads/2023/11/OER-KI-und-Gesellschaft.pdf (CC-BY-SA 4.0) veröffentlicht.

  1. ↑ 1,0 1,1 Lee, D. (2020). Samsung and LG go head to head with AI-powered fridges that recognize food. Verfügbar unter: https://www.theverge.com/2020/1/2/21046822/samsung-lg-smart-fridge-family-hub-instaview-thinq-ai-ces-2020 (Zugriff zuletzt: 27.06.2023)
  2. ↑ 2,0 2,1 2,2 Automation Hero (2023). What’s the difference between software automation and artificial intelligence. Verfügbar unter: https://automationhero.ai/blog/whats-the-difference-between-software-automation-and-artificial-intelligence/ (Zugriff zuletzt: 02.08.2023)
  3. ↑ Tahiru, F. (2021). AI in Education: A Systematic Literature Review. Journal of Cases on Information Technology (JCIT), 23(1), 1-20. DOI: 10.4018/JCIT.2021010101
  4. ↑ Graesser, A. C., Hu, X., Susarla, S., Harter, D., Person, N., & Olde, B. (2001). AutoTutor: An Intelligent Tutor and Conversational Tutoring Scaffold. Workshop on Tutorial Dialog Systems. 10th International Conference on Artificial Intelligence in Education (AIED), San Antonio, Texas. https://www.cs.cmu.edu/~aleven/AIED2001WS/Graesser.pdf
  5. ↑ Cherif-Zahar, Mehdi (2022). Smartest – oder wie man künstliche Intelligenz zur Automatisierung von formativen Beurteilungen einsetzt. In: Hochschulforum Digitalisierung. Verfügbar unter: https://hochschulforumdigitalisierung.de/de/blog/smartest (Zugriff zuletzt: 02.08.2023)
  6. ↑ Love, J., DeMonner, S., & Teasley, S. (2021). Show Students Their Data: Using Dashboards to Support Self-Regulated Learning. In: Why IT Matters to Higher Education - EDUCAUSE Review. https://er.educause.edu/articles/2021/7/show-students-their-data-using-dashboards-to-support-self-regulated-learning (Zugriff zuletzt: 02.08.2023)
  7. ↑ Pölert, Hauke (2022). ChatGPT – ein KI-Chatbot (GPT-3) als Assistent für Lernen und Lehren?! In: Unterrichten Digital. Verfügbar unter: https://unterrichten.digital/2022/12/10/kuenstliche-intelligenz-ki-schule-unterricht/ (Zugriff zuletzt: 02.08.2023)
  8. ↑ Pearson Languages. (2019, August 30). Can a computer really mark an exam? The benefits of automated assessment in ELT - Blogs | Pearson Languages. https://www.pearson.com/languages/community/blogs/2019/08/the-benefits-of-automated-assessment-in-elt.html (Zugriff zuletzt: 02.08.2023)
  9. ↑ Valenzuela, J. (2023). Using AI to Help Organize Lesson Plans. Edutopia. https://www.edutopia.org/article/ai-lesson-plans/ (Zugriff zuletzt: 02.08.2023)
  10. ↑ Lu, O. H. T., Huang, A. Y. Q., Huang, J. C. H., Lin, A. J. Q., & Yang, S. J. H. (2018). Applying Learning Analytics for the Early Prediction of Students' Academic Performance in Blended Learning. In: Educational Technology & Society. 21(2), 220–232.
  11. ↑ Schulz, J. (2019). Smarte Sprachassistenten und künstliche Intelligenz—"Ich verstehe Liebeskummer nicht". Deutschlandfunk Kultur. https://www.deutschlandfunkkultur.de/smarte-sprachassistenten-und-kuenstliche-intelligenz-ich-100.html (Zugriff zuletzt: 02.08.2023)
  12. ↑ Kapit, M. (2022). AI in Search Engines: Everything You Need to Know. Verfügbar unter: https://www.marketingaiinstitute.com/blog/how-search-engines-use-artificial-intelligence (Zugriff zuletzt: 27.06.2023)
  13. ↑ Cusack, Jenny (2021). How driverless cars will change our world: BBC. Verfügbar unter: https://www.bbc.com/future/article/20211126-how-driverless-cars-will-change-our-world (Zugriff zuletzt: 27.06.2023)
  14. ↑ Levander, Oskar (2017). Forget autonomous cars - autonomous ships are almost here. IEEE Spectrum. Verfügbar unter: https://spectrum.ieee.org/forget-autonomous-cars-autonomous-ships-are-almost-here (Zugriff zuletzt: 02.08.2023)
  15. ↑ Toft, Malou (2019). Künstliche Intelligenz für Gebäude: Zutrittskontrolle intelligent gesteuert. In: Gebäudedigital. Verfügbar unter: https://gebaeudedigital.de/allgemein/kuenstliche-intelligenz-fuer-gebaeude/ (Zugriff zuletzt: 02.08.2023)
  16. ↑ Schönherr, Harff-Peter (2022). Lückenlose Auswertung. In: taz. Verfügbar unter: https://taz.de/Ueberwachungskameras-in-Gefaengnissen/!5856202/ (Zugriff zuletzt: 02.08.2023)
  17. ↑ Richter, Thomas (2023). Künstliche Intelligenz unterstützt Richterinnen und Richter in Zivilprozessen. In: Nachrichten Informationsdienst Wissenschaft (idw). Verfügbar unter: https://nachrichten.idw-online.de/2023/06/28/kuenstliche-intelligenz-unterstuetzt-richterinnen-und-richter-in-zivilprozessen (Zugriff zuletzt: 02.08.2023)
  18. ↑ Industrie-Wegweiser (n.d.). Künstliche Intelligenz (KI) – Einsatz in der Produktion. Verfügbar unter: https://industrie-wegweiser.de/kuenstliche-intelligenz-produktion-ki/ (Zugriff zuletzt: 02.08.2023)
  19. ↑ Karlsruher Institut für Technologie (2022). Karlsruher Forschungsfabrik: Industrielle Produktion mit KI optimieren. Verfügbar unter: https://www.kit.edu/kit/pi_2022_087_karlsruher-forschungsfabrik-industrielle-produktion-mit-ki-optimieren.php (Zugriff zuletzt: 02.08.2023)
  20. ↑ mdr Wissen (2023). Neue KI berechnet Wirkstoffe für nächste Pandemie. Verfügbar unter: https://www.mdr.de/wissen/ki-berechnet-medikamente-fuer-nacheste-pandemie-100.html (Zugriff zuletzt: 02.08.2023)
  21. ↑ Jutzi, Tanja B.; Brinker, Titus J. (2020). Hautkrebserkennung: Wie künstliche Intelligenz die Diffenzialdiagnose schärft. In: Deutsches Ärzteblatt. Verfügbar unter: https://www.aerzteblatt.de/archiv/214284/Hautkrebserkennung-Wie-kuenstliche-Intelligenz-die-Diffenzialdiagnose-schaerft (Zugriff zuletzt: 02.08.2023)
  22. ↑ Healthcare-in-Europe.com (2021). KI analysiert Röntgenbilder des Bewegungsapparats. Verfügbar unter: https://healthcare-in-europe.com/de/news/ki-analysiert-roentgenbilder-des-bewegungsapparats.html (Zugriff zuletzt: 02.08.2023)
  23. ↑ Schmitt-Sausen, Nora (2017). Assistenzroboter: „Ach ist der süß“. In: Deutsches Ärzteblatt. Verfügbar unter: https://www.aerzteblatt.de/archiv/193912/Assistenzroboter-Ach-ist-der-suess (Zugriff zuletzt: 02.08.2023)
  24. ↑ Habert, Jesko (2023). ChatGPT als Poet? Künstliche Intelligenz und Slam. In: Kiezpoeten. Verfügbar unter: https://kiezpoeten.com/chatgpt-als-poet-kuenstliche-intelligenz-und-slam/ (Zugriff zuletzt: 02.08.2023)
  25. ↑ Heaven, Douglas (2020). Neues KI-Werkzeug produziert Songs mit Stil und Stimme bekannter Künstler. In: Heise Online. Verfügbar unter: https://www.heise.de/hintergrund/Neues-KI-Werkzeug-produziert-Songs-mit-Stil-und-Stimme-bekannter-Kuenstler-4716718.html (Zugriff zuletzt: 02.08.2023)
  26. ↑ Katzlberger, Michael (2021). Wie und wo Spotify Künstliche Intelligenz nutzt. Verfügbar unter: https://katzlberger.ai/2021/03/29/wie-und-wo-spotify-kuenstliche-intelligenz-nutzt/ (Zugriff zuletzt: 02.08.2023)
  27. ↑ Glanzer, Sebastian (2023). Blizzard will mit KI-generierten Grafiken die Spielwelten verbessern. In: Buffed. Verfügbar unter: https://www.buffed.de/Blizzard-Firma-15293/News/mit-KI-generierten-Grafiken-Spielwelten-verbessern-1418921/ (Zugriff zuletzt: 02.08.2023)
  28. ↑ DerStandard (2023). KI soll ermöglichen, sich mit Computerspiel-Figuren zu "unterhalten". Verfügbar unter: https://www.derstandard.de/consent/tcf/story/3000000172189/ki-soll-ermoeglichen-sich-mit-computerspiel-figuren-zu-unterhalten (Zugriff zuletzt: 02.08.2023)
  29. ↑ Schreier, Jürgen (2020). Mit KI in der Landwirtschaft Wasser sparen. In: Industry of Things. Verfügbar unter: https://www.industry-of-things.de/mit-ki-in-der-landwirtschaft-wasser-sparen-a-936966/ (Zugriff zuletzt: 02.08.2023)
  30. ↑ Reddig, Sophia (2021). Künstliche Intelligenz im Bewerbungsprozess: KI guckt mit. In: Tagesspiegel. Verfügbar unter: https://www.tagesspiegel.de/wirtschaft/ki-guckt-mit-4264693.html (Zugriff zuletzt: 02.08.2023)
  31. ↑ de Molina, Karl-Maria (2021). KI-Einsatz in Videointerviews: Was geht, was geht nicht? In: HR Journal. Verfügbar unter: https://www.hrjournal.de/ki-einsatz-in-videointerviews-was-geht-was-geht-nicht/ (Zugriff zuletzt: 02.08.2023)
  32. ↑ Wang, J., Liu, Y., & Wang, X.E. (2021). Are Gender-Neutral Queries Really Gender-Neutral? Mitigating Gender Bias in Image Search. Conference on Empirical Methods in Natural Language Processing. DOI: 10.48550/arXiv.2109.05433
  33. ↑ Ramesh, A. et al. (2021). DALL·E: Creating images from text. Verfügbar unter: https://openai.com/research/dall-e (Zugriff zuletzt: 27.06.2023)
  34. ↑ Nicoletti, L., Bass, D. (2023): Humans are biased. Generative AI is even worse. Verfügbar unter: https://www.bloomberg.com/graphics/2023-generative-ai-bias/ (Zugriff zuletzt: 02.08.2023)
  35. ↑ Petereit, D. (2022): KI-Bildgenerator DALL-E mit schweren Vorurteilen: Ingenieure sind weiße Männer, Krankenpflegende Frauen. Verfügbar unter: https://t3n.de/news/ki-bildgenerator-dall-e-schweren-1482800/ (Zugriff zuletzt: 02.08.2023)
  36. ↑ ChatBot4You (2023). "Garbage in, garbage out": Wie die Qualität Ihrer Daten den Erfolg Ihres Chatbots bestimmt. Verfügbar unter: https://www.chatbot4you.io/blog/detailseite/garbage-in-garbage-out (Zugriff zuletzt: 02.08.2023)
  37. ↑ Harlan, Elisa und Schnuck, Oliver (2021). Fairness oder Vorurteil? Fragwürdiger Einsatz von Künstlicher Intelligenz bei der Jobbewerbung. In: Bayerischer Rundfunk. Verfügbar unter: https://interaktiv.br.de/ki-bewerbung/index.html (Zugriff zuletzt: 02.08.2023)
  38. ↑ Luther, T. (2018): Wenn Künstliche Intelligenz über eine Finanzierung entscheidet. Verfügbar unter: https://www.handelsblatt.com/unternehmen/rating-durch-digitale-kreditpruefer-wenn-kuenstliche-intelligenz-ueber-eine-finanzierung-entscheidet/22593710.html (Zugriff zuletzt: 02.08.2023)
  39. ↑ Noiret, S., Lumetzberger, J., & Kampel, M. (2021). Bias and Fairness in Computer Vision Applications of the Criminal Justice System. 2021 IEEE Symposium Series on Computational Intelligence (SSCI), 1-8. DOI: 10.1109/SSCI50451.2021.9660177
Abgerufen von „https://unterrichten.zum.de/index.php?title=KI_und_Gesellschaft&oldid=137317“