KI und Gesellschaft

Über diese OER

Diese OER bietet einen Strukturvorschlag, Inhalte und Unterrichtsideen für eine Lehreinheit zu den Grundlagen von KI, den Einsatzgebieten (insbesondere KI in der Bildung) und den Problemen, die KI verursachen kann.

Lernziele

• Die Schüler:innen können grob erklären, was KI ist.
• Die Schüler:innen verstehen den Unterschied zwischen KI-Programmen und normalen Programmen.
• Die Schüler:innen können mögliche Einsatzgebiete von KI nennen.
• Die Schüler:innen können an Beispielen vorurteilsbehaftete KI erkennen.
• Schüler:innen können ihre Meinung zu KI in der Bildung äußern.

Zielgruppe

Die vorgestellten Inhalte sind für Schüler:innen der Mittelstufe geeignet. Vorkenntnisse über KI werden nicht vorausgesetzt.

Einleitung

Dieser Abschnitt führt Thema und Begriffe ein und erzeugt Motivation, sich mit dem Thema zu beschäftigen. Künstliche Intelligenz (KI) ist ein Programm, das eingegebene Daten interpretiert, daraus lernt und das Gelernte nutzt, um bestimmte Ziele zu erreichen [5, S.8]. KI ist jedoch nicht zu verwechseln mit normalen Programmen. Normale Programme bekommen die Regeln und die Struktur für das Lösen der Aufgabe vorgegebe [2]. KI-Programme bekommen jedoch die Struktur des Lernens vorgegeben und entwickeln an Hand von Daten eigene Regeln für die Lösung einer Aufgabe [2]. Man sagt, die KI “lernt” aus den Daten, oder sie wird an Hand von Daten “trainiert”. Eine andere Abgrenzung von KI zu normalen Programmen ergibt sich daraus, ob ein Programm den Turing-Test besteht. Dieser wird von einer Maschine bzw. einem Programm bestanden, wenn ein Mensch in der Interaktion mit einer Maschine nicht erkennt, dass es eine Maschine ist [2]. Dann sagt man, das Programm ist “intelligent”. Künstliche Intelligenz entwickelt sich schnell weiter und wird bereits vielseitig im Alltag eingesetzt. Wie wir später sehen werden, kommt KI auch in Situationen zum Einsatz, die unser Leben beeinflussen. Um den verantwortungsbewussten Umgang mit KI zu fördern, ist es notwendig, über die möglichen Probleme von KI und ihre Auswirkungen auf die Gesellschaft zu reflektieren.

Unterrichtsidee: Fragen Sie die Schüler:innen, ob sie schon mal von KI gehört haben und mit eigenen Worten sagen können, was das ist. Machen Sie daraus eine Fragen-Ideen-Runde.

Unterrichtsidee: Nutzen Sie vor der Klasse ChatGPT oder ein ähnliches Tool (Microsoft BingAI) und fragen Sie die KI, was eine KI ist.

Einsatzgebiete von KI

Dieser Abschnitt gibt einen Überblick über mögliche Anwendungsfälle von KI. Optional kann hier der Fokus auf KI für einen bestimmten Bereich, z.B. Bildung, gelegt werden.

A) KI in der Bildung

Bereits seit längerem, spätestens jedoch seit dem Hype um ChatGPT, ist KI in der Bildung angekommen [1]. KI kann hierbei sowohl zur Unterstützung von Schüler:innen, als auch für Lehrkräfte eingesetzt werden.

Unterstützung für Schüler:innen:

• KI Nachhilfelehrer:innen in Form von Chatbots [30]
• An persönliche Präferenzen, Vorkenntnisse oder Lerntyp angepasste Lerninhalte (personalisiertes oder adaptives Lernen) [12]
• Analyse des eigenen Lernverhaltens zur Selbsteinschätzung [31]
• Verwendung für Hausaufgaben (z.B. ChatGPT für Deutsch-Aufsätze, DeepL für den Fremdsprachenunterricht) [11]

Unterstützung für Lehrkräfte:

• Bewertung von Aufgaben [32]
• Formulieren von Aufgaben [33]
• Analyse von Lernverhalten um bei Problemen frühzeitig eingreifen zu können [34]

Unterrichtsidee: Fordern Sie die Schüler:innen auf, zu überlegen, wo in ihrem Schulalltag sie bereits KI nutzen oder sich wünschen, von einer KI unterstützt zu werden. Es kann erneut erst ein stilles Brainstorming oder ein Brainstorming in Kleingruppen erfolgen.

B) Weitere Einsatzgebiete

Künstliche Intelligenz wird in unserem alltäglichen Leben immer relevanter. Sie wird bereits in folgenden Bereichen eingesetzt:

Alltagsorganisation und Haushalt

• Sprachassistenzsysteme wie Siri, Alexa, usw. [35]
• Suchmaschinen [4]
• Intelligente Kühlschränke [5]

Transport und Personenbeförderung

• Selbstfahrende Autos und Busse (mit verschiedenen Graden von “Selbstständigkeit”) [9]
• Entwicklung selbstfahrender Schiffe, Drohnen und weiterer Liefer-Roboter [8]

Sicherheit & Justiz

• Zugangsregelung [13]
• Videoüberwachung mit KI Gesichtserkennung [14]
• Empfehlungen für Richter:innen [15]

Produktion

• Intelligente Fabriken (Material, Qualität) [16]
• KI als Produkt-Designerin [17]

Medizin und Pflege

• Entwicklung neuer Medikamente & Impfungen [18]
• Diagnose an Hand von Bildern (z.B. MRT, Röntgenbild, mikroskopische Abbildungen von Gewebe, Hautkrebsfrüherkennung) [19] [20]
• “Emotionale” Roboter interagieren mit Demenz-Patient:innen [21]

Kunst und Musik

• ChatGPT schreibt Texte und Gedichte [22]
• Neue Lieder/ Bilder im Stil bekannter Künstler:innen [23]
• Musikvorschläge bei Spotify und Co. [24]

Computerspiele

• Generierung von Spielwelten [25]
• Verhalten von Gegner:innen und NPCs [26]

Landwirtschaft

• Bewässerungsmaschinen [27]

Bewerbungen

• Vorfiltern von Bewerbungen nach geeigneten Bewerber:innen [28]
• Erstellen von Persönlichkeitsprofilen an Hand von Videos von Bewerber:innen [29]

Unterrichtsidee: Fordern Sie die Schüler:innen auf, zu überlegen, wo KI eingesetzt wird. Ideen können zunächst still auf Karten geschrieben werden (um auch die Ideen von introvertierten Schüler:innen mit einfließen zu lassen), die dann an der Tafel nach Zugehörigkeit sortiert und besprochen werden.

Die KI hat Vorurteile

Dieser Abschnitt beschreibt zunächst ein Experiment, das durchgeführt werden kann, um Vorurteile von KI zu erkunden. Dann werden weitere Fälle vorurteilsbehafteter KI beleuchtet.

A) Experiment: Wie sieht eine Lehrkraft aus?

Experimente haben gezeigt, dass Menschen bestimmte Berufe mit bestimmten Geschlechtern assoziieren [10]. Wir wollen in einem eigenen Experiment herausfinden, welche Vorstellungen KI von bestimmten Berufen hat.

Für unser Experiment werden einer KI eine Berufsbezeichnungen auf Englisch gegeben (auf englisch ist die Berufsbezeichnung meist geschlechtsneutral und schränkt daher die Resultate nicht auf ein bestimmtes Geschlecht ein, z.B. lawyer, doctor, scientist, police officer, engineer). Die KI gibt dann ein Bild zurück, das sie mit diesem Beruf verbindet.

Für dieses Experiment wird empfohlen, sich bei OpenAI (https://openai.com/) zu registrieren und die KI Dall-E zu nutzen. Dall-E ist eine sog. “Generative AI”, die Bilder erzeugen kann [6]. Die Nutzung von Dall-E ist derzeit für eine bestimmte Menge von Anfragen kostenlos. Alternativ kann auch die Google Bildersuche genutzt werden.

Unterrichtsidee: Lassen Sie die Schüler:innen Berufe nennen und die Ergebnisse beobachten. Beschränken Sie von vornherein die Anzahl der Berufe, die Sie testen wollen. Sie können das Experimentziel (beobachten, ob die KI Vorurteile hat, und welche) auch erst im Anschluss an die ersten Beobachtungen benennen, um einen Überraschungseffekt zu erzielen.

Unterrichtsidee: Sollten Sie Dall-E nutzen, lassen die die Schüler:innen zum Abschluss des Experiments ein Fantasiebild erstellen, indem sie die Begriffe der Schüler:innen aufnehmen und auf englisch in Dall-E eingeben. Dadurch lockern Sie die Situation noch etwas auf.

Beim Experiment sollte auffallen, dass die Google-Ergebnisse vorurteilsbehaftet sind [36] (Screenshots auf der nächsten Seite). Also z.B. mehr männlich-gelesene Personen, mehr weiße Personen, keine Personen mit sichtbarer Behinderung, etc. Diese Vorurteile in den Ergebnissen werden durch das KI-Programm erzeugt, das bei der Bildersuche genutzt wird. Sie entstehen dadurch, dass das KI-Programm basierend auf Bilddaten gelernt hat, bestimmte Geschlechter und Hautfarben mit bestimmten Berufen zu assoziieren. Das konnte passieren, weil manche Berufe traditionell eher weiblich oder männlich besetzt waren, oder weil manche Personengruppen daran gehindert waren, bestimmte Berufe zu ergreifen. Diese Diskriminierung sollte sich eine KI jedoch nicht aneignen, denn das könnte Vorurteile verstärken indem der Eindruck erweckt wird, z.B. der Beruf der Anwältin wäre für Frauen eine ungewöhnliche Wahl.

Dass die traditionelle Besetzung von Berufen mit bestimmten Geschlechtern heute zu einer diskriminierenden KI führt, nennt man das “Garbage in, Garbage out” Prinzip [38]. Um das Prinzip besser zu verstehen soll es kurz an Hand einer Alltagsmetapher erläutert werden: Stellen Sie sich vor, Künstliche Intelligenz sei ein Küchenmixer. Was hineingegeben wird, bestimmt, was herauskommt. Wenn alte schrumplige Bananen hineingegeben werden (“Garbage in”), dann wird daraus kein frischer Bananenshake (“Garbage out”). Das bedeutet, KI lernt von den Daten, die ihr gegeben werden. Wenn die verwendeten Daten Vorurteile beinhalten, etwa die Annahme, dass in der Vergangenheit hauptsächlich Männer Informatiker*innen waren, kann die KI fälschlicherweise annehmen, dass Männer besser für IT-Jobs geeignet sind, obwohl dies nicht der Realität entspricht. Deshalb ist es sehr wichtig, dass darauf geachtet wird, welche Daten der KI zum Lernen gegeben werden, und dass das Verhalten der KI regelmäßig geprüft wird.

Die Entwickler:innen der Google Bildersuche und von Generative AI Systemen arbeiten daran, die Vorurteile ihrer KIs zu beheben. Es kann also immer wieder zu unterschiedlichen Experiment-Ergebnissen kommen.

BILDER

B) Weitere Fälle von vorurteilsbehafteter KI

Weitere Beispiele für vorurteilsbehaftete KI im Alltag sind:

• Bewerbungen um eine neue Arbeitsstelle [7]: In der Arbeitswelt existieren bereits KI’s, die dazu dienen, Bewerbungen für neue Arbeitsstellen zu screenen und zu bewerten. Diese Systeme können jedoch potenzielle Vorurteile aufweisen, die sich aus den Daten ergeben, mit denen sie trainiert wurden. Historische Verzerrungen in den Trainingsdaten können dazu führen, dass sie bestimmte demografische Gruppen benachteiligen. Es kann beispielsweise vorkommen, dass Bewerber*innen aufgrund ihres Geschlechts, Alters, ihrer Ethnizität oder anderer Merkmale von den Systemen weniger bevorzugt werden.

• Antrag eines Kredits bei der Bank [37]: KI’s könnten aufgrund ihrer Trainingsdaten unfaire Entscheidungen treffen, indem sie bestimmte Bevölkerungsgruppen, wie beispielsweise Gruppen mit traditionell niedrigerem Einkommen oder Personen aus bestimmten ethnischen Hintergründen, benachteiligen. Das kann dazu führen, dass diesen Personen ein Kredit verwehrt wird oder sie höhere Zinssätze zahlen müssen.

• bei der Polizei/ im Gericht [3]: Künstliche Intelligenz wird auch im Justizsystem und bei der Polizeiarbeit eingesetzt, beispielsweise zur Vorhersage von Verbrechen oder zur Entscheidungsunterstützung bei Gerichtsverfahren. Hier könnten KI-Systeme aufgrund der Daten, mit denen sie trainiert wurden, Vorurteile gegen bestimmte Bevölkerungsgruppen aufweisen. Dies könnte dazu führen, dass bestimmte Gruppen übermäßig ins Visier genommen oder bei Gerichtsentscheidungen benachteiligt werden.

Unterrichtsidee: Da Künstliche Intelligenz auch wie zuvor beschrieben mehrfach im Bildungsbereich eingesetzt wird, müssen auch hier die Vorurteile eines KI-Programms beachtet werden. Bitten Sie die Schüler:innen sich vorzustellen, dass KI von nun an Hausaufgaben kontrolliert und bewertet. Fragen Sie die Schüler:innen, wie sie das finden. Überlegen Sie gemeinsam ob so eine KI für manche Schüler:innen zum Problem werden könnte. Hilfreiche Stichwörter für die Aufgabe wären [7, S. 17 f.]: Sprachbarriere, Gender, Einkommen der Familie. Beachten Sie auch mögliche Vorteile.

Zusammenfassung & Fazit

KI umfasst viele verschiedene intelligente Programme, die in immer mehr Bereichen unseres Lebens zum Einsatz kommen. Wie jede neue Technik bietet auch KI einige Risiken. Sie gibt nämlich meist die Vorurteile wieder, die sie gelernt hat. Es ist daher wichtig, die Ergebnisse und Handlungen von KI zu hinterfragen und zu prüfen.

Unterrichtsidee: Fordern Sie die Schüler:innen auf, in drei Sätzen schriftlich zu formulieren, was sie von dieser Unterrichtseinheit mitnehmen.

Quellen

QUELLEN

Credits

Diese OER wurde im August 2023 von Fiona Fischer, Monika Resner und Linda Fernsel (HTW Berlin) unter https://iug.htw-berlin.de/wp-content/uploads/2023/08/OER-KI-und-Gesellschaft.pdf als PDF veröffentlicht (CC-BY-SA 4.0). Sie wurde von den Autorinnen ebenfalls zu ZUM hinzugefügt, um sie mehr Lehrkräften zugänglich zu machen.