If you're seeing this message, it means we're having trouble loading external resources on our website.

Wenn du hinter einem Webfilter bist, stelle sicher, dass die Domänen *. kastatic.org und *. kasandbox.org nicht blockiert sind.

Hauptinhalt

Voreingenommenheit (Bias) von KI verstehen: Lektionsplan

Wie kommt es zu Voreingenommenheit von KI?

Voreingenommenheit (Bias) von KI verstehen: Lektionsplan

Klassen 6-12
20 Minuten
Künstliche Intelligenz wird mit echten Daten trainiert, welch ihr Menschen zur Verfügung gestellt haben. Wenn diese Daten Fehler enthalten (oder voreingenommen oder unvollständig sind), kann die KI am Ende auch fehlerhaft sein. In dieser Lektion beschäftigen sich die Schüler kritisch mit den Trainingsdaten, die die Grundlage für die Arbeit von KI-Tools bilden, und überlegen, wie man die Voreingenommenheit der KI verringern kann.

Ziele

  • Definiere Voreingenommenheit von KI.
  • Verstehe, wie Voreingenommenheit von KI entsteht.
  • Überlege dir, wie du die Voreingenommenheit von KI vermindern kannst.

Vokabular

  • Voreingenommenheit der KI – wenn ein KI-Tool eine falsche oder problematische Entscheidung trifft, weil es aus Trainingsdaten gelernt hat, die nicht alle Menschen, Orte und Dinge korrekt berücksichtigt haben
  • Trainingsdaten – die Informationen, die einer KI zur Verfügung gestellt werden, damit sie lernt, wie bestimmte Aufgaben zu erledigen sind
  • Testdaten – die Informationen, die verwendet werden, um zu überprüfen, ob die erstellte KI zuverlässig und genau ist

Was du brauchst

Vor der Lektion

Wir empfehlen, voher die folgenden Lektionen zu behandeln, um ein grundlegendes Verständnis dafür zu schaffen, wie KI funktioniert:

Schritt für Schritt

  1. Sage: Wenn Informatiker/innen KI entwickeln, verwenden sie zwei verschiedene Arten von Daten: Trainingsdaten und Testdaten (Folie 4).
Trainingsdaten sind die Informationen, die einer KI zur Verfügung gestellt werden, damit sie lernt, bestimmte Aufgaben zu erledigen (Folie 5). Testdaten sind die Informationen, die verwendet werden, um zu überprüfen, ob die erstellte KI zuverlässig und genau ist (Folie 6).
  1. Sage: Stellt euch vor, wir sind Informatiker und sind dabei, ein KI-Tool zu entwickeln. Der Zweck des Tools, das wir entwickeln, ist es, verschiedene Obstsorten zu identifizieren. Wir haben einige Trainingsdaten, die uns den Einstieg erleichtern (Folie 7).
  2. Frage: Welche Obstsorten könnte unsere KI anhand dieser Trainingsdaten identifizieren? (Folie 8)
  3. Zeig Folie 9 und erkläre, dass die Bilder hier Beispiele für die Testdaten zeigen, mit denen überprüft wird, ob die KI richtig funktioniert. Die Beschriftungen unter den Bildern geben an, wie die KI die jeweilige Frucht nennt.
Frage: Fallen dir irgendwelche Fehler auf? Warum denkst du, dass die KI diese Fehler macht? (Folie 10)
  1. Erkläre, dass die Fehler, die die KI gemacht hat, ein Beispiel für Voreingenommenheit von KI sind, d.h. wenn ein KI-Tool eine falsche oder problematische Entscheidung trifft, weil es aus Trainingsdaten gelernt hat, die nicht alle Menschen, Orte und Dinge korrekt behandelt haben (Folie 11).
Zeige Folie 12 und erkläre: In den Trainingsdaten waren Äpfel das einzige Beispiel für eine rote Frucht. Die Testdaten zeigen, dass die KI gelernt hat, was Rot ist als Apfel zu identifizieren. Mit anderen Worten: Die KI, die wir entwickelt haben, neigt dazu, jede rote Frucht für einen Apfel zu halten (Folie 12).
  1. Frage: Welche Möglichkeiten gibt es, die Voreingenommenheit des Früchtedetektors zu verringern? (Folie 13)
Fordere die Schüler auf, sich auszutauschen, und gehe dann die Vorschläge auf Folie 14. durch.
  1. Erkläre: Es ist zwar fast unmöglich, Voreingenommenheit vollständig aus einem KI-Tool zu eliminieren, aber wir können unser Bestes tun, um sie zu reduzieren, indem wir einen möglichst vielfältigen und vollständigen Satz von Trainingsdaten erstellen (Folie 15).
  2. Wenn es die Zeit erlaubt, lies Folie 16 und lass die Schüler selbstständig eine Liste mit Bildbeschreibungen erstellen. Lasse sie dann in Zweiergruppen ihre Listen vergleichen und weitere Bildbeschreibungen hinzufügen.
Überprüfe die Beschreibungen auf Folie 17 und ergänze die Liste, wenn die Schüler weitere Ideen haben.
  1. Erkläre: Erinnere dich daran, dass hinter jedem KI-Tool Menschen stehen, die Entscheidungen darüber treffen, welche Trainingsdaten das Tool verwenden soll. Wenn wir verstehen, wie Voreingenommenheit von KI entsteht, können wir kritisch über ihre möglichen Auswirkungen nachdenken (Folie 18).

Willst du an der Diskussion teilnehmen?

Noch keine Beiträge.
Verstehst du Englisch? Klick hier, um weitere Diskussionen auf der englischen Khan Academy Seite zu sehen.