Inklusion – MOVES

ChatGPT danach gefragt, ob es gebiased ist, antwortet das AI (Artificial Intelligence) Tool am 8.4.2024: “Like many AI models, ChatGPT can be susceptible to biases. Bias can arise in various ways, such as how the training data was collected, or the inherent biases present in the texts used to train the model.”

Bias in KI-Tools lassen sich also durch die Daten erklären, die zur Entwicklung dieser Maschinen verwendet werden. Diese Daten sind häufig nicht repräsentativ und basieren auf Meinungen und Einstellungen von Mehrheitsgruppen. So gibt EIGE für das Jahr 2022 europaweit einen Anteil an IT- Spezialistinnen von 18,9% an. Selbstredend sind dann häufig stereotype Vorstellungen gegenüber bestimmten Geschlechtern, Ethnien oder sozialen Gruppen in den Trainingsdaten vorhanden, was dazu führt, dass KI-Modelle in deren großen Breitenwirkung diese reproduzieren und verstärken.

Die Daten wiederum, mit denen z.B. ChatGPT trainiert wurde, stammen primär aus Internetquellen wie Wikipedia, die Enzyklopädie, die sich bereits seit ihrer Gründung durch einen deutlich geringeren Frauen- als Männeranteil auszeichnet. Für das Jahr 2018 wird auch hier ein großes Missverhältnis der Geschlechter festgestellt, wenn es darum geht, wer die Beiträge schreibt: Der Community Insights Report spricht von 90% Männern, 9% Frauen und von 1% andere Personen.

Das ist mittlerweile nichts Neues. Aber diese Bias zu vermeiden, stellt ein durchaus komplexes Unterfangen dar.

Gegen den Bias in AI können verschiedene Maßnahmen ergriffen werden, wie die Datensätze in der Entwicklung vielfältiger und diverser aufzusetzen, Verzerrungen schon in dieser Phase zu erkennen, Algorithmen im Nachhinein anzupassen oder die Entwicklungsteams vielfältiger zu besetzen. Vielfach – ganz besonders wenn das Stärken der allgemeinen Bevölkerung im Fokus steht – muss es aber auch darum gehen, diese Entwicklungen zu reflektieren: Durch die Schaffung von Transparenz und Erklärbarkeit in AI-Systemen können Nutzer*innen besser verstehen, wie Entscheidungen getroffen werden, und potenzielle Verzerrungen identifizieren. Es ist wichtig, dies im Hinterkopf zu behalten und Informationen, die bereitgestellt werden, kritisch zu prüfen und gegebenenfalls andere Quellen zu konsultieren. Dass sich da bereits etwas tut, zeigt die freundliche Anregung von Chat GPT: “If you notice any potential biases in my responses, please feel free to point them out, and I’ll do my best to address them.”

Ziel war den Schüler*innen über einen selbstgesteuerten Prozess, der eine (online) Dialog-, Forschungs- und Analyse und Präsentationphase enthält, zu ermöglichen, Themen im Kontext der 17 Nachhaltigkeitsziele der UN-Agenda 2030 auszuwählen, frei zu explorieren und zu erforschten und schließlich ihre Ergebnisse der Öffentlichkeit und Stakeholdern*innen zu präsentieren. Das CEPNET-Projekt entwickelte ein Modell für Grundschulen, das die Ebenen des Unterrichts vor Ort und in der digitalen Welt auf innovative Weise miteinander verbindet.

In der Evaluation des Projekts hat sich gezeigt, dass CEPNET die Möglichkeit bietet, Schule neu zu denken – die Schüler*innen in ihrer Vielfalt an die erste Stelle zu setzen und ihre Interessen in den Mittelpunkt zu stellen. Die Schüler*innen wurden gestärkt, steigerten ihre kognitiven und emotionalen Kompetenzen und erweitern ihre Einstellungen. Die Kinder arbeiteten zu den unterschiedlichsten UN-SDGs, es hätte aber auch jedes andere Thema sein können, wie z.B. ein Fokus auf Kinderrechte, Unternehmer*innentum, Citizen Science oder Digitalisierung. Die Themen stehen nicht im Vordergrund – der Fokus liegt auf der strukturellen Verankerung des Modells zur Stärkung der Kinder in der Schule. Für die Pädagog*innnen bedeutet dieses Modell, dass sie in den Hintergrund treten und ihre klassische Funktion der Wissensvermittlung zugunsten einer Rolle als Coach für die Kinder eintauschen.

Dies setzt Vertrauen in die Kinder voraus und hat sich in CEPNET bewährt: Die Schüler*innen haben ihre Forschungen mit großer Freude durchgeführt und die hohe Zahl der Pädagog*innen, die das Modell in ihre reguläre Unterrichtspraxis integrieren werden, zeigt seinen didaktischen Nutzen. Auf diese Weise zieht CEPNET seine Kreise bis in die Familien hinein, wie die hohe Wertschätzung der Forschungsergebnisse der Schüler durch ein Elternteil zeigt: „Ein erstaunlicher Tag, an dem man die harte Arbeit und die Bemühungen sowohl der Erwachsenen als auch der Kinder deutlich sehen konnte.“ Darüber hinaus blieb CEPNET nicht bei der Schule oder der Familie stehen, sondern erstreckt sich auf die Gemeinden und auch auf die Regierungsebene.

Kategorie: Inklusion

Bias in Artificial Intelligence

Ein inklusives Bildungsmodell