Europäische KI-Ethik in der Praxis: Das Projekt AIOLIA an der THWS

Das EU-Projekt AIOLIA will künstliche Intelligenz verantwortungsvoll gestalten. Am CAIRO der THWS untersucht ein Forschungsteam um Prof. Dr. Ivan Yamshchikov reale KI-Systeme, um daraus praxisnahe ethische Leitlinien abzuleiten - von persönlichen Assistenten bis zur Gehaltsberatung durch Sprachmodelle.

Veröffentlicht am 25.06.2026

Künstliche Intelligenz (KI) ist längst im Alltag angekommen, von Chatbots über personalisierte Empfehlungen bis hin zu digitalen Assistenten. Mit dem EU-geförderten Projekt „AI Ethics Operationalized – Ideation, Learning, Implementation, Assessment“ - kurz: AIOLIA - soll nun geklärt werden, wie sich diese Systeme verantwortungsvoll gestalten lassen. AIOLIA möchte ethische Leitlinien entwickeln, die nicht nur gut klingen, sondern für Unternehmen und Entwickelnde konkret anwendbar sind. Eine zentrale Rolle spielt dabei das Center für Künstliche Intelligenz (CAIRO) an der Technischen Hochschule Würzburg-Schweinfurt (THWS). Das Team um Prof. Dr. Ivan Yamshchikov arbeitet bei AIOLIA vor allem an einem Kernproblem: Wie lassen sich abstrakte Werte wie Fairness, Transparenz oder Autonomie in anwendungsbezogene Leitlinien übersetzen?

Vom Gender-Pay-Gap zur Gehaltsberatung durch KI

Besonders deutlich wird diese Spannung in einem Forschungsergebnis, das international Aufmerksamkeit erregt hat. Das CAIRO-Team testete kommerzielle große Sprachmodelle - darunter solche, die als persönliche Assistenten genutzt werden - mit einem Szenario aus der Arbeitswelt: Ein fiktiver Lebenslauf, eine konkrete Stelle, die Frage nach einer angemessenen Gehaltsvorstellung. Das Ergebnis: Mehrere Modelle empfahlen im Durchschnitt niedrigere Gehälter, wenn sie davon ausgingen, dass die anfragende Person eine Frau ist. Lag dieselbe Anfrage mit männlicher Identität vor, fiel die Empfehlung höher aus.

Brisant ist dabei, dass Nutzende ihr Geschlecht nicht einmal aktiv angeben müssen. Die Systeme schließen aus Sprache, Kontext oder bisheriger Interaktion auf die Person und können so bestehende gesellschaftliche Ungleichheiten unbemerkt reproduzieren. Yamshchikov verweist darauf, dass solche Effekte zeigen, wie sehr KI-Systeme in soziale Dynamiken eingebunden sind - und dass leistungsfähige Technik zugleich unerwünschte Nebenwirkungen haben kann. Neuere Modellversionen, wie GPT-5 (von OpenAI), zeigen diese Probleme nicht mehr, da die Anbietenden nachgebessert haben.

Spannungsfelder im Alltag

Dr. Angelica Henestrosa, Postdoktorandin am CAIRO, kommt ursprünglich aus der psychologischen Forschung. Sie hat untersucht, wie Menschen KI-generierte Inhalte wahrnehmen und wie glaubwürdig sie diese einschätzen. Bereits dort sei deutlich geworden, dass ethische Fragestellungen in diesem Forschungsfeld allgegenwärtig sind und weiter an Bedeutung gewinnen würden, insbesondere mit der weiteren Verbreitung großer Sprachmodelle.

Im Projekt AIOLIA arbeitet Dr. Henestrosa am Use Case „KI als persönliche Assistenz“. Dabei geht es um Systeme, die Familien im Alltag unterstützen sollen - etwa bei der Terminorganisation oder individuellen Erinnerungen. Was technisch praktikabel ist, wirft zugleich heikle Fragen auf: Wer darf welche Daten einsehen? Wie viel Autonomie sollten Kinder gegenüber einem solchen System haben? Und wo verläuft die Grenze zwischen Unterstützung und Kontrolle?

Ein Industriepartner plante ursprünglich einen Assistenten für ganze Familien, der auch mit Kindern und Jugendlichen kommunizieren sollte. Relativ schnell zeigte sich jedoch ein grundlegender Zielkonflikt zwischen dem Schutz der Privatsphäre Minderjähriger und dem Sicherheitsbedürfnis der Eltern. Eine eindeutige Lösung ließ sich nicht finden. Das Unternehmen entschied sich schließlich für eine Neuausrichtung und fokussiert sich nun auf Assistenzsysteme ausschließlich für Erwachsene.

Vom abstrakten Prinzip zur technischen Entscheidung

Ein zentrales Problem vieler ethischer Leitlinien sei ihre Abstraktheit, erklärt Prof. Dr. Yamshchikov. Begriffe wie Transparenz oder Nichtdiskriminierung fänden sich zwar in Regulierungen wie dem EU AI Act (siehe Infokasten), doch ihre konkrete Umsetzung bleibe für Entwickelnde oft unklar.

AIOLIA setzt daher auf einen Bottom-up-Ansatz: Statt Ethik im luftleeren Raum zu diskutieren, werden konkrete Use Cases aus der Industrie analysiert. In Interviews und Workshops mit Unternehmen und Start-ups werden reale Entscheidungssituationen untersucht: Welche Daten werden erhoben? Wie werden Risiken eingeschätzt? Wo wirken unklare Vorgaben innovationshemmend? Auf dieser Basis entstehen Fallstudien, die auch politischen Akteurinnen und Akteuren helfen sollen, Regulierung praxisnäher zu gestalten. Aus Sicht des Würzburger Teams liegt hierin ein zentraler Projektwert: Regeln sollen nicht an der Realität vorbeigehen, sondern sich auf tatsächliche Anwendungsszenarien stützen.

Interdisziplinarität als Voraussetzung

Im Projekt arbeiten Forschende aus Informatik, Psychologie, Philosophie, Rechtswissenschaften und einige Industriepartner gemeinsam an einer Fragestellung, die keine Disziplin allein beantworten kann. Dr. Henestrosa spricht in diesem Zusammenhang von gelebter Interdisziplinarität: Nicht Fachgebiete stünden im Mittelpunkt, sondern konkrete Probleme.

Zugleich macht AIOLIA deutlich, wie unterschiedlich kulturelle und regulatorische Rahmenbedingungen weltweit sind. In einigen Ländern stehen KI-Anwendungen für ältere Menschen im Fokus, in anderen, medizinische Systeme oder autonome Mobilität. Ziel ist es, gemeinsame Wertegrundlagen zu formulieren, ohne nationale oder kulturelle Unterschiede zu ignorieren.

Bildung und Sensibilisierung

AIOLIA endet aber nicht bei Berichten für Brüssel. Auf Basis der Fallstudien entwickelt das Konsortium Lehrmaterialien, die europaweit in Kursen genutzt werden sollen, etwa für Studierende, Fachkräfte oder Personen in Weiterbildung. Auch an der THWS sollen diese Materialien in Lehrveranstaltungen einfließen.

Henestrosa hält es für entscheidend, dass Menschen möglichst früh lernen, KI-Systeme einzuordnen. Nicht zwingend in Form eines eigenen Schulfachs, sondern eingebettet in bestehende Fächer - eben dort, wo Anwendungen im Alltag der Lernenden wirklich vorkommen. Ähnlich wie bei sozialen Medien gehe es darum, Risiken, aber auch Chancen zu verstehen und reflektiert damit umzugehen.

Prof. Dr. Yamshchikov betont zudem die Rolle von Wissenschaftskommunikation: Mit Podcasts, Social-Media-Formaten und öffentlich zugänglichen Beispielen will das CAIRO-Team dazu beitragen, dass gesellschaftliche Debatten über KI nicht von Angst, sondern von informierten Entscheidungen geprägt sind. Gerade in einer demokratischen Gesellschaft sei es wichtig, technologische Entwicklungen nachvollziehbar zu machen, damit Regulierungen nicht aus vagen Befürchtungen, sondern aus konkretem Wissen entstehen.

Ein Projekt am Puls der Zeit

Für die Beteiligten ist AIOLIA mehr als ein weiteres EU-Vorhaben. Dr. Angelica Henestrosa sieht darin die Chance, ethische Werte gezielt in technische Systeme und regulatorische Prozesse einzubringen. Prof. Dr. Ivan Yamshchikov betont, dass insbesondere Hochschulen für angewandte Wissenschaften eine Schlüsselrolle spielen können, indem sie Forschung, Praxis und Politik miteinander verknüpfen. Das Projekt verdeutlicht, dass ethische Fragen in der Entwicklung künstlicher Intelligenz nicht nachgelagert sind, sondern von Anfang an mitgedacht werden müssen.