Rechtliche, soziale und technische Herausforderungen von KI-Entscheidungsfindung zu verstehen sowie die Entwicklung fairnessbewusster Algorithmen

Auf künstlicher Intelligenz (KI) basierende Systeme werden heutzutage häufig eingesetzt, um Entscheidungen zu treffen, die weitreichende Auswirkungen auf den Einzelnen und die Gesellschaft haben. Ihre Entscheidungen können jeden, überall und jederzeit betreffen und Risiken mit sich bringen, wie z. B. die Verweigerung eines Kredits, eines Jobs, einer medizinischen Behandlung oder einer bestimmten Nachricht. Unternehmen könnten Chancen verpassen, weil KI-gesteuerte Entscheidungen aufgrund von Voreingenommenheit (Bias) unterdurchschnittlich ausfallen; viel schlimmer noch, sie könnten gegen die Menschenrechte verstoßen, wenn sie Menschen unfair behandeln.

Voreingenommenheit kann in allen Phasen von KI-basierten Entscheidungsprozessen auftreten: (i) wenn Daten gesammelt werden, (ii) wenn Algorithmen Daten in Entscheidungskapazitäten umwandeln, oder (iii) wenn die Ergebnisse der Entscheidungsfindung in Anwendungen genutzt werden. Daher ist es notwendig, über die traditionellen, auf Vorhersageleistung optimierten KI-Algorithmen hinauszugehen und ethische und rechtliche Prinzipien in das Training, das Design und den Einsatz von KI-Algorithmen einzubetten, um das soziale Wohl zu gewährleisten und dennoch vom Potenzial der KI zu profitieren.

NoBIAS wird neuartige Methoden für KI-basierte Entscheidungsfindung ohne Voreingenommenheit entwickeln, indem ethische und rechtliche Überlegungen bei der Gestaltung technischer Lösungen berücksichtigt werden. Die Kernziele von NoBIAS sind, die rechtlichen, sozialen und technischen Herausforderungen der Voreingenommenheit in der KI-Entscheidungsfindung zu verstehen, ihnen durch die Entwicklung fairnessbewusster Algorithmen entgegenzuwirken, KI-Ergebnisse automatisch zu erklären und den Gesamtprozess für Datenherkunft und Transparenz zu dokumentieren.

Wir werden eine Kohorte von 15 ESRs (Early-Stage Researchers) ausbilden, um Probleme mit Voreingenommenheit durch multidisziplinäres Training und Forschung in den Bereichen Informatik, Datenwissenschaft, maschinelles Lernen, Recht und Sozialwissenschaft anzugehen. Die ESRs werden praktisches Fachwissen in einer Vielzahl von Sektoren wie Telekommunikation, Finanzen, Marketing, Medien, Software und Rechtsberatung erwerben, um Rechtskonformität und Innovation auf breiter Basis zu fördern. Technische, interdisziplinäre und Soft-Skills werden ESRs einen Vorsprung in Richtung zukünftiger Führung in der Industrie, Wissenschaft oder Regierung geben.