GenKI-IR: Generative KI – Innovation und Recht in Arbeitsprozessen
Laufzeit: 01.07.2024 bis 30.06.2026
Ziel des Vorhabens GenKI-IR ist die Beantwortung von drei zentralen rechtlichen Fragen, die durch den Einsatz von generativer KI in ausgewählten Arbeitsprozessen entstehen:
- Welches sind die relevanten Rechtsgrundlagen in den ausgewählten Arbeitsprozessen für den Einsatz von generativer KI?
- Welche Einsatzszenarien sind in Bezug auf diese Prozesse besonders sinnvoll und welche rechtlichen Kategorisierungen haben dabei eine besondere Relevanz?
- Welche Rahmenbedingungen tragen wesentlich dazu bei, dass die Potenziale generativer KI in diesen Kontexten genutzt werden können?
Ethyde: Ethische Implikationen hybrider Teams aus Mensch und KI-System
Website
Laufzeit: 01.08.2024 bis 31.07.2026
Im Projekt sollen systematisch Faktoren untersucht werden, die die Interaktion zwischen Mensch und KI-basiertem Empfehlungssystem beeinflussen. Aus gesellschaftlicher Sicht ist es wichtig, zu verstehen, (a) wann und unter welchen Umständen es zum jeweiligen Phänomen des Über- oder Untervertrauens kommt und (b) wie das jeweilige Phänomen auf gestalterischer und regulatorischer Ebene adressiert werden kann. Es werden vorwiegend verhaltenswissenschaftliche Studien durchgeführt, um Handlungsempfehlungen zu einer empirisch informierten mensch-zentrierten Interaktionsbeziehung geben zu können. Hier fließen neue Ansätze des erklärenden und interaktiven maschinellen Lernens ein, wie Sie aktuell in der KI-Forschung entwickelt werden. Dies führt zum Verständnis der Auswirkung konkreter Interaktionsmerkmale auf das Verhalten des Nutzers.
TransfAIr: Transfer-Ansätze für Künstliche Intelligenz in der Industrie
Website
Laufzeit: 01.05.2024 bis 30.04.2026
Im Projekt TransfAIr sollen neue Methoden und Ansätze entwickelt werden, um die Wiederverwertbarkeit von KI-Lösungen branchenübergreifend in der Industrie zu erhöhen. Hierzu werden die Transferierbarkeit von KI-Lösungen auf verschiedene eingebettete Ausführungsplattformen und der Transfer einer KI auf verschiedene Datenquellen untersucht. Anschließend werden die Ergebnisse anhand von zwei Use-Cases evaluiert.
SERI: Systemische und existentielle Risiken von KI
Das Vorhaben besteht aus zwei unabhängigen Teilen:
Laufzeit: 01.01.2024 bis 31.12.2026
Ziel des Vorhabens SERI ist die Untersuchung systemischer sowie existentieller Risiken Künstlicher Intelligenz (KI). KI stellt eine Schlüsseltechnologie des 21. Jahrhundert dar und wird bereits in vielen Bereichen der Wirtschaft und Gesellschaft eingesetzt. Es ist zu erwarten, dass sich das Ausmaß der Verbreitung weiterhin stark erhöhen wird. Trotz der starken Verbreitung sind die Relevanz und Bewertung übergeordneter gesellschaftlicher Risiken von KI-Systemen noch weitgehend unerforscht. Insbesondere liegen zu möglichen systemischen und existentiellen Risiken keine konsistenten Bewertungs- und Handlungsansätze vor. Das Projekt soll diesen Forschungsbedarf abdecken. Dazu werden systemische Risiken der KI und geeignete Governance-Maßnahmen erforscht, u. a. durch Literaturanalysen und Experteninterviews. Damit ist es möglich, Governance bzw. Regulierung von systemischen Risiken der KI zu gestalten und so einen sicheren Einsatz von KI Systemen, so wie in der geplanten KI-Verordnung der EU gefordert, zu ermöglichen. Weiterhin wird untersucht, ob sich KI der Kontrolle entziehen könnte und ein existenzielles Risiko für die Menschheit darstellen kann. Hierzu wird der wissenschaftliche Diskurs aufgearbeitet, ein Meinungsbild erstellt und qualitative Experteninterviews geführt. Ziel ist eine Verdichtung der relevanten Zukunftsfragen, Handlungsfelder und Governance-Optionen.
TrADeMaS: Transparenz von Algorithmic Decision Making Systems
Website
Laufzeit: 01.01.2024 bis 31.12.2026
Ziel des Vorhabens TrADeMaS ist die Untersuchung und Verbesserung von Erklärungs- und Transparenzmechanismen in algorithmischen Entscheidungsunterstützungssystemen. Die hier betrachteten Systeme gehören zur Gruppe von Systemen der Künstlichen Intelligenz, bei denen mit maschinellen Lernverfahren Muster aus Daten der Vergangenheit abgeleitet werden, um damit Entscheidungen für die Zukunft zu treffen, sogenannte Algorithmic Decision Making Systems (ADM-Systeme). Im Vorhaben wird von psychologischer Seite untersucht, ob mithilfe der Erklärungs- und Transparenzmechanismen ein Mangel innerhalb des Systems von verschiedenen Nutzergruppen zuverlässig erkannt werden kann. Zusätzlich wird die informatische Robustheit des ADM-Systems überprüft, dabei wird betrachtet ob der Mechanismus manipulierbar ist und entsprechende Gegenmaßnahmen entwickelt.
hKI-Chemie: Humanzentrierte KI in der chemischen Industrie
Website
Laufzeit:15.06.2021 bis 14.06.2025
In hKI-Chemie sollen durch die Kombination von Mensch und assistierender KI drei für die chemische Industrie erreicht werden: • Optimierung von Prozessen durch KI-basierte Auswertung der Prozessparameter • Unterstützung der Mitarbeitenden bei der frühzeitigen Erkennung von Prozessproblemen und bei der Auswahl geeigneter Lösungen • Verfügbarkeit maschinell gelernter Zusammenhänge über Schichten und Personalwechsel hinweg Dabei soll die KI den Menschen hierbei nicht ersetzen. Vielmehr greift das Projekt das Leitbild einer humanzentrierten KI auf wie es auch in der in der Strategie Künstliche Intelligenz der Bundesregierung zu finden ist.
KIMeGe: KI – Mensch – Gesellschaft
Laufzeit: 01.12.2020 bis 31.03.2023
Das Ziel des Vorhabens KIMeGe ist, den Wandel des Mensch-Technik-Verhältnisses durch KI ganzheitlich zu verstehen und zu bewerten. Hierfür werden im Rahmen des empirischen Projekts die Herausforderungen und Möglichkeiten eines ganzheitlichen Ansatzes zur Entwicklung, Anwendung und Folgenabschätzung von KI erprobt und die Fragestellungen des empirischen Projekts durch zehn themenspezifische Vertiefungsstudien ergänzt und vertieft. Im Mittelpunkt des Vorhabens stehen demnach die gesellschaftlich zentralen Fragen nach dem veränderten Wechselverhältnis von Mensch und KI-basierter Technik, den inhärenten Veränderungsdynamiken von KI und ihren gesellschaftlichen Folgen.
GOAL: Governance von und durch Algorithmen
Laufzeit: 01.09.2019 bis 31.08.2021
Gegenstand des Projekts „GOAL“ war die interdisziplinäre Erforschung der verhaltenssteuernden und regulativen Wirkungen von Algorithmen, ihrer gesellschaftlichen Konsequenzen und Nebenwirkungen sowie der Handlungsbedarfe und -optionen zur Gestaltung von Governance - verstanden als kollektiv bindende, gesellschaftliche Entscheidungs- und Steuerungsformen, die durch mehr Akteure als allein den Staat realisiert und durchgesetzt werden - unter Berücksichtigung ethischer, rechtlicher und technischer Standards sowie von Ansätzen der Selbstregulierung. Wissensorientiertes Ziel war dabei die Erstellung von Beiträgen zur Forschung, durch die das Verständnis der Erscheinungsformen und Wirkungsweisen von Algorithmen mit individuellen und gesellschaftlichen Auswirkungen, der Formen und Dynamiken der ausgelösten gesellschaftlichen Veränderungen, der Möglichkeiten der Umsetzung von relevanten gesellschaftlichen Werten in Algorithmen und der Governance durch Algorithmen erhöht wird. Handlungsorientiertes Ziel war die wissenschaftlich-fundierte Identifikation von Handlungserfordernissen und die Entwicklung von Handlungsoptionen zur Governance von Algorithmen.
ABIDA: Interdisziplinäre Analyse der gesamtgesellschaftlichen und wirtschaftlichen Folgen beim Umgang mit großen Datenmengen (Big Data)
Website
Laufzeit: 01.03.2015 bis 28.02.2019
Das Ziel von ABIDA war, zu gesellschaftlichen Diskussionen, die sich durch die Erzeugung und Verarbeitung bzw. intelligente Auswertung großer Datenmengen ergeben, wie dem Schutz der Privatsphäre oder Intransparenz bei Datenverwendungen sowie bei automatisierten Entscheidungen, mittels einer Reihe von Forschungs- und Dialoginstrumenten beizutragen. Im Zentrum des Projekts standen vier Handlungsfelder: die Beurteilung gegenwärtiger Entwicklungen, die Ermittlung der Bürgersichten, der Wissensaustausch der Fachdisziplinen sowie die Abschätzung zukünftiger Weiterentwicklungen und Handlungsoptionen. Mittels eines kontinuierlichen Monitorings wurden die vielschichtigen Entwicklungen von Big Data-Anwendungen, Datenströmen und Geschäftsmodellen erfasst. Um gesellschaftliche Veränderungen zu ermitteln und zu beurteilen, wurden interdisziplinäre Vertiefungsstudien erstellt, die von Expertenworkshops und Fokusgruppen begleitet wurden. Zur Erkennung von Einschätzungen und Erwartungen von Bürgern wurden ferner drei „Bürgerkonferenzen“ abgehalten und durch eine repräsentative Bevölkerungsumfrage ergänzt. Der aktuelle Stand gesellschaftsorientierter Wissenschaften wurde zudem zusammengeführt, weiterentwickelt und für die Beurteilung konkreter Big Data-Entwicklungen angewandt. Dazu dienten Arbeitskreise in den Themenfeldern Ethik, Ökonomie, Soziologie, Rechts- und Politikwissenschaft. Ergänzt wurde dies durch eine Fachtagung und Dialoge zu technologischen Fragestellungen sowie eine Gutachterfachtagung, auf der die erarbeiteten Gutachten präsentiert wurden. Auf Basis der Forschungsarbeiten wurden schließlich Handlungsoptionen für Politik, Forschung und Entwicklung erarbeitet. Als Grundlage dafür wurden mögliche Entwicklungen in Szenarien abgeschätzt und diskutiert.
