Wissenschaftlicher Mitarbeiter - Experte für vertrauenswürdige KI (all genders)

Die Fraunhofer-Gesellschaft ist eine der weltweit führenden Organisationen für anwendungs­orientierte Forschung. 74 Institute entwickeln weg­weisende Technologien für unsere Wirt­schaft und Gesell­schaft – genauer: 30 000 Menschen aus Technik, Wissen­schaft, Ver­waltung und IT. Sie wissen: Wer zu Fraunhofer kommt, will und kann etwas verändern – für sich, für uns und die Märkte von heute und morgen.

Am Fraunhofer IAIS erforschen und entwickeln rund 360 Mitarbeitende individuelle Lösungen zur Integration und Analyse von Daten für unsere Fördergeber*innen und unsere Kund*innen aus der Wirtschaft. Künstliche Intelligenz, Machine Learning, Big Data, Multimedia Content Analytics, Information Integration sowie Unternehmensmodellierung und -analyse sind die inhaltlichen Schwerpunkte unserer Arbeiten.

In der Abteilung AI Assurance and Assessments (AAA) operationalisieren wir KI-Vertrauenswürdigkeit entlang von drei Schritten:

1. Wir analysieren Anforderungen an KI-Systeme aus Gesetzen und Standards.
2. Wir setzen diese Anforderungen um, indem wir technische Absicherungsmethoden für KI-Systeme entwickeln und diese auf organisatorischer Ebene durch effektive KI-Governance Mechanismen komplettieren.
3. Wir entwickeln Prüfkriterien und Testverfahren für KI-Systeme und forschen zu der Frage, wie sich solche Prüfungen und Tests automatisieren lassen.

Hierbei beschäftigen uns Fragestellungen wie: Wie lassen sich a priori inkommensurable KI-Risiken, etwa die Verletzung von Persönlichkeitsrechten und Safety-Risiken zu einem Gesamtrisiko aggregieren? Wie lassen sich die Unsicherheiten von Transformer-Modellen messen? Welche Controls in KI-Managementsystemen operationalisieren den AI Act? Wie lassen sich KI-Prüfworkflows automatisieren? Was sind die besten Redteaming Ansätze, um die Safeguards von LLMs zu testen? Wie lassen sich KI-Agenten im Betrieb absichern?

Bei Fraunhofer IAIS zu arbeiten, heißt unternehmerisches Denken mit Spitzenforschung zu verbinden: Unsere Abteilung AAA hat weltweit Kunden, die von großen Technologiekonzernen bis hin zu Start-ups reichen. Auch viele Behörden zählen zu unseren Auftraggebern. Gleichzeitig entstehen aus unserer Forschung wissenschaftliche Publikationen und Doktorarbeiten. Unser interdisziplinäres Team hat Abschlüsse in Informatik, Naturwissenschaften, Rechtswissenschaften und Psychologie und freut sich auf Sie!

• Übersetzung von regulatorischen Vorgaben, wie etwa der KI-Verordnung, in technische Anforderungen an KI-Systeme
• Konzeption und Entwicklung von technischen Lösungen zur Absicherung von KI-Systemen
• Konzeption und Entwicklung von KI-Governance Frameworks
• Konzeption und Durchführung von KI-Prüfungen für konkrete Use Cases
• Entwicklung von Methoden zur Messung und Quantifizierung von Unsicherheiten in KI-Modellen (z. B. Transformer-Architekturen)
• Durchführung von Redteaming- und Stresstests zur Absicherung von LLMs und KI-Agenten im produktiven Einsatz
• Automatisierung von KI-Prüf- und Testworkflows
• Beratung von Kund*innen aus Wirtschaft und öffentlicher Verwaltung zur regulatorischen Einordnung und Absicherung ihrer KI-Systeme

• Abgeschlossenes wissenschaftliches Hochschulstudium (Master, Diplom) der Informatik, Physik oder Mathematik mit sehr gutem Abschluss an einer Universität mit internationalem Renommee, gerne mit Promotion. Bei guter Passung zu einem der oben genannten Themen kommen auch andere Abschlüsse (z.B. Rechtswissenschaften, Psychologie) in Betracht
• Sehr gute Vorkenntnisse in den Bereichen Maschinelles Lernen, Künstliche Intelligenz (KI) und Agentische KI
• Sehr gute Kenntnisse zu
  • Programmierung (insb. Python und ML-Frameworks with pytorch und tensorflow) und technischer Implementierung (Docker/Podman und Containerisierung, Azure, AWS oder andere Cloudprovider, Infrastructure as Code, CI/CD) und im Umgang mit Agent Frameworks/Harnesses (z.B. ClaudeCode, OpenAI Codex oder LangGraph) oder
  • KI-Regulierung und Standardisierung (KI-Recht, insb. AI Act, internationale Standardisierung bei ISO, IEC und ITU, europäische Standardisierung bei CEN, CENELEC, ETSI, harmonisierte Normen)
• Exzellente analytische Fähigkeiten und Freude an abstraktem Denken
• Hohe Belastbarkeit sowie die Bereitschaft, sich schnell in neue Sachverhalte einzuarbeiten
• Freude daran, komplizierte technische Zusammenhänge für unterschiedliche Stakeholder aufzubereiten
• Ein hohes Maß an Eigeninitiative und Hands-on Mentalität
• Strukturiertes Arbeiten und professionelles Auftreten
• Sehr gute Deutschkenntnisse und Englischkenntnisse (beides mind. auf Niveau C1)

Bitte gehen Sie in ihrem Anschreiben darauf ein, welche Themenschwerpunkte der Abteilung AAA Sie besonders interessieren, welche Vorerfahrungen Sie hierfür mitbringen, was Sie bei Fraunhofer IAIS erreichen möchten und warum wissenschaftliche Exzellenz und unternehmerisches Talent in ihrer Person vereint sind.

Wir bieten Ihnen vielfältige Angebote für Ihre persönliche Weiterbildung in den Bereichen Führung, Kommunikation, Projektmanagement, Vereinbarkeit von Beruf und Familie, Gesundheit, Kultur und Sport. Die Förderung der Chancengerechtigkeit unserer Mitarbeitenden ist ein wichtiges Ziel von Fraunhofer. Wir fördern die berufliche Entwicklung von Frauen in unserem Institut und ermutigen sie nachdrücklich, sich zu bewerben.

KA1SP_DE