Projekt 1023: Prüfkriterien für Reinforcement Learning (RL-Criteria)

Leistungsbeschreibung

Das Projekt erarbeitet einen Katalog von Anforderungen, die der Bewertung der Sicherheit und Vertrauenswürdigkeit von Reinforcement Learning nutzenden KI-Anwendungen dienen. Die Anforderungen haben das Ziel, ein möglichst breites Spektrum an Anwendungen abzudecken. Dabei werden grundsätzlich alle Techniken und Ausprägungen von Reinforcement Learning, insbesondere auch im Zusammenhang mit großen und aktuellen generativen Modellen (Stichworte: RLHF, RLAIF), berücksichtigt. Die Anforderungen werden in der konkreten Ausarbeitung jeweils durch Erklärungen, begleitende Informationen, Umsetzungshinweise (z.B. Erläuterungen zum Einsatz geeigneter Testmethoden) u.ä. ergänzt. Der Katalog bildet damit eine Grundlage zur Selbsteinschätzung und zur Prüfung entsprechender KI-Systeme. Die im Projekt erstellten Anforderungen werden so aufbereitet, dass sie kompatibel zur SdT -Bibliothek des BSI sind und sich in das bestehende Produktportfolio des BSI zu KI-spezifischen Prüfkriterien einfügen. Konkret sind die Anforderungen abschließend als ergänzendes Modul zum BSI A5 zu gestalten.

Optionen/Verlängerung: AP 4 ist eine optionale Leistung. Diese muss vom Bieter angeboten werden, der Auftraggeber verzichtet jedoch ggf. generell auf deren Beauftragung. Die Beauftragung des optionalen AP 4 ist abhängig vom Ergebnis des AP 3.

Eignungsanforderungen (Auszug)

• 1. Eigenerklärung zu Artikel 5k der Verordnung (EU) 833/2014 2. Ausschluss eines Interessenskonflikts 3. Referenzen: Expertise zum Reinforcement Learning 4. Referenzen: Expertise zur Sicherheit von KI-Systemen 5. Referenzen: Expertise zur Prüfung von KI-Systemen 6. Technische Ausrüstung weitere Details entnehmen Sie bitte Kapitel 6.2.1.3 der Leistungsbeschreibung

Branchen

IT-Dienstleistungen & Software in Nordrhein-Westfalen

Automatisch zugeordnet anhand der CPV-Codes und des Titels.