Datum 22.06.2023

Am 20. Juni 2023 lud das Bundesamt für Sicherheit in der Informationstechnik (BSI) Expertinnen und Experten zu der Veranstaltung „BSI im Dialog: AI Security Awareness für professionelle KI-Entwicklung und Anwendung“ in den BSI-Standort nach Saarbrücken ein.

Künstliche Intelligenz (KI) ist ein wesentlicher Treiber der Digitalisierung und unterstützt Unternehmen bereits heute in der Entwicklung, Produktion und Verwaltung. Gleichzeitig bringen KI-Methoden neue Risiken und Herausforderungen mit sich. Daher ist es wichtig, dass die Anwendung von KI-Systemen sicher, verlässlich und vertrauenswürdig ist.

Im Rahmen der Veranstaltung wurden die Fragen „Wie kann das BSI die Entwicklung von „angemessenen“ KI-Lösungen in der Praxis fördern?“ und „Wie kann das BSI die sichere und reflektierte Nutzung von KI im professionellen (beruflichen) Kontext fördern?“ in einem interaktiven Format diskutiert. Im Fokus standen dabei insbesondere die Zielgruppe der Entwicklerinnen und Entwickler sowie die professionellen Anwenderinnen und Anwender von KI-Systemen.

Die intensiven Diskussionen mit den Gästen lieferten Impulse, wie z.B. Security-Checklisten für KI-Entwickelnde, die Ableitung einer Software Bill of Material (SBOM) für KI-Systeme oder die Entwicklung von interaktiven Demonstratoren zur anschaulichen Darstellung von Bedrohungsszenarien. Auch Inhalte einer Produktinformation für KI-Anwendungen wurden diskutiert, verbindliche Aussagen zu Einsatzszenarien und zu Risiken werden nachgefragt. Das BSI prüft die Anregungen hinsichtlich einer Umsetzbarkeit und Priorisierung.