Datum 04.10.2024

Die französische Behörde für IT-Sicherheit, Agence nationale de la sécurité des systèmes d’information (ANSSI), und das Bundesamt für Sicherheit in der Informationstechnik (BSI) veröffentlichen zusammen Empfehlungen für den sicheren Einsatz von KI-Programmierassistenten. Grundlage für die Publikation "AI Coding Assistants" war ein gemeinsamer Workshop von BSI und ANSSI im Mai 2024 an dem BSI-Standort in Saarbrücken.

KI-Programmierassistenten können in verschiedenen Stadien des Softwareentwicklungsprozesses eingesetzt werden. Ihre Kernfunktionalität ist das Erzeugen von Quellcode. Außerdem können sie Entwickelnden helfen, sich mit Quellcode von neuen Projekten durch KI-generierte Erklärungen vertraut zu machen und den Entwicklungsprozess unterstützen, indem sie Testfälle und Dokumentationen generieren.

Der Bericht beschreibt die Chancen dieser neuen Technologie, geht aber auch auf mögliche Risiken ein. Hierzu zählen die Vertraulichkeit der Eingaben und die Qualität des erzeugten Quellcodes hinsichtlich Sicherheitslücken. Für die Risiken werden jeweils konkrete Mitigationsmaßnahmen vorgeschlagen und Handlungsempfehlungen für Entwickelnde sowie das Management in Unternehmen ausgesprochen.