Travail conjoint franco-allemand en cybersécurité : l’ANSSI et le BSI publient un rapport sur les risques de la programmation d’IA

18 octobre 2024

Ce document co-porté par l’Agence nationale de la sécurité des systèmes d’information (ANSSI) et le Bundesamt für Sicherheit in der Informationstechnik (BSI) fournit des recommandations pour une utilisation sécurisée des assistants de programmation basés sur l’IA.

 

La France et l’Allemagne travaillent conjointement au renforcement de la cybersécurité dans le cadre de l’essor de l’utilisation de l’intelligence artificielle. L’ANSSI et le BSI ont présenté le 4 octobre 2024, dans un document rédigé en anglais, les opportunités et les risques de l’utilisation d’assistants de programmation basés sur l’IA, notamment les risques liés aux services mutualisés, accessibles depuis Internet. Le rapport a pour objectif de contribuer à une utilisation responsable et sûre de ces outils et propose une série de recommandations de sécurité à destination des responsables et développeurs.

Cette publication commune du BSI et de l’ANSSI s’intègre dans une série de travaux menés par chacune des entités autour de l’IA. Au printemps dernier, l’ANSSI publiait ses recommandations de sécurité pour les systèmes d’IA générative, désormais disponibles en anglais (Security recommendations for a generative AI system). De son côté, le BSI a produit une étude sur les risques et opportunités des LLM (Large Language Models) qui a récemment été mise à jour.

Sur la base des risques identifiés, le BSI et l’ANSSI formulent des recommandations clés pour l’utilisation des assistants de codage par IA. Dans l’objectif de maximiser les avantages de cette technologie tout en minimisant les inconvénients potentiels, les deux pays encouragent notamment les entreprises et développeurs à :

  • Évaluer soigneusement les opportunités et les risques liés aux assistants de codage d’IA
  • Adopter une approche responsable pour les mettre en œuvre et les utiliser
  • Se concentrer sur l’amélioration continue et la collaboration

Lire le rapport complet.