Les complétions de code IA avec porte dérobée nécessitent une analyse médico-légale à mesure que les données d’entraînement empoisonnées deviennent un risque de chaîne d’approvisionnement

Un article de Help Net Security décrit un outil d’investigation numérique conçu pour retracer les complétions de code avec porte dérobée générées par des assistants IA. Le risque est que le code utilisé pour entraîner de grands modèles ait été altéré avant l’entraînement, permettant à des exemples empoisonnés d’influencer les suggestions ultérieures. En pratique, cela pourrait apprendre à un assistant à produire du code non sécurisé ou malveillant uniquement lorsqu’une certaine invite ou un certain contexte apparaît. Cela crée un problème subtil de chaîne d’approvisionnement, car la faiblesse peut rester cachée jusqu’à ce que le modèle soit utilisé dans des flux de travail de développement en production. L’article est important pour les organisations qui s’appuient fortement sur des outils de codage IA sans contrôles robustes de revue et de provenance. Il souligne que le développement assisté par l’IA nécessite désormais le même type de réflexion sur l’intégrité et l’audit que celui appliqué aux chaînes d’approvisionnement logicielles ordinaires.

Source : Help Net Security