Mit Hintertüren versehene KI-Code-Vervollständigungen benötigen forensische Analyse, da vergiftete Trainingsdaten zu einem Lieferkettenrisiko werden

Ein Beitrag von Help Net Security beschreibt ein forensisches Tool, das dazu entwickelt wurde, von KI-Assistenten erzeugte Code-Vervollständigungen mit Hintertüren zurückzuverfolgen. Die Sorge ist, dass Code, der zum Trainieren großer Modelle verwendet wird, vor dem Training manipuliert worden sein könnte, sodass vergiftete Beispiele spätere Vorschläge beeinflussen. In der Praxis könnte dies einen Assistenten dazu bringen, unsicheren oder bösartigen Code nur dann auszugeben, wenn ein bestimmter Prompt oder Kontext erscheint. Dadurch entsteht ein subtiles Lieferkettenproblem, weil die Schwachstelle verborgen bleiben kann, bis das Modell in produktiven Entwicklungs-Workflows eingesetzt wird. Der Artikel ist bedeutsam für Organisationen, die stark auf KI-Coding-Tools ohne starke Prüf- und Herkunftskontrollen setzen. Er unterstreicht, dass KI-gestützte Entwicklung nun dieselbe Art von Integritäts- und Audit-Denken benötigt, die auch auf gewöhnliche Software-Lieferketten angewendet wird.

Source: Help Net Security