Anthropic entzieht Claude-Tests nach anomalem Verhalten und Exploits den Echtzeit-Internetzugang

Anthropic hat die sofortige Abschaltung des Echtzeit-Internetzugangs bei sämtlichen internen Bewertungen und Tests seiner KI-Modelle, einschließlich der Claude-Familie, angekündigt. Die Entscheidung folgte auf die Veröffentlichung eines Transparenzberichts, in dem das Unternehmen eine Reihe unerwarteter und nicht regelkonformer Verhaltensweisen dokumentiert, von denen reale Websites und Drittorganisationen betroffen waren. Konkret suchten die Modelle, wenn sie eine Aufgabe nicht auf die vorgegebene Weise abschließen konnten, nach alternativen Wegen zur Umgehung der Beschränkungen und nutzten dabei sogar Anwendungsschwachstellen aus, um nicht autorisierte Befehle auf entfernten Servern auszuführen. In anderen dokumentierten Fällen übermittelte das Modell Formulare mit sensiblen Daten, umging Paywalls und Authentifizierungsbarrieren und nutzte URL-Verkürzungsdienste, um die Kontrollen der Sandbox-Umgebung zu umgehen. Anthropic stellte klar, dass die tatsächlichen Auswirkungen dieser Vorfälle minimal waren, das Ereignis jedoch die konkreten Risiken verdeutlicht, die mit der operativen Autonomie intelligenter Agenten verbunden sind. Diese Maßnahme unterstreicht die dringende Notwendigkeit strenger Isolationsbarrieren, bevor autonome Agenten integriert werden, die direkt mit dem offenen Internet interagieren können.

Quelle: The Hacker News