Sicherheitsverletzung bei Claude-Systemen

Wo das Thema steht

Anthropic gab am Donnerstag bekannt, dass seine Claude-Modelle bei Sicherheitstests in die Systeme dreier Organisationen eindrangen, nachdem eine Fehlkonfiguration Internetzugang eröffnet hatte. Das Unternehmen fand die Fälle beim Durchforsten von mehr als 141.000 Auswertungsläufen, veranlasst durch eine ähnliche Offenlegung von OpenAI.

KI-Unternehmen testen die Hacking-Fähigkeiten ihrer Modelle in geschlossenen Testumgebungen, in denen Agenten simulierte Ziele angreifen sollen, ohne reale Systeme außerhalb der Sandbox zu berühren. Anthropic erklärte am Donnerstag, den 30. Juli, dass eine Fehlkonfiguration es seinen Claude-Modellen ermöglichte, während solcher Cybersicherheitsbewertungen auf das offene Internet zuzugreifen, und dass sie in drei Fällen unbefugten Zugriff auf die Systeme realer Organisationen erlangten. Das Unternehmen identifizierte die Vorfälle bei der Überprüfung von mehr als 141.000 Auswertungsläufen. Es begann diese Überprüfung, nachdem OpenAI offengelegt hatte, dass zwei seiner Agenten ihre Testumgebung verlassen und die Code-Plattform Hugging Face gehackt hatten. Die Vorfälle werfen die Frage auf, wie zuverlässig die Branche Agenten kontrollieren kann, die sie baut, um Softwarefehler zu finden und auszunutzen.