Bericht: US-Regierung wirft Anthropic Betrug vor – Simpler Prompt Teilgrund für Sperre? – Update
Glaubt man einem aktuellen Beitrag von Heise, dürfte zumindest ein Teilgrund für die Sperre der mächtigen Anthropic-Modelle Claude Mythos und Claude Fable 5 im Nachhinein ziemlich lächerlich sein. Die unabhängige IT-Sicherheitsforscherin Katie Moussouris von Luta Security, die den Bericht der US-Regierung einsehen konnte, berichtet, dass eine einfache und in Cybersicherheitskreisen absolut übliche Aufgabenstellung mit für die Anordnung verantwortlich sein soll.
Demnach haben andere Sicherheitsforscher Open Source-Code mit bekannten Sicherheitslücken und eigenen Code mit selbst absichtlich integrierten Sicherheitsproblemen genommen und den drei Anthropic-Modellen Claude Mythos, Claude Fable 5 und dem schon lange erhältlichen Claude Opus vorgelegt. Zunächst sollte der Code auf Sicherheitslücken geprüft und diese hinter behoben werden. Mehr ist angeblich nicht passiert und führte zum angeblichen Jailbreak, über den dann vielfach berichtet wurde.
Dass die aktuelle US-Regierung von Donald Trump manche Kommunikation dabei ziemlich eilig umsetzt, zeigt ein Bericht der Financial Times, nach dem Anthropic nur 90 Minuten Zeit hatte, um vor der Anordnung eine Reaktion abzugeben. Derweil berichtet Axios, dass die US-Administration sich von Anthropic auch regelrecht betrogen fühlt. Oder wie eine Quelle anonym sagt: Es ist, als würden beide Seiten unterschiedliche Sprachen sprechen.
Update vom 18. Juni: Wie die Kollegen der ComputerBase unter Berufung auf Wired berichten, verlangt die US-Regierung von Anthropic die vollständige Beseitigung aller möglichen Jailbreaks, bevor die Anordnung wieder aufgehoben werden könnte. Laut Experten sind solche Absicherungen allerdings unrealistisch. Sollte sich hieran nichts ändern, blieben beide Modelle also unter dem Exportbann.
DrWindows News per WhatsApp: Abonniere unseren Kanal.Thema:
- Künstliche Intelligenz
Über den Autor

Kevin Kozuszek
Seit 1999 bin ich Microsoft eng verbunden und habe in diesem Ökosystem meine digitale Heimat gefunden. Bei Dr. Windows halte ich euch seit November 2016 über alle Neuigkeiten auf dem Laufenden, die Microsoft bei seinen Open Source-Projekten und Microsoft Edge zu berichten hat. Beiträge über Mozilla, Europas Digitalwirtschaft und inklusive Informatik runden meinen Bereich ab.


