Am Puls von Microsoft

Nationale Sicherheit der USA: Anthropic muss KI-Modelle für ausländische Nutzer sperren – Update 3

Nationale Sicherheit der USA: Anthropic muss KI-Modelle für ausländische Nutzer sperren - Update 3

Wir berichten schon seit einiger Zeit darüber, dass die US-Regierung ihren Kurs bei Künstlicher Intelligenz zunehmend verschärft. Hintergrund sind neben einem Sicherheitsdekret auch mögliche Staatsbeteiligungen und eine zunehmende Entmachtung der zivilen KI-Prüfstellen CAISI. Nun hat die aktuelle US-Administration erstmals mit einer konkreten Anordnung reagiert. Betroffen davon ist Anthropic.

Über die entsprechende Anordnung des US-Handelsministeriums unter Howard Lutnick berichtet die Tagesschau in einem aktuellen Beitrag. Konkret geht es um das Sicherheitsmodell Claude Mythos sowie das neue Spitzenmodell Claude Fable 5, was die Entwickler erst vor einigen Tagen und für einen begrenzten Zeitraum veröffentlicht haben. Ein Beispiel für die Fähigkeiten von Fable 5 hat in dieser Woche der YouTuber The Morpheus veröffentlicht.

Nach Ansicht der US-Regierung von Präsident Donald Trump ist die Nationale Sicherheit der USA bedroht, wenn beide KI-Modelle in die Hände von Menschen gelangen, die keine US-Staatsbürgerschaft besitzen. Entsprechend dürfen beide nicht mehr an ausländische Nutzer vertrieben werden, auch wenn sich diese in den USA aufhalten oder hier wohnhaft sind. Anthropic selbst geht von einem „Missverständnis“ aus.

Für die EU ist das Thema bitter, zuletzt liefen neben Anthropic auch mit OpenAI Gespräche wegen Claude Mythos bzw. GPT-5-Cyber. Ob nun auch das Unternehmen von Sam Altman eine entsprechende Verfügung umsetzen muss, ist derzeit offen. Eine europäische Alternative zu beiden US-Anbietern entwickelt derzeit Mistral AI aus Frankreich, welches zusammen mit der Großbank BNP Paribas getestet werden soll. Im Notfall müssten die Europäer hier also einen weiteren Alleingang machen.

Update vom 14. Juni: Laut einem aktuellen Bericht von Golem ging der Anordnung ein Hinweis von Amazon-Chef Andy Jassy voraus, nach denen hauseigene Forscher von AWS Claude Fable 5 mit gezielten Prompts dazu gebracht haben, Sicherheitslücken in mindestens vier Programmen offen zu legen. Was als Warnung gedacht war, löste nach Beratungen auf Regierungsebene eine Kettenreaktion aus, an deren Ende Präsident Donald Trump die Anordnung unterzeichnete.

Führende Sicherheitsexperten bezeichnen den Fund in Claude Fable 5 als äußerst bedeutsam. Während Anthropics Modell noch etwas erweiterte Fähigkeiten besitzt, können andere Modelle von OpenAI, Google und weiteren Konkurrenten allerdings ähnliche Abflüsse generieren. Insofern kann die Anordnung weiter als ein Fingerzeig gedeutet werden, dass die US-Regierung künftig wesentlich restriktiver mit den KI-Modellen aus heimischer Entwicklung für ausländische Nutzer umgehen wird.

Zweites Update vom 14. Juni: Wie die Kollegen der ComputerBase unter Berufung auf Axios berichten, übte die US-Regierung scharfe Kritik daran, wie Anthropic das neue KI-Modell Claude Fable 5 veröffentlicht hat und werfen dem Unternehmen übertriebene Selbstsicherheit vor. Die Konsequenzen des Vorfalls sind jedenfalls weiterhin kaum abschätzbar. Einerseits sah das angesprochene Sicherheitsdekret bisher einen freiwilligen Lizenzmechanismus vor, nach dem Vorfall sieht das Weiße Haus allerdings de facto ein Lizenzierungsregime etabliert. Anthropic muss für weitere Veröffentlichungen fortan Anträge stellen.

Drittes Update vom 1. Juli: Die Exportbeschränkungen für beide Claude-Modelle wurden unter Auflagen wieder beendet. Anthropic hat zusätzliche Sicherungsmaßnahmen ergriffen und erarbeitet mit anderen Größen wie Microsoft und Google einen Industrieleitfaden, wie man künftig mit Jailbreaks umgehen will. Zudem wird die Zusammenarbeit auf Regierungsebene deutlich ausgeweitet.

DrWindows News per WhatsApp: Abonniere unseren Kanal.

Über den Autor

Kevin Kozuszek

Kevin Kozuszek

Seit 1999 bin ich Microsoft eng verbunden und habe in diesem Ökosystem meine digitale Heimat gefunden. Bei Dr. Windows halte ich euch seit November 2016 über alle Neuigkeiten auf dem Laufenden, die Microsoft bei seinen Open Source-Projekten und Microsoft Edge zu berichten hat. Beiträge über Mozilla, Europas Digitalwirtschaft und inklusive Informatik runden meinen Bereich ab.