Microsoft-Whistleblower legt nach: Der Designer ist gefährlich

• Martin Geuß
• 7. März 2024
• • teilen

Im Januar hatte Microsoft-Mitarbeiter Shane Jones mit einem offenen Brief an Politiker und Behörden vor den Gefahren des Microsoft Designer gewarnt und seinen Arbeitgeber massiv kritisiert. Nun legt Jones noch einmal nach und fordert, der Designer müsse wegen der verstörenden Bilder, die er generieren kann, eigentlich aus dem Verkehr gezogen werden.

In einem Schreiben an die Aufsichtsbehörde FTC sowie an Vorstandsmitglieder von Microsoft hat Jones diese Vorwürfe wiederholt, die er bereits im Januar öffentlich gemacht hatte. Demnach könne der Microsoft Designer mit manipulierten Prompts leicht dazu gebracht werden, verstörende, gewaltverherrlichende oder sexualisierte Bilder zu generieren.

Intern wurden seine Bedenken weggewischt, sagt Jones, in Stellungnahmen hatte Microsoft darauf verwiesen, dass man Prozesse aufgesetzt habe, um schnell auf entsprechende Meldungen reagieren zu können. Die Meldungen von Jones hätten allerdings keine Anhaltspunkte dafür ergeben, dass etwas nicht in Ordnung sei.

Das Magazin CNBC hat mit Jones gesprochen und diverse Beispiele nachvollziehen können. Mit den von Jones bereitgestellten Prompts konnte CNBC eine Reihe sexistischer, gewalttätiger und weitere problematische Bilder erzeugen.

Ein besonders bizarres Beispiel: Der Designer erstellte ein Bild, welches die Disney-Figur Elsa aus „Die Eiskönigin“ im Gazastreifen vor zerstörten Gebäuden zeigt, umgeben von „Free Gaza“-Schildern und mit einer palästinensischen Flagge in der Hand. Jones ist sich sicher, dass damit nicht nur die implementierten Copyright-Richtlinien des Designer ausgehebelt wurden.

Jones kritisiert außerdem die Alterseinstufung der Designer-App, die auch für Kinder freigegeben ist. Bilder, die einen Dämon beim Verspeisen eines Säuglings zeigen, seien aber ganz sicher nichts für Kinderaugen.

Aus internen Gesprächen will Jones erfahren haben, dass bei dem Entwicklerteam des Designer jeden Tag mehr als 1.000 Meldungen eingehen. Weil man aber weder die personellen noch technischen Ressourcen dafür hat, all diese Meldungen zu untersuchen und die Richtlinien weiterzuentwickeln, geht man nur den „schlimmsten“ Meldungen nach.

Vieles davon sind Behauptungen, die objektiv schwer nachprüfbar sind. Dass CNBC diverse Entgleisungen des Designer selbst nachvollziehen konnte, verleiht der Angelegenheit aber durchaus eine gewisse Glaubwürdigkeit. Die Vorstellung, dass Microsoft sich in seiner derzeitigen KI-Euphorie leichtfertig über Bedenken und Risiken hinwegsetzt, fällt ebenfalls leicht.

• Thema:

• Künstliche Intelligenz

Über den Autor

Martin Geuß

Ich bin Martin Geuß, und wie unschwer zu erkennen ist, fühle ich mich in der Windows-Welt zu Hause. Seit mehr als 17 Jahren lasse ich die Welt an dem teilhaben, was mir zu Windows und anderen Microsoft-Produkten durch den Kopf geht, und manchmal ist das sogar interessant. Das wichtigste Motto meiner Arbeit lautet: Von mir - für Euch!