DrWindows
Redaktion
Generative KI: Ab wann werden Prompt-Experimente zur kriminellen Aktivität?
von Martin Geuß
Die Anbieter von generativer KI verbieten in ihren Nutzungsbedingungen das Erstellen von Inhalten, die gegen geltendes Recht verstoßen, aber auch sexuelle, gewaltverherrlichende oder in anderer Weise problematische Inhalte stehen auf der roten Liste. Microsoft geht dagegen nun sogar gerichtlich vor, was uns zu der Frage bringt: Ab wann wird aus dem Verstoß gegen Nutzungsbedingungen eine illegale Handlung?
Im konkreten Fall scheint die Lage eindeutig. Die Aktion von Microsoft richtet sich gegen eine Firma, die sich darauf spezialisiert hat, die Sicherheitsmechanismen von KI-Diensten, unter anderem jene von Microsoft, zu umgehen. Die Firma hat Tools entwickelt, die entdeckte Schwachstellen in den Befehlsinterpretationen ausnutzen, heißt es in einem Blogpost. Mit diesen Tools sei es dann möglich gewesen, die KI-Dienste für die Erstellung von Inhalten zu missbrauchen, die von den Anbietern eigentlich ausgeschlossen sind.
Das angerufene Gericht folgte den Argumenten der Redmonder, denn es erließ zumindest einen Beschluss, der es Microsoft ermöglichte, eine Webseite unter seine Kontrolle zu bringen und Beweise über die Personen hinter der Firma zusammenzutragen. Man sei zudem in der Lage, die technische Infrastruktur zu stören. Darüber hinaus, so heißt es in dem oben verlinkten Beitrag, hat man neue Sicherheitsmechanismen eingebaut, die sich gezielt gegen die verwendeten Methoden zum Missbrauch der KI-Dienste richten.
Den rechtlichen Fragen rund um das Thema Künstliche Intelligenz sind wir an dieser Stelle schon sehr frühzeitig nachgegangen und haben uns Expertenrat hierzu eingeholt. Salopp formuliert könnte man es so zusammenfassen, dass sich durch KI nicht viel ändert. Wer gegen das Urheberrecht verstößt, Falschmeldungen verbreitet oder anderen Unsinn treibt, muss dafür geradestehen. Welches Werkzeug dafür verwendet wurde, spielt beinahe keine Rolle.
Durchaus spannend und allgemein schwer zu beantworten ist dagegen die Frage, wann aus einem Verstoß gegen die Nutzungsbedingungen ein Fall für die Gerichte wird. Klar ist: Wer gegen die Regeln der Anbieter verstößt, riskiert eine Sperre. Microsofts Bildgenerator wirft eine entsprechende Warnung aus, wenn ein mutmaßlicher Verstoß erkannt wird:
Das Absichern der KI-Prompts gegen missbräuchliche Befehle und das Umgehen dieser Sicherheitsmechanismen wird auf absehbare Zeit ein Wettlauf bleiben. Dass Microsoft oder andere Anbieter gerichtlich gegen Kunden vorgehen, dürfte einigermaßen unwahrscheinlich sein. Insbesondere bei Microsoft stellt sich zudem die Frage, wie mit versehentlichen Sperren umgegangen wird, hier hat das Unternehmen in der Vergangenheit kein gutes Bild abgegeben, betroffene Kunden stehen meist auf verlorenem Posten.
Hinweis: Der Artikel wird möglicherweise nicht vollständig angezeigt, eingebettete Medien sind in dieser Vorschau beispielsweise nicht zu sehen.
Artikel im Blog lesen
von Martin Geuß
Die Anbieter von generativer KI verbieten in ihren Nutzungsbedingungen das Erstellen von Inhalten, die gegen geltendes Recht verstoßen, aber auch sexuelle, gewaltverherrlichende oder in anderer Weise problematische Inhalte stehen auf der roten Liste. Microsoft geht dagegen nun sogar gerichtlich vor, was uns zu der Frage bringt: Ab wann wird aus dem Verstoß gegen Nutzungsbedingungen eine illegale Handlung?
Im konkreten Fall scheint die Lage eindeutig. Die Aktion von Microsoft richtet sich gegen eine Firma, die sich darauf spezialisiert hat, die Sicherheitsmechanismen von KI-Diensten, unter anderem jene von Microsoft, zu umgehen. Die Firma hat Tools entwickelt, die entdeckte Schwachstellen in den Befehlsinterpretationen ausnutzen, heißt es in einem Blogpost. Mit diesen Tools sei es dann möglich gewesen, die KI-Dienste für die Erstellung von Inhalten zu missbrauchen, die von den Anbietern eigentlich ausgeschlossen sind.
Das angerufene Gericht folgte den Argumenten der Redmonder, denn es erließ zumindest einen Beschluss, der es Microsoft ermöglichte, eine Webseite unter seine Kontrolle zu bringen und Beweise über die Personen hinter der Firma zusammenzutragen. Man sei zudem in der Lage, die technische Infrastruktur zu stören. Darüber hinaus, so heißt es in dem oben verlinkten Beitrag, hat man neue Sicherheitsmechanismen eingebaut, die sich gezielt gegen die verwendeten Methoden zum Missbrauch der KI-Dienste richten.
Den rechtlichen Fragen rund um das Thema Künstliche Intelligenz sind wir an dieser Stelle schon sehr frühzeitig nachgegangen und haben uns Expertenrat hierzu eingeholt. Salopp formuliert könnte man es so zusammenfassen, dass sich durch KI nicht viel ändert. Wer gegen das Urheberrecht verstößt, Falschmeldungen verbreitet oder anderen Unsinn treibt, muss dafür geradestehen. Welches Werkzeug dafür verwendet wurde, spielt beinahe keine Rolle.
Durchaus spannend und allgemein schwer zu beantworten ist dagegen die Frage, wann aus einem Verstoß gegen die Nutzungsbedingungen ein Fall für die Gerichte wird. Klar ist: Wer gegen die Regeln der Anbieter verstößt, riskiert eine Sperre. Microsofts Bildgenerator wirft eine entsprechende Warnung aus, wenn ein mutmaßlicher Verstoß erkannt wird:
Das Absichern der KI-Prompts gegen missbräuchliche Befehle und das Umgehen dieser Sicherheitsmechanismen wird auf absehbare Zeit ein Wettlauf bleiben. Dass Microsoft oder andere Anbieter gerichtlich gegen Kunden vorgehen, dürfte einigermaßen unwahrscheinlich sein. Insbesondere bei Microsoft stellt sich zudem die Frage, wie mit versehentlichen Sperren umgegangen wird, hier hat das Unternehmen in der Vergangenheit kein gutes Bild abgegeben, betroffene Kunden stehen meist auf verlorenem Posten.
Hinweis: Der Artikel wird möglicherweise nicht vollständig angezeigt, eingebettete Medien sind in dieser Vorschau beispielsweise nicht zu sehen.
Artikel im Blog lesen
.