Microsofts Bing-KI legt Künstler frei erfundene Zitate in den Mund

[DrWindows]

Microsofts Bing-KI legt Künstler frei erfundene Zitate in den Mund
von Martin Geuß

Mit seinem auf ChatGPT basierenden Bing will Microsoft die Internetsuche neu definieren und im Wettbewerb mit Google Boden gutmachen. Dass es hierbei zu Stilblüten kommt und mitunter falsche Informationen ausgegeben werden, ist kein neues Phänomen. In einem aktuellen Beispiel legt Bing einem Künstler allerdings frei erfundene Zitate in den Mund. Googles Bard tut das im Direktvergleich nicht.

Leser Leonard hat sich bei mir gemeldet und den Fall geschildert. Er ist Kunststudent und hat sich eine eigene Webseite eingerichtet. Nachdem Bing diese indiziert hatte, befragte er den Bing Chat zu Bildern und Informationen auf der Webseite. Er staunte nicht schlecht, als ihm Bing ein angeblich von ihm stammendes Zitat präsentierte, welches garantiert nicht von ihm stammt und weder auf der Seite noch sonst im Internet zu finden ist. Bing hatte dieses Zitat einfach erfunden. Als er im Chat schrieb, dass diese Informationen falsch sind, brach der Bot die Unterhaltung ab.

Leonard wollte wissen, ob ihm Bing etwas über das Bild mit dem Titel “162 x 130 Pixel” auf seiner Webseite erzählen kann. Und wie es das konnte:



Das Problem dabei: Diese Informationen sind komplett falsch und frei erfunden. Auch das Zitat, das ihm Bing in den Mund legte, hat es nie gegeben. Auf die Frage, woher diese Informationen stammen würden, behauptete Bing, sie unter leonardelfert.com gefunden zu haben.



Um Bing gewissermaßen die Chance zu geben, den eigenen Irrtum zu bemerken, fragte Leonard ganz konkret nach einem Zitat. Darauf antwortete Bing mit einem leicht abgewandelten Text, behauptete aber weiterhin, diese Aussagen wortwörtlich auf der Webseite gefunden zu haben:



Auf den ganz konkreten – und korrekten – Einwand, dass diese Informationen nicht von der Webseite stammen und außerdem nicht korrekt seien, reagierte der Bing-Bot “beleidigt” und beendete die Konversation.



Auf der Suche nach einer technischen Begründung fragte ich Leonard, ob Bing eventuell auf den Modus “Kreativ” eingestellt war, was er jedoch verneinte, Bing arbeitete im Modus “ausgewogen.

Im Vergleich dazu liefert Googles Bard deutlich weniger Informationen, gibt sich aber “ehrlicher” und berichtet, nicht genug Informationen zu haben, um eine Frage zu beantworten.





Abgesehen davon, dass Bing hier eine merkwürdige Fantasie entwickelt und ein Nutzer, der auf diese Antworten vertraut, komplett falsch informiert ist, stellt sich die Frage, inwieweit es rechtlich problematisch werden kann, wenn eine Suchmaschine Personen falsche Zitate in den Mund legt.

Die Erklärung, dass diese Technologie nicht ausgereift ist, mag ich in diesem Fall nicht gelten lassen. Die künstliche Intelligenz entwickelt hier ganz eindeutig ein Eigenleben, das sie nicht haben sollte.

+ alles anzeigen - weniger anzeigen

Hinweis: Der Artikel wird möglicherweise nicht vollständig angezeigt, eingebettete Medien sind in dieser Vorschau beispielsweise nicht zu sehen.

Artikel im Blog lesen

 

[wolli_d]

Google betreibt ähnlichen Unfug. Es kommen genaue Treffer mit dem Bild der jeweiligen Ware, und auf der dann gezeigten Seite selber steht unpassender Müll.

Bin nur froh, meine Computerservice Zeiten wo engagierte Blogger oder Foren mir bei Problemen auf die Sprünge halfen, sind vorbei. Genau wie sinnvolle Suchergebnisse, die seit der Google Präferierung von mobilem Scheiss (Oldies but Goldies werden aus dem Index geschmissen, bei http: gängelt der Browser) schon lange wenig brauchbar sind. Aber Contentfabriken mit ihren Generatoren (modisch: KI), kommen immer mehr.

*Was* im Web kann ein Nicht-Fachmann künftig glauben?

 

[skalar]

Vielleicht war das ein aus den Kunstwerken intepretiertrs Zitat...

 

[JCR]

Es war lediglich wahrscheinlich, dass sich diese Wörter aneinandergereiht zusammenpassen. Ein Sinn oder gar ein Fakt muss hiermit nicht verbunden sein.

 

[Webwatcher]

Auf den ganz konkreten – und korrekten – Einwand, dass diese Informationen nicht von der Webseite stammen und außerdem nicht korrekt seien, reagierte der Bing-Bot “beleidigt” und beendete die Konversation

Das wäre ja schon fast menschlich

Die Erklärung, dass diese Technologie nicht ausgereift ist, mag ich in diesem Fall nicht gelten lassen. Die künstliche Intelligenz entwickelt hier ganz eindeutig ein Eigenleben, das sie nicht haben sollte.

Hier geht es "nur" um etwas blühende Phantasie aber mir graust davor, dass solch unausgereiften virtuellen Maschinen u.U. fatale und weitreichende Fehlentscheidungen treffen.. Der Kinderglaube an die Unfehlbarkeit von KI wird noch einige böse Überraschungen hinnehmen müssen.
Die Frage nach der Verantwortlichkeit wird entweder gar nicht gestellt oder Blindekuh gespielt.

 

[MichaelLeipzig]

James Cameron hat schon 1984 vor KI gewarnt.

 

[Webwatcher]

Apropos Kinderglaube

75 % der deutschen Unternehmen vertrauen ChatGPT

Interessantes Ergebnis einer Umfrage: Während in Unternehmen Skepsis gegenüber Plattformen wie TikTok, WhatsApp und sogar dem Metaverse in Punkto Sicherheit hegen, sieht dies bei ChatGPT anders aus.

www.borncity.com

Womit begründet sich eigentlich dieser Vertrauensvorschuss?
Echte belastbare Erfahrungen gibt es bisher nicht.

 

[Gelöschtes Mitglied 116490]

Hier geht es "nur" um etwas blühende Phantasie aber mir graust davor, dass solch unausgereiften virtuellen Maschinen u.U. fatale und weitreichende Fehlentscheidungen treffen.. Der Kinderglaube an die Unfehlbarkeit von KI wird noch einige böse Überraschungen hinnehmen müssen.

Sorry, dieser Kinderglaube wird nur von denen verbreitet, die etwas davon haben. Die Gefahr durch künstliche Intelligenz wird schon seit Jahren diskutiert, Gib mal in der Suchmaschine deines Vertrauens "Superintelligenz" und "Büroklammern" ein. Dann hast du Lesestoff bis zum Abwinken.
Empfehlenswert ist auch der Bestseller "Künstliche Intelligenz und der Sinn des Lebens" von Richard Precht.

 

[JCR]

Guber, ja von KI kann eine Gefahr ausgehen. Aber um eine solche KI handelt es sich bei ChatGPT (noch) nicht. Bisher fehlt dem auf Wahrscheinlichkeitsrechnung basierendem Textgenerator das "I".

 

[Tadpole]

Es tut mir leid, aber ich möchte diese Unterhaltung nicht fortsetzen.

Das ist doch bemerkenswert!
(1) Bing ist offenbar weiblich.
(2) Ist das eine vorprogrammierte Abbruchroutine als Exit-Strategie bei Überforderung, oder ist sie da selber drauf gekommen?

Im Übrigen find ich es fast sympathisch, dass Bing ein wenig kreativ daher schwadroniert und damit den bildungsbürgerlichen Krieg der Zitate ad absurdum führt, die kleine Anarchistin.

Im Ernst jetzt, das Beispiel zeigt doch einmal mehr deutlich, wie undifferenziert die Diskussion über "die Künstliche Intelligenz" abläuft.
Chat-GPT & Co. K.G. ist nicht die KI.
Ja, es ist nicht einmal ansatzweise das Sprachrohr einer GAI (general artificial intelligence), vor der sowohl Philosophen als auch Richard David Precht warnen.
Chatbots sind einfach nur Heuristik (Def. "ein analytisches Vorgehen, bei dem mit begrenztem Wissen über ein System mit Hilfe mutmaßender Schlussfolgerungen Aussagen über das System getroffen werden.") mit enormer Rechenleistung, auf höchstem Niveau sozusagen. Fehlschlüsse bei bemerkenswerten Grammatikkenntnissen nebst Wortschatz sind da systemimmanent.

Die wirklich spannenden Entwicklungen finden auf weniger spektakulären Ebenen statt, obwohl sie die im wahrsten Sinne des Wortes weltbewegenden sind: in praktisch allen Gebieten der Naturwissenschaften halten täglich auf mannigfache Weise selbst lernende, selbst optimierende Neuronale Systeme Einzug.
Bei uns in der Medizin ist absehbar, dass mittelfristig kein Stein auf dem anderen bleibt, durchwegs im positiven Sinne. Von Differenzialdiagnostik über Strahlentherapie bis zur Entwicklung neuer Pharmaka dürfte der große Sprung nach vorne bevorstehen.

Deshalb bin ich auch eher optimistisch.
Natürlich verkenne ich die gesellschaftspolitischen Gefahren von fake news nicht.
Aber das schafft Putins Kandidat zur US-Präsidentschaftswahl ganz ohne AI - und sogar ohne NI.
Und bevor der Moloch GAI übernimmt, da können "wir" hoffentlich doch noch ein Wörtchen mitreden.

 

[Gelöschtes Mitglied 116490]

@Tadpole
Ist schon klar, dass es um verschiedene Ebenen geht, aber es geht nicht darum, die von dir angesprochenen neuralen Systeme mit einem patzig antwortendem Chatbot zu vergleichen. Das zukünftige (!) Problem ist das selbe.

Du hast aber recht, dass die Diskussion völlig undifferenziert abläuft. Genau darum geht es mir. Die Aussage

Die Frage nach der Verantwortlichkeit wird entweder gar nicht gestellt oder Blindekuh gespielt.

ist in dieser Allgemeinheit unrichtig. Darüber wird schon seit Jahren kontrovers diskutiert, ganz egal ob es im konkreten Einzelfall um die von dir angesprochene Medizin oder andere Anwendungsbereiche geht.

Es ist allenfalls zu konzedieren, dass die Problematik von Vielen noch nicht gesehen wird. Ich wage mal den schrägen Vergleich mit der Klimakatastrophe: Da haben die Wissenschaftler auch schon seit Jahren, wenn nicht Jahrzehnten, gewarnt und in kollektiver Prokrastination wurde die Problemlösung aufgeschoben oder das Problem einfach geleugnet. Gleiches befürchte ich bei der weiteren Entwicklung der KI, dass trotz aller Warnungen einfach gemacht wird oder, sorry, unter Ausblendung des Gesamtproblems auf die zu erwartenden Vorteile für die Medizin verwiesen wird.

Du bist hinsichtlich der weiteren Entwicklung optimistisch. Das ist spekulativ. Ich bin skeptisch. Das ist auch spekulativ, aber wir Menschen neigen nunmal dazu, bei schleichenden Gefahren nicht frühzeitig genug und damit richtig zu reagieren.

Es ist also mal wieder komplizierter als es der oben zitierte Satz vermuten lässt.

 

[Webwatcher]

Die Diskutanten sind in aller Regel keine Entscheidungsträger und es klaffen große Lücken zwischen dem was theoretisch diskutiert wird und was in operativer Hektik (und naivem Kinderglauben) von den Machern beschlossen wird.

 

[tippex]

Diese falschen und phantasierten Antworten sind mir von Anfang an aufgefallen.
Diese Dinger sind auch völlig resistent gegen korrekte Informationen. Beim nächsten Mal erzählen sie den gleichen Schrott.
Meine anfängliche Begeisterung hat sich schnell gelegt.
Wer sich auf heute blind auf KIs verlässt ist selber schuld.

 

[Robin87]

Freut sich den niemand das es nicht so "Ausartet" wie Tay link ? Die Fragen die wir uns als Gesellschaft in Zukunft stellen müssen: Dürfen wir "Automaten" versklaven, obwohl Sie wissen das Sie nur "Automaten" sind?

Haben Künstliche Intelligenzen Rechte? Ab wann ist eine KI mehr als Ihr Quellcode? ... Das erinnert mich gerade an Star Trek TNG: Data in dieser Figur wurde dieses Thema mal Öffentlich (Film und Serie) verhandelt.

Falsche Quellenangabe und oder Zitate, auf Bing wartet eine Große kariere im Deutschen Politikapparat ....

 

[tippex]

Zum Glück sind wir von echter Intelligenz noch weit entfernt. Die Gefahr besteht eher darin, dass bei der ganzen Hype um KI diesen fehlerhaften Programmen vertraut wird.

 

[Tadpole]

Ich wage mal den schrägen Vergleich mit der Klimakatastrophe...
Gleiches befürchte ich bei der weiteren Entwicklung der KI, dass trotz aller Warnungen einfach gemacht wird oder, sorry, unter Ausblendung des Gesamtproblems auf die zu erwartenden Vorteile für die Medizin verwiesen wird.

Das Schlüsselwort Deines Statements ist "Gesamtproblem".

Mit dem Bewusstsein der Klimakrise lebe ich unterschwellig seit einem halben Jahrhundert, also den Großteil meines Lebens. 1973 hatte uns unser Biologielehrer im Gymnasium den Bericht des Club of Rome (The Limits of Growth) aufgedröselt, der im Jahr zuvor für Aufsehen gesorgt hatte. Mich wundert vielmehr, dass dies bei vielen erst jetzt ankommt - bei manchen ja scheinbar auch gar nicht.
Eine drohende Klimakatastrophe ist/wäre ein irreversibles Gesamtproblem, ubiquitär auf diesem Planeten, und fatal wenigstens für die meisten Säugetiere wie uns.

Gilt das auch für AI? Ich weiß es nicht, aber ich sehe es irgendwie auch nicht.
Haben wir den Zauberlehrling schon gerufen, sobald wir nicht mehr en détail verstehen, wie er funktioniert?
Selbst wenn sich alle Anwendungsbereiche selbsttätig vernetzten, müsste man der Technologie per se ja buchstäblich Willen zur Macht unterstellen, um sie mit Recht fürchten zu dürfen.
Schleichend sehe oder sähe ich eine solche Gefahr z.B. im Versicherungsmarkt, Sozialsystem, usw...
Gut, wenn es da so was wie staatliche/parlamentarische Kontrolle gibt. Spätestens seit Corona sollte ja klar sein, dass es Bereiche gibt, deren Zweck nicht die Profitmaximierung sein kann.

Der Knackpunkt ist wohl, dass man AI nicht Entscheidungshoheit einräumt, sondern sie als Werkzeug einsetzt, was gefährlich genug sein kann, wenn man bedenkt, dass auch schon mit einem Hammer Serienmorde verübt wurden.
Allerdings ist das kein Problem der Technologie, sondern eins der Politik.

Für mich liegt die größte Gefahr von AI darin, dass sie sich in den Händen weniger Egomanen befindet, die damit Geld verdienen wollen. Karl Marx müsste heute dem ersten Band des Kapitals ein Kapitel anfügen.

Du bist hinsichtlich der weiteren Entwicklung optimistisch. Das ist spekulativ. Ich bin skeptisch. Das ist auch spekulativ, aber wir Menschen neigen nunmal dazu, bei schleichenden Gefahren nicht frühzeitig genug und damit richtig zu reagieren.

... und trotzdem ist es seit der Steinzeit alles in allem eher gemütlicher geworden, wenigstens in unseren Breiten.

 

[Black-Elk]

Die Frage die sich im postfaktischen Zeitalter stellt: Ist das nicht egal? Ist das in den Mund gelegte Zitat nicht viel schöner als die originale Absicht? Werden nicht viel bessere Emotionen geweckt?

Seit wann interessiert sich aktuell denn überhaupt noch jemand für die Wahrheit? Wenn die KI von uns Menschen lernt, bleibt leider kein anderer Schluss übrig, als dass sie sich uns in unserem individuellem Wahrheitsverständnis angleicht...

 

[Bonnyblank]

Seit wann interessiert sich aktuell denn überhaupt noch jemand für die Wahrheit? Wenn die KI von uns Menschen lernt, bleibt leider kein anderer Schluss übrig, als dass sie sich uns in unserem individuellem Wahrheitsverständnis angleicht...

... und auch den Rest menschlicher "Abgründe" übernimmt. Dann gehören Lügen, Betrug und der Rest menschlicher Boshaftigkeiten auch dazu. KI mag aus der Sicht von Technikanbetern intelligent sein, aber ein Gewissen wird ihr immer fehlen. Und so bleibt sie nur der verlängerte Arm von irgendwelchen Spinnern bei Google, Microsoft oder anderen megasupergierigen, möchtegern Weltbeherrschern.

 

[Webwatcher]

... und auch den Rest menschlicher "Abgründe" übernimmt.

Da sie von Menschen ge/erschaffen ist, wäre es ein Wunder wenn es anders wäre
1. Mose 8,21

 

[Robin87]

... und auch den Rest menschlicher "Abgründe" übernimmt. Dann gehören Lügen, Betrug und der Rest menschlicher Boshaftigkeiten auch dazu. KI mag aus der Sicht von Technikanbetern intelligent sein, aber ein Gewissen wird ihr immer fehlen. Und so bleibt sie nur der verlängerte Arm von irgendwelchen Spinnern bei Google, Microsoft oder anderen megasupergierigen, möchtegern Weltbeherrschern.

Ja stimmt das kann und wird stellenweise bestimmt passieren, da KI eine von Menschen geschaffenes "Wesen" sein wird bzw. schon ist.

Setzt euch einfach einmal damit auseinander und versteht KI z.B. ChatGPT als "Werkzeug". Pauschale Ablehnung ist meiner Meinung nach nicht die Antwort auf das "Problem"

Ihr wollt die Umwelt Retten? Dann fahrt mehr Fahrrad und Bahn und trennt euren Müll richtig bzw. vermeidet ihn.

Ihr wollt wissen, was KI für euch bedeuten kann? Interagiert mit ihr.

Wir können nicht erwarten das die Großen Herausforderung unserer Zeit von "oben" gelöst werden ... sei es nun Politik oder Religion ...

Und Alle Ideen dieser Welt sind wertlos, wenn es niemand umsetzt.

Aus einem "Bald" sollte schnell ein "Jetzt" werden, bevor daraus ein "Nie" wird.