Foto oder KI-Fake? Kannst du es unterscheiden?

Foto oder KI-Fake? Kannst du es unterscheiden?

Mit moderner KI sind Dinge möglich, die noch bis vor Kurzem unvorstellbar waren, dieser Satz passt universell auf jede Sparte der Datenverarbeitung. Es gibt auch so gut wie keinen Lebensbereich, der sich durch KI nicht verändern wird – teils mehr, teils weniger radikal.

Für Bilder und Videos, die wir im Internet sehen, gilt im Grunde schon jetzt ein einfacher Grundsatz: So lange die Echtheit nicht verifiziert wurde, ist von einer Fälschung auszugehen.

Vielleicht ist der eine oder andere Leser bereits über die Webseite https://thispersondoesnotexist.com/ gestolpert. Diese zeigt bei jedem Aufruf bzw. Reload ein Gesicht an, welches es garantiert nicht gibt. Aus einer Datenbank von Millionen Fotos generiert eine KI neue „Menschen“. In manchen Fällen fällt das auf den ersten Blick auf (vielleicht aber auch nur deshalb, weil man sicher weiß, dass es sich um Fake-Bilder handelt), in der Mehrzahl der Fälle aber sind die Ergebnisse geradezu erschreckend gut.

Mitarbeiter der Universität Washington haben daraus nun ein Spiel mit dem Titel „Which face is real?“ gemacht. Sie zeigen auf einer Webseite eines der künstlich erzeugten Bilder und daneben ein garantiert echtes Foto eines Menschen. Auf dem Artikelbild könnt ihr gleich anfangen zu üben: Welches Bild ist echt, das linke oder das rechte? Ich habe bewusst ein leichtes Beispiel gewählt.

Ich habe mich mal durchgeklickt und war überrascht, dass ich in 90 Prozent der Fälle richtig lag. Und das sogar, obwohl sich nicht alle Fake-Bilder beim genauen Hinsehen durch technische Fehler zu erkennen geben. Einige Male habe ich die Bilder einfach nur angestarrt und hatte irgendwann ein Gefühl, von welchem mich ein echter Mensch anschaut.

Das hat mir dann wieder ein wenig Hoffnung gemacht, bis mir bewusst wurde, dass diese Technologie erst am Anfang steht. Schon in wenigen Jahren wird es unmöglich sein, den Unterschied zu erkennen. In einem zweiten Durchlauf habe ich mich dann außerdem noch gezwungen, binnen drei Sekunden eine Entscheidung zu treffen – und schon war es purer Zufall, ob ich richtig lag oder nicht.

Ich hatte das Thema schon einmal in einem Kommentar mit dem Titel KI-Marketing: Lasst bitte die Ethik aus dem Spiel aufgegriffen, in dem ich mich wohl etwas unglücklich ausgedrückt hatte. Einige Leser glaubten, ich wolle damit ethische und moralische Bedenken beiseite wischen, es war aber eher resignierend gemeint. Der Zug ist bereits abgefahren.

Wenn Microsoft über KI und Ethik spricht, dann fällt oft die Formulierung „wir sollten nicht diskutieren, was ein Computer tun kann, sondern darüber, was er tun sollte“. Aber wer zieht wo die Grenze? Wenn man mich fragt, ist sie bei dem hier beschriebenen Thema schon überschritten. So etwas sollte es nicht geben, ich wüsste keinen sinnstiftenden Grund.

Über den Autor
Martin Geuß
  • Martin Geuß auf Facebook
  • Martin Geuß auf Twitter
Ich bin Martin Geuß, und wie unschwer zu erkennen ist, fühle ich mich in der Windows-Welt zu Hause. Seit mehr als elf Jahren lasse ich die Welt an dem teilhaben, was mir zu Windows und anderen Microsoft-Produkten durch den Kopf geht, und manchmal ist das sogar interessant. Das wichtigste Motto meiner Arbeit lautet: Von mir - für Euch!

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.



Kommentare
  1. Dann braucht es bald keine Fotomodells und Stockbilder von Personen mehr. In fünf bis maximal zehn Jahren gebe ich dann die gewünschten Parameter ein und bin sehr schnell mit der Werbung fertig. Das spart enorm viel Geld.
    Gibts dann auch als Abomodell für größere Unternehmen.
    Das Thema macht mir angst!
    Es gibt irgendwo eine Webseite, wo ein Video Interview komplett geändert wurde. Also der Inhalt.
    Die Manipulation der Bürger/Meinung ist so Tür und Tor geöffnet.
    Man kann eigentlich niemanden und keinen Bericht mehr glauben schenken, weil man Bildmaterial komplett in ihrer aussage verändern kann.
    Ich sehe mit einen Graus in die Zukunft...
    Erkennst die Fakes auch recht gut wenn keine Rechenfehler drin sind. So beschissene Background und Fokuspoints schafft ein Mensch nämlich nicht
    @Leope die KI hat gelernt Gesicht(steile) zu erkennen und zu kombinieren. Sie hat aber nicht gelernt die Teila außerhalb zu verstehen... Daran kann man die meisten Bilder erkennen
    Die KI Funktion ist immer nur so gut wie der Programmierer und die Datenbasis. Aber auch ich denke das es keine gute Entwicklung ist. Es wird schlichtweg keine Medien mehr geben, denen die Medienmacher noch die Zuschauer noch irgendwas glauben können. Man sieht jetzt schon was künstliche Profile in den Netzwerken in großer Masse anrichten. Wenn es kein Vertrauen mehr in irgendwas gibt, zerstört das unsere Grundordnung.
    Das Spiel ist nett. Aber meistens sind es die weniger perfekten Fotos. Spiegelnde Brille, Augen halb zu, schlechte Beleuchtung. Von den eigentlichen Gesichetern her ust es schwer sie zu unterscheiden.
    @Sonnenschein Du meinst sicher DeepFake, da kann man auf Youtube nach suchen. Das bekannteste Video war sicherlich das mit Obama. Beziehungsweise ohne muss man da wohl sagen :D
    Sind aber auch ganz witzige Sachen dabei. Terminator mit dem Gesicht von Sylvester Stallone.
    Manchmal verrät es der Hintergrund oder Körperteile, die nicht zum Gesicht gehören und irgendwie deformiert werden (hatte gerade ein Foto wo sich eine Frau ihren Kopf auf ihrer Hand aufstützt).
    Im Vergleich fällt aber auch auf, dass den künstlichen Gesichtern oft besondere Details bzw Außergewöhnliches fehlt. Sachen wie Zahnlücken oder auch weniger ästhetische Merkmale sind in den KI Fotos so gut wie nie drin.
    Würde man nur ein Foto zeigen mit der Frage "Ist das echt?" sähe die Quote glaube ich ganz anders aus.
    @Sonnenschein:
    Hab ich auch von gehört. Unter anderem wurden angeblich dort Fotos und Interviews mit Obama komplett geändert. Total gruselig.
    Muss man anders sehen, in Bezug auf Werbung.
    Wenn ich am Schaufenster vorbei gehe, geht es mir um die Kleidung und nicht um die Puppe.
    Wenn ich in Zukunft also ein Foto sehe, kann es mir auch egal sein. Ausnahme, und hier wird es problematisch, wenn dein eigener Kopf auf etwas montiert wird
    Durchaus verblüffende Ergebnisse. Bei einigen Fotos fällt es sofort auf, aber da sind durchaus eine Menge dabei, die ich ohne jeden Zweifel als echt klassifizieren würde. In ein bis zwei Jahren dürften die Ergebnisse nahezu allesamt perfekt sein. Die Werbebranche dürfte sich in der Tat die Hände reiben - Fakeprofile dürften leider auch zunehmen...
    Hatte bei ca. 30 Bildern 100%. Meist sieht man es recht schnell an den Haaren oder an einem etwas künstlich wirkenden filter. Wenn man die Gesichter jetzt aber kleiner machen würde und sie z.B. in ein Familienfoto setzen würde wäre es sicherlich schwer noch zu erkennen was echt ist.
    Hallo.
    "So etwas sollte es nicht geben, ich wüsste keinen sinnstiftenden Grund". Hm, wie wäre es mit Bildern für Pädophile? Wie bitte, was schreibt der da? Ja, anstatt die Kinder wirklich zu quälen. Ich hoffe ihr wisst was ich meine. Da gab es doch auch den einen Japaner/Chinesen der S**Dolls für solche Menschen auf den Markt gebracht hat.
    Andi11449

    Hm, wie wäre es mit Bildern für Pädophile? Wie bitte, was schreibt der da? Ja, anstatt die Kinder wirklich zu quälen. Ich hoffe ihr wisst was ich meine.

    Schwieriges Thema. Letzten Endes benötigt die KI ja "passendes Rohmaterial" um für genannte Zielgruppe künstliche "Lustobjekte" zu erschaffen. Damit wäre nichts für die Kinder gewonnen. Die auf der Webseite gezeigten künstlichen Portraits sind ja auch aus realen Portraits "zusammengemixt". Aber ich verstehe durchaus deinen Ansatz.
    Das "Zusammenmischen" und das Trainieren mit echten Gesichtern ist ja nur der Anfang, hierbei handelt es sich ja noch um "schwache KI". Also Eine, die nur das weiß, was man ihr explizit beigebracht hat. Die echte KI wird jene sein, die selbständig lernen kann. Der wirst du dann sagen können "Erzeuge mir das Foto eines Menschen". Wenn sie nicht weiß, was ein Mensch ist, geht sie das lernen, und dann fängt sie an. Das ist dann der richtig spannende Teil, weil es dann auch keinen Code-Abschnitte mehr gibt, die man deaktivieren kann. Es ist daher völliger Irrsinn, wenn jemand behauptet, man könne das innerhalb irgendwelcher ethischer Grenzen begrenzen.
    Ich denke, das führt irgendwann dazu, dass keine lebendigen Filmschauspieler mehr gebraucht werden. Der Held/die Heldin/das Held..? werden nach der aktuellen "Mode" entwickelt. In Videospielen kann man die Entwicklung schon sehen. Eventuelle Preise werden von den Produzenten entgegen genommen.
Nach oben