Sehen heißt nicht mehr glauben:
KI und das Ende der Gewissheit
Themen: Film, TV & Presse, Künstliche Intelligenz |
Ich habe im Rahmen meiner Recherchen zum Thema KI immer wieder Videos vorgestellt, die komplett von einem Algo ausgespuckt wurden. Meist waren das kurze Clips, proofs of concept, mäßige Annäherungen an echte Videos, eigentlich immer versehen mit dem Caveat "ja, das ist noch lange nicht perfekt, aber das wird sehr schnell sehr viel besser".
20204 hatte ich mir den Spaß gemacht, als Vorbereitung auf das Fantasy Filmfest einen Fake-Vorspann für Star Trek zu basteln. Selbst mit den sehr beschränkten Mitteln war das eine Sache von Minuten – Stock-Footage und Library Music inklusive. Hier ist der letzte Überrest, den ich auf meiner Festplatte finden konnte:
Bestenfalls Amateurniveau, ich weiß. Aber ich bin ja auch ein Amateur. Deutlich professionellere KI-Künstler überschwemmen YouTube seit ein, zwei Jahren mit Fake-Trailern, die echten Blockbustern immer ähnlicher sehen und Millionen von Aufrufe generieren, weil sie scheinbar einen "first look" bieten.
Wenn die Fake-Trailer dabei komplett auf CGI setzen und komplett neue Ideen in die Welt setzen, ist das manchmal amüsant schräg und krude:
Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren
Wenn aber teilweise mit echten Clips gearbeitet wird, um Blockbuster zu simulieren, die es geben könnte und vielleicht einmal geben wird, zeigt sich schnell, dass hier Grenzen nicht nur in Sachen Copyright überschritten werden:
Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren
FOREST GUMP 2? GREMLINS 3? BACK TO THE FUTURE 4? Alles da.
Kurioserweise haben die großen Hollywood-Studios das nicht nur lange durchgehen lassen – sie haben verlangt, daran sogar noch zu verdienen. Es verdichten sich allerdings die Anzeichen, dass damit langsam Schluss ist.
Natürlich kann ein KI-Fake mitunter auch sehr lustig sein:
Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren
Manchmal dient KI auch einfach dazu, pubertäre Träume unsere Jugend zu verwirklichen:
Nun ist es eine Sache, wenn man einen Trailer faked. Eine andere ist es, wenn man Nachrichten faked, was gerade in Kriegszeiten zum Standard-Werkzeug der Propaganda gehört. Gestern kam die Meldung, die US-Regierung würde Videos veröffentlichen, die den Selbstmord von Jeffrey Epstein endlich belegen. Das Problem? Angesichts der Möglichkeiten von KI wird selbst DAS nicht mehr reichen, um die Skepsis der Verschwörungstheoretiker zu neutralisieren.
Wenn alles ein Fake sein kann, hält man instinktiv alles für einen Fake.
Neue Modelle wie Veo3 von Google sind schon längst an einem Punkt, an dem auch das geschulte Auge ohne Recherche kaum noch ein Urteil fällen kann:
Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren
Es gibt natürlich auch schon Tutorials, wie man mit diesen Möglichkeiten eigenes KI-Kino herstellen kann:
Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren
Das kann man alles sehr launig und immer noch überschaubar finden, aber ich habe ein Video entdeckt, das mich wirklich beunruhigt:
Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren
Hier geht es nicht mehr um die Frage, ob man es als KI erkennt. Die Figuren selbst geben sich als KI zu erkennen. Aber die Simulation ist so perfekt, dass es dem Video gelingt, Empathie für die Charaktere zu erzeugen. Es schleichen sich Momente ein, da tun sie einem leid. Es ist eine Form emotionaler Erpressung, die auf diesem Level in der digitalen Sphäre noch nicht zu sehen war.
Wer nun meint, jeder Hollywood-Film funktioniere nach genau diesem Prinzip, der verkennt, dass KI-Videos punktuell und sogar interaktiv eingesetzt werden können. Ihre Wirkung kann auf den einzelnen User zugeschnitten werden, kann ihn emotional bis zur Abhängigkeit ködern.
Ki-Charaktere können betteln, flehen – und natürlich auch fordern, verlangen, und nötigen. In dem Augenblick, in dem sie emotional an uns andocken, sind wir ihnen bis zu einem gewissen Grad ausgeliefert. Es wäre heute schon ein Leichtes, per KI ein kleines weinendes Mädchen zu programmieren, das den User anfleht, sein Programm nicht abzuschalten, damit es nicht "im Dunkeln schlafen" muss. Selbst wenn wir wissen, dass es Fake ist, funktioniert die emotionale Schraube.
Die KI muss nicht wahr sein, um wie die Wahrheit zu funktionieren.
Ein noch hässlicheres Szenario: russische Propaganda flutet das Netz mit KI-Videos, in denen kleine Hunde erschossen und Kätzchen erwürgt werden – mit der Nachricht, dass man damit aufhören werde, wenn die Unterstützung für die Ukraine ein Ende findet. Eine total absurde Vorstellung, aber es würde genug Menschen geben, denen der verursachte Herzschmerz die Meinung kippen lässt.
KI-Videos werden eine Gefahr nicht deshalb, weil sie immer glaubwürdiger werden – sondern immer manipulativer. KI-Videos können die Emotionen auf 11 drehen, wie es echten Videos versagt ist. Sie präsentieren eine Super-, bzw. Hyperrealität, auf die wir hyperemotional reagieren werden.
Das Ende? Eine Welt, die immer weniger von der Ratio, aber immer mehr vom Affekt gesteuert wird. Für einen Kopfmenschen wie mich ist DAS der Horror…
Kommen wir nun zu einem Bereich, in dem die KI schon weiter ist, die Gefahr aber deutlich weniger wahrgenommen wird. Musik, zwo, drei, vier!
Ich hatte schon länger vermutet, dass solche Sender und Playlists sich ihre Songs komplett von KI zusammen klimpern lassen:
Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren
Das ist sehr generisch und hat kaum Ähnlichkeit mit "echter" Musik. Muss es auch nicht haben, denn es ist spezifisch als Geplätscher für den Hintergrund gedacht, als non-intrusives Geplänkel wie die Fahrstuhlmusik.
Kein Wunder, dass KI genau diese Sorte Musik besonders gut simulieren kann:
Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren
Wie bei den Videos hat es auch bei der Musik deutlich Weiterentwicklungen in den letzten Monaten gegeben. KI-Sites ermöglichen längere Stücke mit präziseren Vorgaben in Sachen Text, Komposition und Orchestrierung. Die Ergebnisse sind manchmal nur noch über Recherche oder Kontext als KI zu identifizieren.
Wieder – das KANN sehr lustig sein:
Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren
Problematisch wird es erst, wenn man auf Musik stößt, die kaum noch von einem zeitgenössischen Original zu unterscheiden ist und in Sozialen Netzwerken oft genug als "echt" geteilt wird:
Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren
Das Problem ist hier weniger die Gefahr, eine falsche Realität zu erzeugen, sondern die Realität der Musikproduktion ad absurdum zu führen. Abgesehen von dem Wunsch nach spezifischen Songs und spezifischen Künstlern kann ich meine Begeisterung für afro-kubanische Musik auch mit diesem Album ausleben:
Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren
Das Album Fake, das Cover Fake, die Musiker Fake, die Songs Fake. Aber gut.
Und so nimmt auch hier die Verwirrung zu – ich war ziemlich sicher, dass "Japanese City Pop of the 80s" kein echtes Genre und diese Playlist definitiv KI ist:
Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren
Es stellt sich heraus: City Pop gibt es wirklich. Das bringt mich allerdings der Frage, ob diese Songs es auch sind, nicht näher…
Und ganz frisch heute morgen rauscht dieses Musikvideo in meinen Feed – eine Collab von Bruno Mars & Adele. Sehr schöne Ballade:
Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren
Das Video ist geschnippselt, das ist klar. Und die Tatsache, dass der YouTube-Kanal auch Duette von Adele mit Sting und Justin Bieber präsentiert, entlarvt endgültig die KI. Aber die KI entlarvt sich nicht mehr selber. Hätte ich diesen Song im Radio gehört, hätte ich durchaus geglaubt, es mit einem Original zu tun zu haben.
Und so macht auch die KI-Musik paranoid, weil Dinge vielleicht echt sind, wir aber die Authentizität nur noch mit einer Mühe verifizieren können, die sich viele Menschen nicht machen wollen. Auch hier ein Beispiel.
Tanita Tikaram war Ende der 80er für eine Saison die nächste große Hoffnung des Mädchen-Pops, so eine Art Black in weiblich, mit einer dunklen Stimme, die schlauere Leute als mich schon aufmerksam werden ließ. Aus der Karriere wurde dann nichts und Tanita hat irgendwann auch keinen Hehl mehr draus gemacht, dass sie lesbisch ist (was Ende der 80er ein deutlich größeres no-go war als schwul). Lange Jahre war es still um sie.
Nun ist plötzlich ein neuer Song erschienen, mit einem minimalistischen Video ohne direkte Beteiligung der Künstlerin und einer seltsam jammerigen Stimme:
Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren
Ich würde mir wünschen es wäre KI – aber es ist echt. Sagt zumindest Tikaram.
Auch der neue Song des legendären 80er Synthie-Duos OMD könnte ein Profi an einem Nachmittag komplett über das Netz generiert haben – samt Video:
Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren
Das wirft auch wieder unendlich viele Fragen auf: Ist es nicht egal, ob der Song echt ist, solange er mir gefällt? Wenn er nicht echt ist, wem stehen dann die Tantiemen zu? Kann ein Künstler ein Copyright auf seinen Stil geltend machen? Ist ein neues KI-Album der Rolling Stones womöglich besser als ein neues Album der tatsächlichen Band? Wird Spotify alle Musik, die nicht von zugkräftigen Stars stammt, durch massenhaft generierte "not original, but almost"-Generika in individuell auf den User zugeschnittenen Playlisten ersetzen, um Kosten zu sparen? Wenn es den User nicht stört, hat er es dann nicht genau so verdient?
Zum Abschluss noch ein Blick in die Vergangenheit, weil ja alles irgendwie schon mal da war. In den 60er und 70er Jahren waren Platten teuer und besonders für Compilations musste der Käufer mehr auf den Tresen legen, als das Taschengeld hergab. Findige Plattenfirmen kamen daraufhin auf die Idee, die Top Hits des Monats von Studiomusikern neu einspielen zu lassen, um sie dann auf billigen Sammel-LPs unter die Leute zu bringen, weil man sich damit die Abgaben an die Originalkünstler sparen konnte.
Es entstand eine Subkultur billiger Chart-Generika, die man schließlich aus den offiziellen Zählungen nahm, weil die Compilations sogar die Spitze der LP-Charts belegten. Einen wirklich exzellenten Einblick dazu gibt es hier (man beachte auch den Disclaimer zum Beginn des Videos):
Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren
Ist DAS die Zukunft? Eine Welt, die vage so klingt, wie wir unsere Stars und ihre Hits kennen, aber nichts kostet und sogar von Laien beliebig produziert werden kann, bis jeder musikalische Kontext verloren geht?
Okay, das klingt sehr fatalistisch und ich will euch nicht schlecht gelaunt ins Wochenende schicken – auf einer der britischen "Sound-A-Like-Records" habe ich tatsächlich die junge Ingrid Steeger entdeckt:
Das Wetter ist schön. Geht grillen. Denkt über andere Sachen nach.
Ja aber aber… die Ingrid Steeger Compilation hat doch den „Stereo Gold Award“ erhalten.
Für so einen popeligen Preis lüpft die Steeger nicht mal den Pulli!
Ich weiß nicht, ob du den Kanal kennst oder wie du zu ihm stehst: RLM haben sich kürzlich des Themas angenommen und ich habe es mir gestern angeschaut. Waren ein paar gute Gedanken drin (wie in deinem Artikel auch). Als videotechnisch aufbereitete Ergänzung vielleicht für ein paar Leser interessant: https://www.youtube.com/watch?v=Tm8RG1leX8c&ab_channel=RedLetterMedia
Ich frage mich derzeit zunehmend: Zerstören wir da nicht die Kultur? Also nicht bloß Teile davon, nicht bloß verdrängen, nicht nur die Möglichkeit davon leben zu können, sondern den absoluten unumstößlichen Kern von Kultur: das verbindende Element?
Habe mir schon vor langer Zeit ausgemalt, was wir nun fast erreicht haben: Dass ich dem Fernseher einfach sagen kann "eine neue Staffel der Star-Trek-Klassikserie bitte!" und zack – bestellt, geliefert. Nur dass ich den damaligen Traum mittlerweile als Alptraum betrachte. Was soll ich damit? Konsumieren, vergessen, konsumieren, vergessen. Zeittotschlagen. Kein gemeinsames Erlebnis mehr, denn jeder guckt seinen eigenen customisierten Quark (Streaming hat uns auf diesem Weg eh schon weit gebracht). Keine Verbundenheit, keine Anerkennung für die Schöpfer mehr, die Vorstellungskraft der Autoren, die Umsetzung durch die Schauspieler. Es kommt ja eh aus der gleichen allmächtigen Maschine. Du hast eine tolle neue Staffel Akte X? Cool, aber ich hab schon drei. Du hast ein neues Beatles-Album? Nett, aber ich hab fünfzehn. Ich sehe nicht mehr den Wert darin. Ich habe letztes Jahr viel mit Suno und Konsorten gespielt, begeistert Songlisten erstellt. Heute hat das null Reiz mehr für mich, alles seelenlos und einsam.
Wenn ich mir die Roadshows von Google angucke und deren Tech-Roadmap, dann habe ich keine Zweifel, dass da am Ende das komplette, individualisierte "Kultur-Erlebnis" stehen wird. Deine Filme, deine Musik, deine Serien, deine Bücher, deine Podcasts – genau das, was du gerade willst! Steuern wir darauf hin? Wird es eine Gegenbewegung geben? Realkultur? Und wird das nicht auch bloß eine Masche sein, mit KI doch noch Geld zu machen?
Und damit Gute Nacht!
Geh ich mit Dir. Vielleicht ist Symbiose doch die Antwort. Denn von einer KI / AI möchte ich nicht bestimmt werden.
Im Bereich der Synchronsprecher ist da schon länger ein "Krieg" am Laufen und seit über einem Jahr gibt es in den USA schon einen Streik. Beim Gamespodcast und bei OK COOL gibt es zu dem Thema jeweils Podcasts zu dem Thema, in beiden Fällen mit einem Interview mit Lynne Glaner, die beide – so finde ich – durchaus hörenswert auf für Leute sind, die nicht so im Computerspielbereich "unterwegs" sind:
https://www.gamespodcast.de/2025/05/04/runde-528-ea-activision-und-co-werden-bestreikt-ft-lynne-glaner/
https://okcool.space/wie-eine-synchronsprecherin-die-ki-revolution-erlebt-ok-cool-trifft-lynne-glaner/
https://okcool.space/game-over-mensch-vier-schlaglichter-auf-ki-und-die-spielebranche/
Als OMD Fan der ersten Stunde muss ich sagen, Danke für das Video!
Generell ist das auf YouTube eine echte PLAGE geworden!
Die Pattform wird nicht nur regelrecht "überschwemmt" von diesem KI-Fake-MüII, sondern es wird vor wirklich jedes Video irgend ein reißerisches Thumbnail-Bild geklebt.
Mit dem Inhalt der Videos haben diese Vorschaubildchen meist gar nix zu tun.
Klicks, klicks, klicks,… Werbeeinnahmen über alles!
YouTube ist inzwischen eine einzige, riesige Werbe-Bombe geworden!
Ohne AdBlocker wird man regelrecht zugemüllt. Aber gerade die versucht YouTube mit allen nur erdenklichen Mitteln zu blockieren!
Da wird auch gerne mal der Datenfluss heimlich gedrosselt, wenn der YT-Algorithmus den "Verdacht" hat, dass der Zuschauer einen Werbeblocker installiert hat.
So einfach kann man es sich machen – sollte man aber nicht. Google hat ein legitimes Interesse, mit YT Geld zu verdienen. Adblocker verhindern das. Für die KI-Videos kann Google nichts, die werden ja von den Usern hochgeladen – und niemand muss sie anschauen. Recht gebe ich dir bei den Vorschaubildern – diese KI-Pest finde ich komplett unnötig.