Deepfake Selbstexperiment: Wie easy kann ich Fake News mit KI erstellen?
ฝัง
- เผยแพร่เมื่อ 31 พ.ค. 2024
- Mit KI ganz ohne Skills Fake News erstellen? Im Netz findet man regelmäßig täuschend echte, durch KI generierte Deepfakes von Nachrichtensprecher:innen, die von echten Aufnahmen häufig kaum zu unterscheiden sind. Ihre Seriosität wird missbraucht, um Fake News besser zu verbreiten. Doch wie einfach ist es, solche Deepfakes mit KI zu generieren? Reporter Sebastian Meinberg macht den Selbstversuch!
Als Laie versucht er den BR24-Nachrichtensprecher Stefan Scheider zu faken und mit Hilfe der KI Beiträge mit dessen Stimme und Bildern zu erstellen. Ob Meini mit seinem Deepfake wirklich Menschen täuschen kann und wie ihr am besten solche Deepfakes erkennen könnt, seht ihr in der neuen PULS Reportage!
#PULSReportage #Reportage #KI #deepfake #fakenews #selbstexperiment
----------
Die wichtigsten Quellen findet ihr hier:
➡ BR24 | 18.04.2024 www.ardmediathek.de/video/br2...
➡ BR24 | 20.04.2024 www.ardmediathek.de/video/br2...
➡ BR24 | 21.04.2024 www.ardmediathek.de/video/br2...
➡ Deutschlandfunk | Tagesschau warnt vor gefälschten Audiodateien, 13.11.2023 www.deutschlandfunk.de/tagess...
➡ RND Redaktionsnetzwerk Deutschland | Gefälschte Audiodateien der „Tagesschau“ im Umlauf,
13.11.2023 gefaelschte-audiodateien-der-tagesschau-im-umlauf-VFVMNXBHUFH5ZGCM64DD73MGMM.html
➡ Sächsische Zeitung | “Montagsdemos” in Dresden: Polizei ermittelt wegen gefälschter Tagesschau-Nachrichten, 27.02.2024 www.saechsische.de/dresden/lo...
➡ Tagesschau, 21.11.2023 www.tagesschau.de/multimedia/...
➡ tagesschau.de| Justiz ermittelt wegen tagesschau-Fakes, 27.02.2024 www.tagesschau.de/inland/just...
➡ NDR Pressestelle | auf Anfrage, 18.04.2024
➡ Deepfakes - eine rechtliche Einordnung durch die Kanzlei SKW Schwarz | November 2023 www.skwschwarz.de/fileadmin/D...
➡ BR24 | 03.04.2024 www.ardmediathek.de/video/br2...
➡ Fraunhofer Institut | Dr. Nicolas Müller, 12.04.2024
➡ Fraunhofer AISEC | “Deepfakes”: Mit KI-Systemen Audio- und Videomanipulationen verlässlich entlarven www.aisec.fraunhofer.de/de/da...
➡ meta | auf Anfrage, 22.04.2024
➡ X | auf Anfrage, 22.04.2024
➡ TikTok | auf Anfrage, 25.04.2024
➡ Instagram | @BR24 br24?hl=de
➡ TikTok | @tagesschau www.tiktok.com/@tagesschau?la...
➡ Instagram | @zdfheute zdfheutere...
➡ BR24 | 24.03.2024
----------
Kapitelübersicht
00:00 Fake News mit KI erstellen: Wie einfach geht das?
01:25 Kann ich meine eigene Stimme mit der KI faken?
03:24 Wie einfach kann ich eine fremde Stimme faken?
05:48 Wie können solche Deepfakes missbraucht werden?
06:58 Wie einfach kann ich Videoaufnahmen faken und ist das strafbar?
10:07 Kann der Experte den Fake erkennen?
12:56 So könnt ihr Fake-Inhalte erkennen!
16:00 Wie gehen Plattformen mit Fakes und KI-generierten Inhalten um?
16:41 Wie täuschend echt ist unser Fake?
18:09 Erkennt ihr den Fake?
----------
Redaktion: Joanna Thurow, Luisa Weinig, Anne Brier, Alexandra Reinsberg, Nadine Posmik
Kamera: Chris Hoffmann, Maximilian Hirschfeld, Tim Hanke-Zilles, Luisa Weinig
Schnitt: Marion Völker
Grafik: Lukas Brenninger, Solvey Handrick, Felix Holderer, Daniel Egger
Channel Management: Iman Hassan
----------
Wir sind Ariane Alter, Sebastian Meinberg, Kevin Ebert und Leah Nlemibe von PULS Reportage. Wir wollen die wichtigsten, spannendsten und verrücktesten Fragen unserer Generation beantworten. Wir sind mutig. Wir sind neugierig. Wir gehen an Grenzen. Und am wichtigsten: Wir reden nicht nur drüber, wir probieren es aus. Für euch!
✚ Folgt uns auf TikTok für noch mehr Infos und Memes: / pulsreportage
✚ Folgt uns auf Instagram für Stories, Umfragen und Quizze: / pulsreportage
► In der Kommentarspalte gelten unsere Community-Regeln: br.de/s/3hdcM5g
----------
PULS Reportage gehört zu PULS, dem jungen Content-Netzwerk des Bayerischen Rundfunks.
Hier findet ihr einen Überblick über alle Formate und Events von PULS: / dein_puls
Würdet ihr einen Fake erkennen? Schreibt es uns in die Kommentare!
Ja, aktuell erkennt man zum Glück an den Bewegungen noch sehr gut, wenn etwas mit einer KI generiert wurde. Es wirkt einfach unnatürlich. (Videos)
Ich denke es dauert nur noch ein paar wenige Jahre, bis die Qualität so gut ist, dass man keine Chance mehr hat Realität von Fake zu unterscheiden.
Was das Thema angeht, hoffe ich, dass unsere Politik Menschen nicht wieder alles komplett verschlafen.
Vermutlich nicht, aber in Zukunft werde ich wohl automatisch auf Hals und Zähne achten 😂
Brand gefährlich. Überhaupt der Zugriff und was die alles mit den Daten machen können wenn man seine Fantasie nutzt dann sollte man darüber nachdenken das Bargeld niemals abzuschaffen wenn alles nur noch online/digital ist was kann da alles passieren. Naja und es gibt hier auch schon die Google Telefone wo misslungene Bilder die Köpfe ausgetauscht werden da wird andauernd Werbung mitgemacht. Und wenn man bedenkt auf wie viel Kanäle man hier gehackt wird und das Bilder und Videos geklaut werden und man sich überhaupt nicht absichern kann da kann ich nur davor warnen Bilder und Videos im öffentlichen Netz reinzustellen
ja, aber mir wäre es vermutlich nicht aufgefalln, wenn es in diesem Video nicht darum gehen würde. Erschreckend ist vor allem, dass diese Entwicklung der nahezu perfekten Täuschung binnen weniger Jahre stattgefunden hat und die Fakes vor nicht langer Zeit noch nicht mal ernstgenommen wurden. Angesichts des ungebrochenen Fortschritts seit vielen Jahrzehnten, kann man sich auch als Laie schnell ausmalen, wie schnell wir hier den Überblick verlieren werden! Aber mein voyeuristisches Interesse an düstren Apokalypsen durch KI ist ebenso ungebrochen
An der stimm Betonung, den Rhythmus der Stimme kann dir KI echt nicht nachmachen
Ich hätte es wahnsinnig cool gefunden, wenn ihr in der Reportage einen Clip von Meini versteckt hättet der KI-generiert ist und erst etwas später aufgelöst hättet, dass es nicht der echte Meini war. Das hätte die Zuschauer der Reportage nochmal direkter angesprochen. Aber ich bin auch echt schockiert davon wie schnell und vor allem einfach Fakes auf so hoher Qualität erzeugt werden können. Da muss man echt ganz schön aufpassen.
Wer weiß ob sie es nicht doch gemacht haben 🤔
ich habe die ganze Zeit darauf geschaut. habe aber nichts gefunden!
Sehr coole Idee! Sowas Ähnliches haben wir in unserer Insta-Story gemacht, aber du hast recht: Dieser Prank käme in diesem Video wirklich unerwartet 😅 Meint ihr, ihr hättet den Fake erkannt?
Das wäre mir bestimmt nicht aufgefallen. Ich sehe die Videos oft neben dem kochen, Haushalt, etc und sehe da nicht genau hin. Und die Stimmen passen ja!
Also in so welchen fake Videos, wie im ersten Clip schau ich direkt immer auf dem Mund. Da erkennt man es am besten, wir bestimmt in der Zukunft immer schwieriger.
Hast du es auch bei dem Fake von Meini erkannt?
@@pulsreportage Ja z.b bei der nah Aufnahme vom Herren haben die Zähne kantenflimmern ^^ aber der Aufnahme die weiter weg ist, ist schon schwierige :D
Das ist alles Temporär.
@@Minoche_Fahd jo wird bestimmt noch schlimmer
Viele Amis nuscheln, da wirds schwer.
Witzig wäre gewesen wenn ihr das komplette Video mit KI generiert hättet 😂
Prank im Prank 😂
witzig?
Der Plot Twist auf den wir alle gewartet haben. 🙈
Faszinierend und erschreckend zugleich, was heute alles möglich ist. Im Grunde können wir uns in Zukunft ja gar nicht mehr sicher sein, ob ein Video fake ist oder nicht.
Ja, wir sind auch überrascht, wie Meini es als Laie geschafft hat, so gute Deepfakes zu erstellen 😨
Schau dir mal den ChatGTP 40 Release an …
In Zukunft?
Vorallem kann jeder sagen: das war ich nicht oder das hab ich nicht gesagt, das ist nur fake.
Da bleibt einem ja fast nur noch das analoge TV wieder... oder aber die Internetseiten direkt anzusteuern, aber wer sagt mir, dass ich nicht umgeleitet werde, wenn mein PC mit irgendwas infiziert ist? Beängstigend!
Die Qualität ist wirklich überraschend gut. Gerade auf Social Media, wo man nur schnell mal drüber scrollt, weiß ich nicht, ob man den Fake immer erkennt...
Ja, das ist wirklich krass. Bist du schon mal so einem Fake begegnet?
Naja, Social Media sollte man als Ergänzung zu Unterhaltungsmedien sehen. Dort ist fast nichts kontrollierbar, bots überall. Darf man nicht Ernst nehmen. Dann stören auch die fakes nicht.
Mir war bewusst, dass es möglich ist Deep Fakes zu produzieren aber das es so leicht ist Zugriff zu diesen Programmen zu erhalten und mit ein paar Stunden solch ein Video entstehen kann ist echt sehr krass.
Ich musste direkt an eine Reportage vom Kanal reporter aus dem Mai 2020 denken. Dort waren die Deepfakes noch relativ leicht zu erkennen und die Erstellung hat viel länger gedauert. Erschreckend und spannend zugleich, was sich in den letzten 4 Jahren da so getan hat...
Finde es sehr gut, dass ihr einen Beitrag dazu macht. Leider ist es quatsch über das Erkennen von Fakes zu sprechen. Fakt ist, dass es in naher Zukunft unmöglich sein wird, fake von real zu erkennen (höchstens am Inhalt). Also der einzige wirklich Tipp: Medienkompetenz, Medienkompetenz, Medienkompetenz.
In Zukunft muss man leider bei jedem Content pauschal davon ausgehen, dass dieser Fake sein kann und man nichts einfach so für wahr halten darf.
Außer KI-Tools zur Erkennung von Tools. Diese werden sich auch in Zukunft mit KI mit entwickeln und somit als einziges noch imstande diese zu erkennen
@@Reeevade Wird es zwischen KI-Erkennungssoftware und KI-Deepfake Software kein Katz- und Maus spiel werden?
Dementsprechend wäre ja die KI Erkennungssoftware genauso hinfällig.
@@Tweedledee__ Da ergibt sich die Frage ob ein KI Tool sich selbst als KI Tool erkennen würde. Erinnert fast an das Entscheidungsproblem.
stimmt - ich kenne nach 40 Jahren im Metier nicht einen/eine der sie hat, nicht einmal bei reinen Sprachnachrichten, an der scheitern auch Linguisten. Wir bauen uns eine Horrorwelt wie in Psychose, keiner weiß mehr was real ist. Was ist denn real, wenn alles Fake isr?
@@Tweedledee__ Wird es auch, ändert aber nichts daran, dass es das einzige effektive Mittel sein wird. Und man sieht es ja bei Virenscannern, dass dieses Katz und Maus Spiel nicht bedeutet, dass die Software nicht effektiv ist.
sendungen müssten zukünftig einen QR code mit ausstrahlen, der auf deren plattformen verweist, wo das selbe video aus deren quelle abrufbar ist. damit können zumindest seriöse nachrichtensendungen und portale sich absichern. leute gehören dann dazu erzogen, dass "news" ohne qr code-verweise grundsätzlich nicht als echt wahrzunehmen sind. bei mp4 containern kann man sowas eventuell auch direkt in die videodatei einbinden, damit player die quelle und echtheit der datei von der newsredaktion abfragen oder den link dorthin von sich aus anzeigen, ähnlich wie bei DRM halt. ist halt aufwendig und würde vermutlich datenschützer auf den plan rufen, wenn man das by default aktiviert...
Guter Ansatz aber einen riesen Haken sehe ich. Wie erzieht du die (faule) Menschheit einen QR Cide zu prüfen? Was hindert mich in mein Fake Video einfach irgendeinen QR Code zu packen oder aber die passende Website gleich mit zu generieren?..
Es wird echt sau schwer und gefährlich in Zukunft. Dass der Experte auch erstmal nach Bauchgefühl und quasi Sinnbewertung der Aussage ging, zeugt es perfekt. Die visuellen Artefakte verschwinden künftig immer mehr. In wenigen Monaten vermute ich.
Das klingt echt nach ner guten idee, die Frage ist nur in wie weit die KI's dass dann in Zukunft umgehen können, bzw bei einem Fest stehenden QR Code werden es auch Menschen umgehen können. Ich fürchte wer Fake News verbreiten will wird sich wege suchen
Ich bin schon auf den ersten komplett KI-generierten Kinofilm gespannt, wo auch die Schauspieler komplett von der KI erfunden wurden.
In meinen Augen ist das die größte Herausforderung des 21. Jahrhundert.
Technisch ja, Naturmäßig wirds der Wassermangel werden
@@MaxMurkel stimmt! Aber die meisten von uns und unseren Nachfahren werden sich vorher schon die Köpfe zerbombt haben.
@@Rubinubi Hoffen wir's. Leider gibt's heute schon Regionen, in denen kein Regen mehr fällt.
Mann o Mann. Wusste gar nicht, dass Meini so viel kriminelle Energie besitzt. 😂
Er ist nicht mehr lange bei Puls. Deshalb hat er nichts mehr zu verlieren.
Der Meini trägt sogar ein Sofa aus einem Möbelhaus, ohne zu bezahlen!
AI oder auch auf deutsch "KI" ist mega interessant. WAS die Technik kann, und wie schnell sie sich entwickelt ist als technik-nerd extrem beeindruckend. Wichtig ist aber, egal ob es nun ein fake-Artikel auf Facebook, oder eine Nachricht über Lautsprecher, das wir lernen mit Fakten umzugehen. Aber leider ist das das schwierigste überhaupt. Sieht man ja bei bestimmten Zielgruppen dieser Fakes.
Ja, da hast du recht, leider fallen trotzdem noch viele Leute darauf rein. Wie schaffst du es, Fakes zu erkennen?
@@pulsreportage naja "erkennen" ist halt das Problem. Entweder man fällt drauf rein, oder nicht. JEDER ist anfällig für Fehlbarkeit. Wer weiß wie viel ich schon geglaubt habe was totaler Schwachsinn ist, weil es meiner Meinung gepasst hat, und ich nicht genug "lust" hatte nachzuforschen.
Aufklärung hilft schon mal sehr. Hat aber auch das Problem das sowas wie Fake-News bald noch mehr Bedeutung haben wird. Der bekannteste Fall der mir einfällt ist als Elon Musk behauptet hat einige Aussagen von Ihm sind Deep-fakes.
AI art z.b. ist so eine Sache die man halt einfach sieht. Und je mehr man sich damit befässt, je mehr erkennt man diese auch, die Tools dafür werden aber auch immer besser. Selbst schon im Zeitalter von digitaler Bildbearbeitung gab es schon Fakes die Viral gegangen sind.
am Ende hilft nur Zeit reinzustecken um zu schauen ob etwas Fake oder nicht ist.
Guter Deepfake ist nur noch ne Frage der zur Verfügung stehenden Rechenleistung. Um dagegen vorzugehen: Keine Podcasts mehr, Videos müssen IMMER mit 3D-Kameras aus mind. 4-5 verschiedenen Perspektiven aufgezeichnet werden. Die Fälschungserkennung wird dann etwas leichter. Bilder/Videos müssen IMMER digital signiert werden, unsichtbare, wechselnde Wasserzeichen usw. Die Strafen bei ermittelten Tätern - weltweit - dürfen nicht unter 7 Jahren betragen. Diese Technik ist viel zu gefährlich, als sie - weiterhin - zu ignorieren. Gehirnwäsche und Massenmanipulationen waren nie einfacher. Insbesondere von undemokratischen Regierungen wie Russland, China, ...
Nun ja, bei Puls gab es auch schon häufiger Fake News, Manipulation und arglistige Täuschungen
Die genannten sind nicht mal annähernd rechtlich oder gar finanziell tragbar.
@@christiannagel2133 Nicht unbedingt. Medien, die keine fakes zeigen, könnten dafür Geld nehmen. Der Rest hat dann eher nicht ernst zu nehmenden Unterhaltungswert.
Gut, dass ihr mit der Reportage einen mal wieder für das Thema sensibilisiert, ich persönlich hatte das gar nicht mehr so richtig auf dem Schirm 🙈
Hey, danke für deinen Kommentar! Wir waren auch sehr überrascht, wie schnell Meini so einen guten Fake erstellen konnte, das Video sah täuschend echt aus!😨
Ich finde es sehr gut, dass und wie ihr dieses Thema angeht! Mit einer Ausnahme: Mit Totschweigen wird man nicht verhindern, dass es Leute gibt, die es für böse Zwecke verwenden. Man hätte damit aber die Chance gehabt, dass sich technisch interessierte Zuseher weiter damit beschäftigen und somit eine gesteigerte awareness selbst haben sowie in Ihrem Freundes-/Bekanntenkreis weitergeben können.
"Kann ich das haben für mein Facebook?" Süüüüß! 😊
Meini ist wieder da!
aber nicht mehr lange, er verlässt ja bald die Puls Reportage
Sehr interessantes und spannendes Video!
Die Stimme war nicht zu Unterscheiden, aber bei den Videos sah man sofort und immer den Unterschied in der Mundbewegung, total verwaschen in dem Fake... Allerdings aufm großen Monitor, nicht aufm Handy, da stelle ichs mir deutlich schwerer vor. Gut dass Ihr aufklärt!
Richtig gute Doku!! Ich finde KI einfach nur gruselig und halte davon garnichts
Danke fürs Lob ♥️
Das sagten die Cowboys 1900 auch, als die ersten Autos auftauchten.
@@MaxMurkel Habe ich mir auch gerade gedacht. Es geht nicht darum was man von KI hält. Wissenschaftlicher Fortschritt lässt sich nicht aufhalten, nur mitgestalten. Und leider hat jede disruptive Entwicklung immer zwei Seiten.
Woher kriegt man die Tasse?
Die Tasse ist von unserer Kaffee-Küche 🥰Wir haben sie schon eine Weile, sie gehörte damals zum PULS-Merch, gefällt sie dir?
Hey liebe Puls reportage. Ich hab eine Idee für eine mögliche zukünftige Reportage von euch. Und zwar bin ich letztens durch ein Tiktok auf ein neues Hobby aufmerksam geworden. Postcrossing heißt das. Es wäre doch interessant in einer reportage die Frage aufzunehmen ob man mit Postcrossing fernweh bekämpfen kann, oder ob man vielleicht weniger am Handy ist da das Hobby ja sehr analog ist. Vielleicht wollt ihr euch damit mal auseinandersetzen, es wäre bestimmt auch schön wenn dieses Hobby mal eine reportage bekommt damit junge leute davon erfahren. Ich persönlich hab davor nie was davon gehört und allen freunden die ich danach davon erzählt hab waren begeistert und wollen es ausprobieren. Wäre bestimmt ein interessantes Video. Wer weiss vielleicht wollt ihr mal intern darüber reden ob das eine gute idee für eine reportage wäre☺️ würd mich auf jeden fall freuen von euch so ein Video zu sehen!🫶🏻
Hey, danke für deine Idee, das nehmen wir gerne mal mit! 😊
@@pulsreportage Das freut mich☺️
1:58 "Wir zeigen bewusst keine Logos und Namen, damit ihr das nicht nachmacht" ... zeigen Logo und Namen :D Danke, lieber Cutter :D
Mit diesem Tool haben wir im Film nicht gearbeitet 🙂
das ist so so krass und gefährlich
macht mir wirklich angst, was da in den nächsten jahren auf uns zukommt....
Danke für eure Arbeit! ❤
Freut uns sehr, dass der Film dir gefällt! ❤
Aufklärung ist wichtig. Mir kam der erste Clip vom ZDF Journal übrigens falsch vor weil von "Bürgern" und nicht von "Bürgerinnen und Bürgern" gesprochen wurde. Allerdings weiß ich gar nicht, wie das im Original ist, ich schaue kaum lineare/TV Nachrichten, wo es glaube mit Sprache noch anders gehandhabt wird als im Internet/Social Media von Nachrichtenkanälen. Oder ist es tatsächlich Ergebnis davon, sich an gegenderte Formen zu gewöhnen und alte falsch klingen?
Wie lange hat es denn jetzt insgesamt gedauert sich mit den Programmen zu beschäftigen bis die Fakes fertig waren? Ging das innerhalb von ein paar Stunden oder doch mehrere Tage? Wirkte im Film ja als sei es eine Sache von 1-2 Stunden.
Das Ding ist, wenn du einmal genug Material als Ausgangsbasis hast, kannst du danach sehr schnell immer neue Fakes produzieren. Bei Promis ist es vergleichsweise einfach Material zu bekommen. Bei Privatpersonen ist das schon schwieriger.
Also da muss man sich inzwischen schon gut überlegen, ob das Videotagebuch auf Instagram wirklich jemanden interessiert.
Mit Recherche und Einarbeitung waren es etwa drei bis vier Stunden, die Meini gebraucht hat.
1:51 "Wir zeigen keine Namen von Tools"
7 sekunden später: Name vom Tool
Mit diesem Tool, das du dort erkennst, haben wir nicht gearbeitet und das, was wir im Film zeigen, kann es auch nicht 🙂
Hallo Puls, bei 18:04 behauptet oder ratet ihr denn Leuten auf die Verifizierung zu achten. Dies ist vorallem bei Meta Medien aber diesen kann sich jeder im Abo bei Meta kaufen also keine Sicherheit!
Wieso wurde da nicht drauf hingewiesen?
Hey! Man kann sich den blauen Haken kaufen, das stimmt. Man muss aber trotzdem verifizieren und zeigen, dass man keine Fake-Seite ist! 🙂
@@pulsreportage Bei X ist das inzwischen anders. Da wird teilweise eine Verifizierung vorgegaukelt, die aber gar keine ist. Der blaue Haken verkommt mehr und mehr zu einem Statussymbol, der keine Vertrauenswürdigkeit mehr anzeigt.
Ihr habt aber auch einen guten echten clip gewählt. Himmeln zähen ist schon wieder so absurd das man durchaus verwirrt sein kann😂
Sehr spannende Reportage.
Unfassbar krass wie nah das an der Realität ist- hättet ihr hier nicht die Kniffe gezeigt wäre mir das 0 aufgefallen.
Ich frage mich gerade ob die KI irgendwann so weit ist das sie ganze Sendungen Faken kann- der Moderator macht Urlaub und die KI moderiert...
Die Schwierigkeit besteht darin, dass Menschen das verbreiten, was ihre Meinung bestärkt. Wie oft habe ich schon auf fake Gewinnspiele hingewiesen und die Antwort der boomer ist “aber es könnte ja stimmen!”, “trotzdem lustig” oder noch besser “passiert ja nichts schlimmes, wenn ichs teile”
Bei den Gewinnspielen schaden sie sich wenigstens selbst, aber bei fake news….
Schade, dass diese Recherchen nicht mehr auf Puls Radio referenziert sind. Gerade morgends fand ich das teilweise recht informativ. Aber gut.
Könnt ihr mal eine Reportage zum Thema „FitLine“ machen ?
Was genau möchtest du dazu wissen? 🙂
@@pulsreportage beispielsweise, was genau hinter der Marke FitLine steckt , Auswirkungen auf den Körper durch die Einnahme von FitLine Produkten und ob es wirklich lohnt diese Produkte zu kaufen bzw. ein Abo abzuschließen. LG
Erschreckend wie einfach das geht und ich glaube wenn man p und ich glaube auch wenn man ab und zu nur Nachrichten schaut dann merkt man sich sicherlich nicht die genaue Stimme einer Person von der man gerade die Nachrichten bekommt erschrecken
Ich verstehe das nicht ganz, ihr habt von Expertinnen geredet, aber im Video wurde ein Experte gezeigt. Habt ihr die im Nachhinein raus geschnitten?
Wie heißt diese Ki?
Gäbe es zusätzlich zu den drei Lösungsvorschlägen nicht noch einen vierten, nämlich die Anbieter regulatorisch zu verpflichten, Deep Fakes mit Menschen zu kennzeichnen, sei es auch nur mit einem unschtbaren Wasserzeichen?
Wie heißen die KIs?
Plottwist: Die Reportage ist KI generiert
😮😮😮
Bei Instagram kann man den blauen Haken kaufen, woher soll man wissen wer nun echt ist?
Wenn der kanal tagesschau 100k Abonnenten hat und ein zweiter nur 100, dann weiß man wer der echte ist
Du hast recht, man kann sich den blauen Haken kaufen. Jedoch muss man sich trotzdem noch offiziell verifizieren, dass man keine Fake-Seite ist
Ich habs direkt erkannt, dass es fake ist.
Vor allem Mund und Augen sind hier noch schwierig. Denke da an das erste KI Video von "Will Smith eats spaghetti"
Echt krass, dass das so doll gut funktioniert mittlerweile! Allerdings der Tipp mit der Verifikation ist glaube ich nicht besonders nachhaltig, da diese tollen Häkchen inzwischen ja auch käuflich zu erwerben sind.
1:52. Fine die Idee gut, dass ihr es nicht zeigen wollt. Jedoch zeigt ihr immer wieder den Namen dieser Plattform / App. Wieso also gute Absichten versprechen, wenn man sich nicht daran hält?
Auf welche Stelle beziehst du dich?
@@pulsreportage2:14 der Name steht da links oben im Hintergrund
@@moritz2399 Voicelab ist nicht der Name des Herstellers, sondern lediglich ein Feature der Website.
Wieso also etwas kritisieren von dem du selber nicht mal sicher bist, ob sie es überhaupt eingehalten haben?
Und mal im ernst: Ob sie jetzt den Namen des Herstellers drinnen lassen oder nicht ist herzlich egal weil die tools eh eine google suche entfernt liegen.
@@pulsreportage1:59
@@pulsreportage Bei 2:16 zum Beispiel. Da steht es links oben im Hintergrund.
Danke für das Tutorial ❤
Ich werde jz ein Video von meiner alten Chefin machen und sie bei der Polizei anzeigen mit diesem Video als Beweis. Aus rechtlichen Gründen ist das natürlich ein Scherz 🙂↔️
Und deshalb wählen alle den Bären.
Im Prinzip zeigt die Straßenumfrage mit einem Ergebnis von 50 / 50 , dass man die Fakes nicht erkennen kann. Also die Vermutung liegt nahe dass man bei 1000 Versuchen auch irgendwo in der Nähe von 500 richtigen wäre.
Sehr spannende und interessante Reportage 🥰♥️🙏
Danke für dein Feedback ❤
@@pulsreportage sehr gerne 🥰♥️
Hieß es nicht, ihr verlässt Puls Reportage?
Oh mit Marc hätte ich da viele Ideen 🤣
Meini entdeckt seine kriminelle Ader😂👏
Wichtig ist auch, dass man solche Videos einordnet bevor man sie weiterleitet. Insbesondere wenn man Videodateien per WhatsApp etc bekommt, muss man extrem vorsichtig sein.
Und gerade viele „jüngere“ sind offenbar schon auf Fakes abgerichtet. Tiktok versaut uns. 🙄
Jüngere? Niemals. Meine tägliche Erfahrung und anekdotische Evidenz zeigt, dass "alte" Menschen viel eher unreflektiert und ungefiltert irgendein Zeug weiterleiten, weil sie es nicht besser wissen und nicht so technikaffin sind.
Wann kommt ein grow update
Da müsst ihr euch noch ein bisschen gedulden...😌
Schon interresant, wie realistisch das ist. Ich könnte mir fast vorstellen, dass irgendwann auf diese Weiße Kinofilme gedreht werden, indem man der KI einfach sagt was man so haben will und die einen schicken Film daraus bastelt :D Dann würde ein Film nicht mehr viele Millionen kosten sondern vielleicht 100€ oder so :D Das wär doch was. Aber ich glaub davon sind wir noch etwas entfernt, aber soooo weit sieht mir das auch nicht mehr aus. Aber am besten fände ich es ja dann wenn eine solche KI öffentlich wäre und man dann selber so Filme wie Star Wars oder Herr der Ringer einfach erstellen kann, indem man einer KI beschreibt, wie eine Szene ausgebaut sein soll und dann macht die das absolut realistisch.
An sich ist das eine schöne Idee bloß würden eigentlich alle kreativen Jobs dann weg fallen. Das heißt viele Schauspieler würden wahrscheinlich gar nicht wollen das man statt mit ihnen zu drehen einfach eine KI nutzt, denn sie würden ja so ihren Job verlieren. Außerdem stelle ich mir die Frage ob es erlaubt sein sollte ohne ihre Zustimmung sie mit der KI zu erstellen.
Plus wie originell kann ein KI generierter Film sein?
@@wollydasschaf8295 Also wenn ich mir das so betrachte könnte ich mir gut vostellen, dass eine KI in so 20-30 Jahren einen Film ganz alleine so erstellen kann, wie sie heuzutage für viele Millionen gedreht werden, sodass man keinen Unterscheid mehr sieht. Aber ja, es würden viele Jobs wegfallen, das ist schon richtig. Aber durch neue Technik sind schon sehr viele andere Jobs weggefallen. Das macht dann auch keinen Unterschied mehr.
Also die Stimme vom Fake hört sich echt anders an, als die vom Real. Und dazu erkennt man es an den Inhalten. Aber krass, dass nur 40% den Fake erkannt haben und nur 20% dies ohne groß zu überlegen. Vielleicht sollte man einfach Menschen mehr Bildung geben, damit noch mehr zu den 20% gehören.
das dachte ich mir auch! Ich finde es komisch, dass das auch hier in den Kommentaren so wenige bemerken. Die Stimme klang für mich monoton und nicht wirklich menschlich...
sehr gutes Video
Sagt zeigen keine Namen oder Logos aber kurz darauf von oben gefilmt und man sieht die Seite xD
Mit diesem Tool haben wir nicht gearbeitet und das, was wir im Film zeigen, kann es auch nicht 🙂
Spoilert doch nicht alles im Vorhinein/am Anfang des Videos
Unabhängig davon, dass ihr keine Werbung für die Tools machen wollt, wäre es nett zu wissen, ob die verwendeten Tools kostenpflichtig sind?
Das sagen wir in der Reportage. Das verwendete Audio-Tool kostet 6 Dollar im Monat und das Video-Tool 19 Dollar im Monat.
Gibt's auch als OpenSource. Da muss man aber etwas Ahnung vom Programmieren haben. Die - von Laien bedienbaren, hochkomfortablen - Web-Oberflächen liefern die OpenSource-Tools meist nicht. Das sind die - ausprogrammierten - Algorithmen , die der Kern der Tools sind.
@@MaxMurkel ja heutzutage informatiker sein eröffnet einen wahrscheinlich viele türen
Nicht zu vergessen, dass auf Social Media Plattformen die Uploads an Detailqualität Zwecks Speicherplatzeinsparung einbüßt, sodass die allgemeine Artefaktbildung die Unregelmäßigkeiten von KI Videos verschleiern kann.
1:52 - “Wir zeigen hier bewusst keine Namen und Logos, denn wir wollen keine Anleitung zum Nachbauen liefern”
1:58 - Laptop mit einem Logo und Namen
"The Internet is dark and full of terror."
Mosi am machen, ja so wie kein andrer 🗣️😂
Plottwist: Die KI-generierten Videos sind in Wahrheit tatsächlich echte Aufnahmen...
Top das Ihr die Thematik behandelt. Mein Dad ist ziemlich anfällig für politische fakes, evtl bekomme ich ihn mit eurem Video etwas sensibilisiert 👌
*, dass
Danke für deinen Kommentar! 🙂 Auf welche Videos fällt dein Vater denn rein?
na kannst mal sehen, alle Nachrichten im Fernsehen sind also doch fake! 😉
Ist das nicht illegal eigentlich. Würde ich nicht machen.
07:58 Das ist so wie ihr es erklärt aber nicht ganz richtig. Einen Deepfake herzustellen ist auch ohne Einwilligung der betroffenen Person erlaubt, einer Erlaubnis bedarf einzig das Verbreiten oder öffentliche zur Schau stellen.
Wie kommst du darauf?
@@pulsreportage Einfach mal §§ 22, 23 KUG durchlesen - ihr redet doch sogar selbst vom Recht am eigenen Bild, da sollte man eigentlich erwarten können, dass auch die entsprechende Rechtsgrundlage der Redaktion bekannt ist.
Das Gesetz, auf das du dich beziehst, bezieht sich allerdings auf Fotografien 🙂
@@pulsreportage Es bezieht sich auf Bildnisse, nicht auf Fotografien und ist im Übrigen genau das Gesetz, auf das ihr euch selbst beruft...
Hey,
weil wir keine Jurist:innen sind, haben wir uns für diese Reportage eine juristische Einordnung von einer Kanzlei geholt, die sich mit der Rechtslage von Deepfakes auseinandersetzt. Sie hat sowohl die Erstellung als auch die Verbreitung ohne Einwilligung der abgebildeten Person als verboten eingestuft. Falls du dich für dieses Thema interessierst: Wir haben ihr Dokument auch in unserer Quelle hinterlegt, hier findest du sie: www.skwschwarz.de/fileadmin/Deepfakes_SKW_Schwarz_DE.pdf 🙂
Also bzgl. Kompetenz stärken: Da könntet ihr auch gerne mal ein Video zu machen. Und zwar was ein Durchschnittsmensch ab 18 Jahre alles heutzutage laut Meinung der restlichen Gesellschaft alles an Kompetenzen mitbringen muss. Und das im Vergleich zu den letzten 20/40/60/80 Jahren. Die Liste nimmt nämlich immer mehr zu. Und persönliche Meinung: Mich wundert es nicht, dass es Personen gibt, die kein Bock mehr auf den ganzen Kram haben, weil sie einfach mal sein wollen wer sie sind, und nicht wer sie laut zunehmender Checkliste müssen.
Meinst du damit auch die Medienkompetenz oder was genau? 🙂
@@pulsreportage Richtig. Kurzes abstraktes Beispiel: vor 100 Jahren war das Niveau bei "Hauptsache lesen und schreiben können". Vor 30 Jahren war es "wäre schon gut wenn der Schüler Computer kann". Vor 15 Jahren hieß es "Excel und Powerpoint wäre schon gut". Heute heißt es "all das von vorher PLUS die Schülerin muss sich KI auskennen, Medienkompetenz können, wissen wie es aktuell in der Politik aussieht, und und und...". Die Liste wird immer länger. Da der Trend exponentiell zu verlaufen scheint, wird es da sicherlich irgendwann mal ein Grenze geben.
Keine Logos zeigen wollen und im nächsten Schnitt zeigt ihr die Website auf dem Laptop. 😅
also ohne den vergleich bei 9:03 wäre mir nicht aufgefallen das das ein fake gewesen wäre 😶🌫
In Deutschland ist das rechtlich nicht so einfach, wie ihr es darstellt. Während in Österreich tatsächlich die Stimme als solches geschützt ist, ist das hier nicht der Fall. Ich darf somit keine aufgezeichneten Dinge verbreiten, KI-erstellte Inhalte sind davon aber nach deutschem Recht nicht inkludiert.
Welches Tool hat er genutzt?
Aktuell erkenne ich noch alles, aber wird nicht mehr lange dauern bis auch das rum ist
Die Antwort des Anbieters bzw Herstellers lesen sich, selbst wie von KI erstellt
Boah ... alleine die Stimme 😮
Also USER und CREATOR zu gendern ist wirklich bodenlos..... nervt einfach nur
Hallo? Ja klar hilft Grüner Spargel gegen Heuschnupfen!!
Sollte man doch wissen 😤
Verifizierung bringt halt mittlerweile auch irgendwie Nix mehr wenn jeder den Haken kaufen kann 😑😒
Ja, man kann sich einen blauen Haken kaufen, aber man muss sich trotzdem verifizieren und zeigen, dass man keine Fake-Seite ist 🙂
@@pulsreportage Wie sieht denn so eine Verifizierung aus, wenn man keine Person ist?
Woaaa gruselig!
Die Politik hat es erst freigegeben... denke nicht, die werden da viel unternehmen :/
Sind das schon Fake News?
hackerman....
Fasziwiedernd😅
Ist das dumm haha 1:50 der Satz und original keine 5 Sekunden später sieht man das Vidnoz Ai Logo 😂
Damit haben wir nicht gearbeitet und das, was wir im Film zeigen, kann das Tool auch nicht 🙂
wie sympathisch ist stefan scheider 😭😭😭😭
Finden wir auch!! 🤝
Moderator*innen, Journalist*innen .... ernsthaft? 83% der Menschen wollen es nicht, dennoch behaltet Ihr das bei, liebes PULS-Team. Warum?
Man hört es direkt , gut ich beschäftige mich auch damit. Deswegen sollte man mehr KI Gesetze machen
Wie hast du es erkannt in dem Beispiel?
Ist in Bayern nicht das gendern verboten worden Herr meini ? 🤔😅
erst gesetz durchlesen dann maulen
Anzeige ist raus
Für was erfindet der Mensch so einen Blödsinn überhaupt?
Was genau meinst du?
@@pulsreportage er meint warscheinlich Ki,s die deep fakes machen können und sowas
@@pulsreportage KI natürlich. 😉 Ungefähr genauso dämlich wie die Atombombe.
Das ist nur ein Ableger der AI. AI brauchen wir, wenn wir komplexe Modelle verstehen wollen, für die das menschliche Gehirn nicht ausreicht. Wettervorhersagen bzw. Unwetterrvorhersagen, funktionierende Krankheitsdiagnosen, effiziente Entwicklung technischer Systeme (Autos, Chips, Kopter, Raumschiffe, ...). Wenn wir nicht wieder zurück auf die Bäume wollen, ist AI der einzige Weg in die Zukunft.
KI ist pauschal kein Mist. Es kommt halt darauf an, wozu sie eingesetzt wird. Mich hat sie schon beim lernen für diverse Prüfungen in der Uni unterstützt, aus denen ich dann im Endeffekt auch mit sehr guten Noten rausgegangen bin. Auch die Bachelorarbeit habe ich teils Korrektur lesen lassen, weil ich diese auf englisch geschrieben habe. Ganz zu schweigen von der Quellensuche für diverse Themen, denn anders als ChatGPT gibt es auch KIs wie perplexity die Quellen zu ihren Antworten angeben. So findet man häufig viel schneller das, wonach man sucht, als wenn man stundenlang Google durchforstet.
Nur, weil etwas leider missbraucht wird, muss man es nicht pauschal als „Mist“ abtun. Was es hier stattdessen braucht ist Sensibilisierung, Medienkompetenz und zeitgemäße Gesetze.
Wie heißt der Song bei 10:17 @Puls Reportage
Nightcall - Kavinsky 🙂
Super Video. Vielen Dank. 👍👍👍
PS. Nur die Gendersprache nervt 😂
Mich nervts nicht 😊
Ich freue mich dass gegendert wird :)
Dann guck die Videos halt nicht 😊 Sprachfreiheit und so...
Wie immer alle nur davon reden wie gefährlich es ist. Klar aber was es für kreative Menschen auch einfach möglich macht.
Sehe das auch so. Studiere im Kreativ- und Medienbereich und wir arbeiten und experimentieren aktuell intensiv mit KI. KI hat definitiv seine Grenzen, aber nur weil es missbraucht wird, ist es nicht automatisch schlecht. Und unsere Erfahrung zeigt, dass wenn man KI als ein Tool von vielen in seinen Workflow einbaut, ganz neue Wege der Kreativität und Möglichkeiten entstehen.
Das ist Angst!
Am einfachsten keine Nachrichten mehr schauen, ist ja eh immer der selbe Mist!
KI hat allerdigs nicht nur Nachteile - mit KI kann man auch genderungerechte Sprache und Genderideologie rausfiltern
Oder ideologisch dominierte Kommentare, wie deiner halt. 😂
Also ganz normale Afd Fanseite .
wär toll, wenn jemand einen sebastian rausrendern könnte mit KI, der nicht gendert
was sind "Moderator innen"? Gibt es auch "Moderator außen"?
Guter Beitrag, doch ich komme mit dem ganzen User:innen...Creator:innen-Genderquatsch nicht klar. Das macht die deutsche Sprache so was von UNNATÜRLICH!!! Schade 😞
Bitte hört auf zu gendern!!! So macht das zuschauen echt kein Spaß!