Manipuliertes Video von Elon Musk imitiert die Stimme von Kamala Harris und weckt Bedenken hinsichtlich der KI in der Politik

Dieser Artikel wurde im Rahmen der Initiative von The Globe zur Bekämpfung von Falsch- und Fehlinformationen veröffentlicht. Senden Sie uns eine E-Mail, um Tipps oder Feedback zu teilen: [email protected].

Ein manipuliertes Video, in dem die Stimme von Vizepräsidentin Kamala Harris imitiert wird, während sie Dinge sagt, die sie nicht gesagt hat, weckt etwa drei Monate vor dem Wahltag die Sorge, dass künstliche Intelligenz die Macht hat, die Menschen in die Irre zu führen.

Das Video erregte Aufmerksamkeit, nachdem der Tech-Milliardär Elon Musk es am Freitagabend auf seiner Social-Media-Plattform X teilte, ohne ausdrücklich darauf hinzuweisen, dass es ursprünglich veröffentlicht wurde als A Parodie.

Das Video verwendet viele der gleichen visuellen Elemente wie eine echte Anzeige, die Frau Harris, die wahrscheinliche Präsidentschaftskandidatin der Demokraten, letzte Woche zum Start ihrer Kampagne veröffentlichte. Allerdings wird im Video der Voiceover-Ton durch eine andere Stimme ersetzt, die Frau Harris überzeugend imitiert. Wir verlinken nicht direkt auf das Video, daher wird es nicht weiter verstärkt.

„Ich, Kamala Harris, bin Ihre demokratische Präsidentschaftskandidatin, weil Joe Biden bei der Debatte endlich seine Senilität gezeigt hat“, sagt die Stimme im Video. Sie behauptet, Harris sei eine „Diversity-Einstellung“, weil sie eine Frau und eine farbige Person ist, und sie sagt, sie wisse „nicht das Geringste darüber, wie man das Land regiert“. Das Video behält den Markennamen „Harris for President“ bei. Es fügt auch einige authentische frühere Clips von Harris hinzu.

Mia Ehrenberg, eine Sprecherin von Harris‘ Wahlkampfteam, sagte in einer E-Mail an Associated Press: „Wir glauben, dass das amerikanische Volk die echte Freiheit, Chancen und Sicherheit will, die Vizepräsidentin Harris anbietet; nicht die falschen, manipulierten Lügen von Elon Musk und Donald Trump.“

Das weit verbreitete Video ist ein Beispiel dafür, wie lebensechte, von KI erzeugte Bilder, Videos oder Audioclips verwendet werden, um sich über die Politik lustig zu machen und sie zu täuschen, während die Präsidentschaftswahlen in den USA näher rücken. Es zeigt, dass es, obwohl hochwertige KI-Tools viel zugänglicher geworden sind, bisher noch keine nennenswerten Maßnahmen auf Bundesebene gibt, um deren Verwendung zu regulieren. Die Regeln für die KI in der Politik bleiben weitgehend den Bundesstaaten und sozialen Medienplattformen überlassen.

Das Video wirft auch Fragen darüber auf, wie man am besten mit Inhalten umgeht, die die Grenzen dessen verwischen, was als angemessener Einsatz von KI gilt, insbesondere wenn sie in die Kategorie Satire fallen. In einem Folgebeitrag teilte Musk das Video ein zweites Mal und fügte hinzu, dass „… Parodien in Amerika legal sind.“

Der ursprüngliche Benutzer, der das Video gepostet hat, ein YouTuber namens Mr. Reagan, hat sowohl auf YouTube als auch auf X erklärt, dass es sich bei dem manipulierten Video um eine Parodie handelt. Aber Mr. Musks Originalbeitrag enthält nur die Überschrift „Das ist unglaublich“ mit einem lachenden Emoji.

Während einige Teilnehmer, die Xs „Community-Notiz“-Funktion verwenden, um ihren Posts Kontext zu verleihen, vorgeschlagen haben, Musks Post mit einem Etikett zu versehen, war bis Montagmorgen noch kein solches Etikett vorhanden. Einige Online-Nutzer stellten die Frage, ob sein Post möglicherweise gegen die Richtlinien von X verstößt, die besagen, dass Nutzer „keine synthetischen, manipulierten oder aus dem Kontext gerissenen Medien teilen dürfen, die Menschen täuschen oder verwirren und Schaden anrichten könnten“.

Die Richtlinie sieht eine Ausnahme für Memes und Satire vor, solange sie keine „erhebliche Verwirrung hinsichtlich der Authentizität der Medien“ verursachen.

Herr Musk hat den ehemaligen Präsidenten Donald Trump bei der Wahl unterstützt. Weder Herr Reagan noch Herr Musk antworteten am Sonntag sofort auf per E-Mail gesendete Anfragen um einen Kommentar.

Zwei auf KI-generierte Medien spezialisierte Experten überprüften den Ton der gefälschten Anzeige und bestätigten, dass ein großer Teil davon mithilfe von KI-Technologie generiert wurde.

Einer von ihnen, der Digitalforensik-Experte Hany Farid von der University of California in Berkeley, sagte, das Video zeige die Macht generativer KI und Deepfakes.

„Die KI-generierte Stimme ist sehr gut“, sagte er in einer E-Mail. „Auch wenn die meisten Leute nicht glauben werden, dass es die Stimme von Vizepräsidentin Harris ist, ist das Video umso eindrucksvoller, wenn die Worte in ihrer Stimme sind.“

Robert Weissman, Co-Vorsitzender der Interessengruppe Public Citizen, widersprach Herrn Farid und meinte, seiner Meinung nach würden sich viele Menschen durch das Video täuschen lassen.

„Ich glaube nicht, dass das offensichtlich ein Witz ist“, sagte Herr Weissman in einem Interview. „Ich bin sicher, dass die meisten Leute, die es sehen, nicht davon ausgehen, dass es ein Witz ist. Die Qualität ist nicht großartig, aber gut genug. Und gerade weil es bereits bestehende Themen aufgreift, die um sie herum im Umlauf waren, werden die meisten Leute glauben, dass es echt ist.“

Herr Weissman, dessen Organisation sich dafür einsetzt, dass Kongress, Bundesbehörden und Staaten generative KI regulieren, sagte, das Video sei „die Art von Sache, vor der wir gewarnt haben“.

Andere generative KI-Deepfakes in den USA und anderswo hätten versucht, Wähler mit Fehlinformationen, Humor oder beidem zu beeinflussen. In der Slowakei imitierten 2023 gefälschte Audioclips einen Kandidaten, der Pläne zur Wahlfälschung und Erhöhung des Bierpreises Tage vor der Wahl diskutierte. In Louisiana im Jahr 2022 überlagerte die satirische Anzeige eines politischen Aktionskomitees das Gesicht eines Bürgermeisterkandidaten aus Louisiana über einen Schauspieler, der ihn als leistungsschwachen Highschool-Schüler darstellte.

Der Kongress hat noch keine Gesetze zur KI in der Politik verabschiedet, und die Bundesbehörden haben nur begrenzte Schritte unternommen, sodass die meisten bestehenden US-Vorschriften den Bundesstaaten überlassen wurden. Laut der National Conference of State Legislatures haben mehr als ein Drittel der Bundesstaaten eigene Gesetze erlassen, die den Einsatz von KI in Wahlkämpfen und Wahlen regeln.

Neben X haben auch andere Social-Media-Unternehmen Richtlinien für synthetische und manipulierte Medien erstellt, die auf ihren Plattformen geteilt werden. Nutzer der Videoplattform YouTube müssen beispielsweise offenlegen, ob sie bei der Erstellung von Videos generative künstliche Intelligenz verwendet haben, sonst drohen ihnen Sperren.