Unternehmen, das KI-Anrufe im Stil von Joe Biden an Wähler in New Hampshire schickte, erklärt sich bereit, eine Geldstrafe von 1 Million US-Dollar zu zahlen

Ein Unternehmen, das mithilfe künstlicher Intelligenz, die die Stimme von Präsident Joe Biden nachahmte, betrügerische Anrufe an Wähler in New Hampshire tätigte, hat sich am Mittwoch bereit erklärt, eine Geldstrafe in Höhe von einer Million Dollar zu zahlen, teilten die US-Bundesbehörden mit.

Lingo Telecom, der Sprachdienstanbieter, der die Robocalls übermittelte, stimmte dem Vergleich zu, um eine Zwangsmaßnahme der Federal Communications Commission beizulegen, die ursprünglich eine Geldstrafe von 2 Millionen Dollar gefordert hatte.

Der Fall wird von vielen als beunruhigendes frühes Beispiel dafür angesehen, wie KI eingesetzt werden könnte, um Wählergruppen und die Demokratie als Ganzes zu beeinflussen.

Unterdessen muss Steve Kramer, ein politischer Berater, der die Anrufe orchestriert hat, immer noch mit einer Geldstrafe von 6 Millionen US-Dollar seitens der FCC sowie einer Anklage auf staatlicher Ebene rechnen.

Die Telefonnachrichten wurden am 21. Januar an Tausende Wähler in New Hampshire verschickt. In einer Stimme, die Bidens Stimme ähnelte, wurde darin fälschlicherweise angedeutet, dass sie durch ihre Teilnahme an den Präsidentschaftsvorwahlen des Staates nicht mehr an der Stimmabgabe bei den allgemeinen Wahlen im November teilnehmen könnten.

Kramer, der einen Zauberer und selbsternannten „digitalen Nomaden“ für die Erstellung der Aufnahme bezahlte, sagte der Associated Press Anfang des Jahres, dass es ihm nicht darum gegangen sei, das Ergebnis der Vorwahlen zu beeinflussen. Er wolle vielmehr auf die potenziellen Gefahren der künstlichen Intelligenz aufmerksam machen und die Gesetzgeber zum Handeln anspornen.

Falls Kramer für schuldig befunden wird, könnte ihm wegen Wählerunterdrückung eine Gefängnisstrafe von bis zu sieben Jahren drohen. Wegen Amtsanmaßung könnte er zu einer Freiheitsstrafe von bis zu einem Jahr verurteilt werden.

Die FCC erklärte, Lingo Telecom habe sich nicht nur mit der Geldbuße einverstanden erklärt, sondern auch zu strengeren Regeln und Anforderungen für die Anrufer-ID-Authentifizierung sowie zu einer gründlicheren Überprüfung der Genauigkeit der von seinen Kunden und Upstream-Anbietern bereitgestellten Informationen bereit erklärt.

„Jeder von uns hat das Recht zu wissen, dass die Stimme am Telefon genau die ist, die sie vorgibt zu sein“, sagte FCC-Vorsitzende Jessica Rosenworcel in einer Erklärung. „Wenn KI eingesetzt wird, sollte das jedem Verbraucher, Bürger und Wähler klar gemacht werden, der damit in Berührung kommt. Die FCC wird handeln, wenn das Vertrauen in unsere Kommunikationsnetze auf dem Spiel steht.“

Lingo Telecom antwortete nicht sofort auf eine Bitte um Stellungnahme. Das Unternehmen hatte zuvor erklärt, dass es mit der Maßnahme der FCC überhaupt nicht einverstanden sei und es als Versuch bezeichnete, rückwirkend neue Regeln durchzusetzen.

Die gemeinnützige Verbraucherschutzgruppe Public Citizen lobte die FCC für ihr Vorgehen. Co-Präsident Robert Weissman sagte, Rosenworcel habe es „genau richtig“ gemacht, als er sagte, Verbraucher hätten ein Recht darauf zu wissen, wann sie authentische Inhalte und wann sie KI-generierte Deepfakes erhalten. Weissman sagte, der Fall zeige, wie solche Deepfakes „eine existenzielle Bedrohung für unsere Demokratie“ darstellten.

Loyaan Egal, Leiter des FCC Enforcement Bureau, sagte, dass die Kombination aus Caller-ID-Spoofing und generativer KI-Stimmklontechnologie eine erhebliche Bedrohung darstelle, „sei es durch inländische Agenten, die politische Vorteile anstreben, oder durch hochentwickelte ausländische Gegner, die böswillige Einflussnahme oder Wahlmanipulation betreiben.“