Google verbessert Suchmaschine zur Bekämpfung von nicht einvernehmlicher Deepfake-Pornografie

PETALING JAYA: Der Technologieriese Google hat umfassende Aktualisierungen seiner Suchmaschine angekündigt, um dem zunehmenden Problem der nicht einvernehmlichen Deepfake-Pornografie entgegenzuwirken.

Emma Higham, Produktmanagerin bei Google, erklärte in einem Blogbeitrag, dass das Unternehmen neue Systeme entwickelt habe, um die Entfernung explizit gefälschter Inhalte zu vereinfachen und Websites, die dafür bekannt sind, derartiges Material zu hosten, herabzustufen.

„Wenn jemand erfolgreich die Entfernung expliziter, nicht einvernehmlicher, gefälschter Inhalte mit seiner Person aus der Suche beantragt, versuchen die Systeme von Google auch, alle expliziten Ergebnisse ähnlicher Suchanfragen zu dieser Person herauszufiltern.

„Wenn jemand gemäß unseren Richtlinien erfolgreich ein Bild aus der Suche entfernt, suchen unsere Systeme außerdem nach allen Duplikaten dieses Bildes, die wir finden, und entfernen diese“, sagte sie.

Diese Maßnahmen sollen den Einzelnen mehr Sicherheit geben, insbesondere wenn er befürchtet, dass in Zukunft ähnliche Inhalte auftauchen könnten.

„Die Updates, die wir dieses Jahr vorgenommen haben, haben die Anzahl der Ergebnisse mit expliziten Bildern bei solchen Suchanfragen um über 70 % reduziert. Mit diesen Änderungen können die Leute über die Auswirkungen von Deepfakes auf die Gesellschaft lesen, anstatt Seiten mit tatsächlichen, nicht einvernehmlich gefälschten Bildern zu sehen“, erklärte Emma.

Google aktualisiert außerdem seine Rankingsysteme, um „hochwertigen, nicht expliziten Inhalten“ den Vorzug zu geben und das Risiko zu verringern, dass in den Suchergebnissen explizite, gefälschte Inhalte auftauchen.

„Deshalb stufen wir Seiten herab, die in großer Zahl wegen gefälschter, expliziter Bilder entfernt wurden. Dieser Ansatz hat sich bei anderen Arten schädlicher Inhalte bewährt, und unsere Tests zeigen, dass er eine wertvolle Methode ist, um gefälschte, explizite Inhalte in Suchergebnissen zu reduzieren“, fügte sie hinzu.

Emma betonte auch, wie wichtig es sei, zwischen echten und einvernehmlichen expliziten Inhalten, wie etwa Nacktszenen, und expliziten Deepfake-Inhalten zu unterscheiden.

„Obwohl die Unterscheidung dieser Inhalte für Suchmaschinen eine technische Herausforderung darstellt, arbeiten wir kontinuierlich an Verbesserungen, um legitime Inhalte besser zu erkennen und explizit gefälschte Inhalte herabzustufen“, sagte sie.

Laut Newsnation hat die Verbreitung benutzerfreundlicher generativer KI-Tools in den letzten Jahren die Zahl der Deepfakes deutlich erhöht. Eine Studie aus dem Jahr 2021 ergab, dass es sich bei etwa 96 % dieser Deepfakes um nicht einvernehmliche Pornografie handelt.