Die südkoreanische Polizei hat seit Jahresbeginn 419 Verdächtige wegen Deepfake-Straftaten gefasst, 17 von ihnen kamen in Untersuchungshaft. Das teilten die Ermittler der nationalen Polizeibehörde am Donnerstag mit, wie die Tageszeitungen Hankyoreh und Kyunghyang Shinmun berichteten.
Als Deepfakes werden mit künstlicher Intelligenz manipulierte Bilder oder Videos bezeichnet. Kriminell genutzt werden sie unter anderem für gefälschte Missbrauchsvideos, Betrug oder die Verbreitung von Falschinformationen.
Dreistufiges Erkennungssystem im Einsatz
Nach Angaben der Behörde kommt ein dreistufiges Verfahren zum Einsatz. Zunächst prüft eine Erkennungssoftware das Material, im zweiten Schritt bewerten Bildforensiker der wissenschaftlichen Kriminaltechnik das Ergebnis. Ergänzend werde eine KI-gestützte digitale Forensik eingesetzt.
Die Software analysiere unter anderem, ob Gesichter erzeugt oder ersetzt wurden, und werte biologische Merkmale wie Lidschlag oder durch den Puls bedingte Farbveränderungen der Haut sowie die Metadaten der Dateien aus. Ein speziell auf koreanisches Bildmaterial trainiertes KI-Modell soll die Trefferquote erhöhen.
Bislang sei die Erkennungssoftware in 1636 Ermittlungsverfahren eingesetzt worden, hieß es. In diesem Jahr sei sie in 72 Fällen auch in anderen Bereichen wie Wahldelikten genutzt worden.
Rekonstruktion der Fälschungswerkzeuge
Mit der KI-Forensik lasse sich nachvollziehen, welches kommerzielle KI-Programm ein Verdächtiger verwendet und welche Bildteile er verändert habe, erklärte die Behörde laut Hankyoreh. So könnten weitere Taten aufgedeckt und der Vorsatz der Beschuldigten nachgewiesen werden.
Als Beispiel nannte die Polizei einen Mann Mitte 20, der über Konten in sozialen Medien manipulierte Missbrauchsvideos verkauft haben soll. Ermittler hätten dabei das eingesetzte KI-Programm und die Originalfotos sichergestellt.
Ein Polizeisprecher erklärte laut der südkoreanischen Tageszeitung Kyunghyang Shinmun, die Ermittlungstechnik der Behörden werde schneller weiterentwickelt als die Technologie selbst. Künftig solle die Erkennungstechnik auch bei der Verbreitung von Falschinformationen und bei Telekommunikationsbetrug eingesetzt werden.
BKA und Bundespolizei: Was Ermittler künftig im Internet dürfen sollen
Digitaler Betrug durch Love Scamming: „Die Prävention ist noch viel zu schwach“
Ihre Meinung ist uns wichtig. Senden Sie uns Ihr Feedback zu diesem Artikel an: [email protected]
