Echt oder Fälschung? Die wachsende Gefahr von Deepfakes

Mit Deepfakes-Videos ist es schwierig, die Wahrheit und die Fälschung voneinander zu unterscheiden. Das mag lustig sein, ist aber auch eine wachsende Bedrohung. “Deep Faking ist ein akutes soziales Problem und kann schnell eskalieren”, sagte Bart Jacobs, Professor für Computersicherheit an der Radboud University in Nijmegen.

Deepfakes-Technologie könnte beispielsweise die bevorstehenden Wahlen beeinflussen, indem sie Videos verbreitet, in denen Politiker Dinge sagen, die sie noch nie gesagt haben. Arjan Laubach hat kürzlich Premierminister Mark Rutte gebeten, in seiner satirischen Show Dinge zu sagen, die er nie gesagt hat.

“Deep Faking ist ein akutes soziales Problem und kann schnell eskalieren”, sagte Jacobs. Es berät das Kabinett, wie es damit umgehen soll, und arbeitet an einer App, um die Authentizität der Nachrichten sicherzustellen. “Das große grundlegende Problem ist, dass unsere Standardmethoden zum Nachweis der Glaubwürdigkeit nicht mehr gut funktionieren. Stellen Sie sich vor, es gibt ein Video online, in dem Mark Rutte sich sehr negativ über den Islam äußert. Dann möchten Sie als Regierung einen Mechanismus haben, um dies zu können Sagen Sie: Dies ist kein Originalvideo. “Weil so etwas viele soziale Unruhen verursachen kann.”

Nehmen wir an, es gibt Elon Musks Deepfakes. Dann können die Aktienmärkte in alle Richtungen gehen

Der Börsenwert verdunstet

Diese Turbulenzen können politisch und sozial sein, aber sie sind auch kommerziell: „Angenommen, ein Videoclip von Elon Musk erschien online und sagte, dass er in eine bestimmte Region investieren würde – oder dass er damit aufhören wollte. Dann könnten die Aktienmärkte einsteigen Ich habe kürzlich gelesen, dass durch diese gefälschten Nachrichten jedes Jahr etwa 40 Milliarden US-Dollar an Börsenwert verloren gehen. “

Wie macht man tiefe Fälschungen?

“M.Jacobs erklärt, dass künstliche Intelligenz (KI) häufig verwendet wird. “Computer können heutzutage sehr gut lernen. Wenn Sie ihnen einige Beispiele geben, können sie daraus ableiten, wie es geht. Wenn Sie also Computer geben, die für einige Minuten Video von jemandem geschult wurden, können sie a ableiten neues Video daraus und kombiniere es damit. “Ein bestimmter Text. Dann lassen sie die Mundbewegungen auf eine Weise voranschreiten, die dem Text entspricht. Wenn du genau hinschaust, kannst du heutzutage immer noch sehen, dass es nicht ganz passt, aber das wird schwieriger. “

Einige Wissenschaftler entwickeln dann künstliche Intelligenz, um gefälschte tiefe künstliche Intelligenz zu erkennen, so dass Sie eine Art Wettrüsten bekommen. Jacobs glaubt nicht, dass dies die richtige Richtung ist. “Ich denke, wir müssen Techniken entwickeln, um die Authentizität der Videos zu überprüfen. Dafür gibt es Standardtechniken: digitale Signaturen. Meiner Meinung nach sollten Regierungen ihre Berichte standardmäßig mit einer digitalen Signatur versehen.”

Mach dein eigenes

Das Programm hinter deepfake ist zwar fortgeschritten, aber nicht unbedingt zu kompliziert zu bedienen. “Ich gehe davon aus, dass Sie bald in der Lage sein werden, ein falsches Video auf Ihrem Telefon oder zu Hause auf Ihrem Computer zu erstellen. Danach sind natürlich alle Bremsen weg.”

Wer sollte gegen Deepfakes vorgehen? “Ich glaube nicht, dass es eine Partei gibt, die das lösen kann. Es ist ein facettenreiches Problem. Aber ich denke, jede Organisation, die versucht, einige Botschaften mit Autorität zu verbreiten, sollte darüber nachdenken und etwas unternehmen. Regierung und Medien spielen eine natürliche Rolle Dabei denke ich aber auch an die Polizei: “Zum Beispiel sollte klar sein, dass die Polizei tatsächlich von der Polizei gewarnt wird.”

Hörst du lieber zu?

Fokus mit Computersicherheitsprofessor Bart Jacobs

NPO Radio 1 hält Sie täglich über die neuesten Entwicklungen in der Wissenschaft auf dem Laufenden

Täglich zwischen 17.00 und 18.30 Uhr News & Associates
Jeden Arbeitstag von 2 bis 4 Uhr. Fokus
Und wenn Sie einen Podcast wollen Die Wissenschaft des Fokus

Korrekturbericht

READ  The perfect steak? Researchers make lab-grown meat even better-tasting and marbled made to order

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.