Neue Chips gegen Deepfakes

Künstliche Intelligenz (KI) macht es heute einfach, Fotos, Videos und Tonaufnahmen zu manipulieren. Ob gefälschte Statements von Politikern oder irreführende Bilder aus Krisengebieten – soziale Medien und Online-Plattformen sind bereits voll von sogenannten Deepfakes. Die Folgen für Gesellschaft und Demokratie sind gravierend: Immer mehr Menschen lassen sich von solchen Fälschungen täuschen oder beginnen, selbst glaubwürdigen Quellen zu misstrauen.

Forschende der ETH Zürich haben deshalb eine neue Sensortechnologie entwickelt, die genau hier ansetzt. Die Idee: Daten, Bilder oder Audiosignale werden direkt bei der Entstehung in einem Sensorchip kryptografisch signiert. Dank dieser Signatur lässt sich nachweisen, dass die Daten tatsächlich von einer Kamera oder einem Aufnahmegerät stammen, wann sie aufgenommen wurden und dass keine Manipulationen vorgenommen wurden. «Wenn Daten bereits bei ihrer Erstellung signiert werden, hinterlässt jede spätere Manipulation Spuren», erklärt Fernando Cardes. Er ist wissenschaftlicher Mitarbeiter am ETH-Department für Biosysteme (BSSE) in Basel und hat die Technologie mitentwickelt. «Um Daten zu manipulieren, müsste der Chip physisch angegriffen werden – ein technischer Aufwand, der so hoch wäre, dass die massenhafte Herstellung manipulierter Inhalte für Social-Media-Plattformen praktisch verunmöglicht wird.» 

Die im Sensor erzeugten Signaturen könnten von den Kameraherstellern in einem für alle zugänglichen, unveränderbaren Register gespeichert werden – beispielsweise in einer Blockchain. So liesse sich jederzeit unabhängig prüfen, ob die vorliegenden Daten echt sind: Jede Person kann die Signatur des Chips im Register mit den Originaldaten abgleichen und so deren Herkunft bestätigen. «Damit spielt es kaum noch eine Rolle, ob eine an der Verarbeitung und Übertragung der Daten beteiligte Person oder Technologie vertrauenswürdig ist», erklärt Felix Franke, der den Chip an der ETH Zürich mitentwickelt hat. «Das Vertrauen in digitale Inhalte schwindet. Wir wollten eine Technologie entwickeln, mit der die Menschen überprüfen können, ob etwas echt ist», so Franke weiter.

Die Technologie lässt sich grundsätzlich in jede Art von Sensor oder Kamera integrieren. Social-Media-Plattformen könnten künftig bereits beim Hochladen automatisch prüfen, ob Inhalte echt sind. Und wo dies nicht passiert, könnten Journalisten, Forschende oder Behörden die Echtheit mit einfachen Tools selbst verifizieren. 

Die Idee für die Sensorchips entstand am Bio Engineering Laboratory der ETH Zürich. Dort beschäftigte man sich schon lange mit der Entwicklung hochsensibler Sensoren zum Messen elektrischer Signale lebender Zellen. Die interdisziplinäre Gruppe verfügte auch über das Know-how, um zusätzliche kryptografische Funktionen direkt in Sensorchips zu integrieren. «Die Gefahr durch Deepfakes war absehbar», erinnert sich Franke. Bereits 2017 sei daher der Plan entstanden, einen Sensor zu entwickeln, dessen Daten sich nicht unbemerkt manipulieren lassen. 

Der vorgestellte Chip ist ein funktionierender Prototyp und demonstriert die technische Machbarkeit. Für den kommerziellen Einsatz sind noch weitere Schritte nötig. Die Forschenden sind dennoch überzeugt, dass er sich mit heutigen technologischen Voraussetzungen und Verfahren zu einem funktionierenden und marktfähigen Produkt weiterentwickeln lässt. Entsprechend haben sie einen Patentantrag eingereicht. «Wir untersuchen derzeit, wie man den Aufwand für Kamera- und Sensorhersteller senken kann, wenn sie die neue Technologie in ihre Chips integrieren wollen», sagt Cardes.