Wir sind schlauer als die KI glaubt
Macht das Gehirn beim Verarbeiten von natürlichen Stimmen im Vergleich zu ihren Deepfake-Imitationen einen Unterschied? Ja, sagen Forschende der Universität Zürich.
Jeder Mensch hat ein einzigartiges Stimmprofil. Dies hilft, um die Person zu identifizieren. Nun ist die künstliche Intelligenz inzwischen so leistungsfähig, dass sie künstliche Stimmklone erstellen können, die klingen, wie echt. Noch nie war es so leicht, mit Deepfake-Technologien natürliche Stimmen zu imitieren, entweder für Betrugsversuche am Telefon oder um dem Sprachassistenten die Stimme der Lieblingsschauspielerin zu geben.
Bisher war jedoch unklar, wie das menschliche Gehirn auf solche Deepfake-Stimmen reagiert. Akzeptiert es diese als echt oder erkennt es den Fake? Ein Forschungsteam an der Universität Zürich hat nun herausgefunden, dass Menschen die geklaute Identität in einem Deepfake-Audio zwar häufig als natürlich akzeptieren, das Gehirn auf Deepfake-Stimmen jedoch anders reagiert als auf natürliche Stimmen. Und das heißt? Irgendwo in uns drin gibt es einen winzig kleinen Moment des Zweifels. Wenn wir darauf hören, entlarven wir den Betrug.
Identität in Deepfake Stimmen fast zum Täuschen ähnlich
Die Forschenden testeten, wie gut die menschliche Identität in den imitierten Stimmklonen erhalten bleibt. Sie nahmen die Stimmen vier männlicher Sprecher auf und generierten mithilfe von Computeralgorithmen Deepfake-Stimmen dieser Sprecher und spielten sie Freiwilligen vor. Dabei zeigte sich, dass die Deepfake-Identitäten in zwei Dritteln der Fälle korrekt erkannt wurden. «Dies verdeutlicht, dass aktuelle Deepfake-Stimmen zwar nicht perfekt die Identität imitieren, aber das Potenzial haben, die Wahrnehmung von Menschen zu täuschen», sagt Claudia Roswandowitz vom Institut für Computerlinguistik.
Das Gehirn wittert den Betrug
Im MRT konnte man sehen, dass zwei Gehirnteile bei Deepfakes reagierten. Das Belohnungssystem reagierte kaum, das Alarmsignal umso mehr. „Der Nucleus Accumbens ist ein wichtiger Bestandteil des Belohnungssystems im Gehirn.“ Beim Ertönen der Deepfakes, war er weniger aktiv, erklärt Claudia Roswandowitz. Viel aktiver war hingegen der auditorische Cortex, zuständig für die Analyse von Geräuschen. “Wir vermuten, dass dieses Areal auf die noch nicht perfekte akustische Imitation der «Deepfake»-Stimmen reagiert und versucht, das fehlende akustische Signal auszugleichen.” Der Fake-Anteil in den Deepfake-Stimmen scheint zu weniger Vergnügen beim Hören zu führen, und das relativ unabhängig von der Qualität des akustischen Signals. «Der Mensch kann also nur teilweise durch Deepfakes getäuscht werden. Besonders die neuronalen Mechanismen, die bei der Verarbeitung von Deepfakes identifiziert wurden, verdeutlichen die menschliche Widerstandsfähigkeit gegenüber gefälschten Informationen, die uns im Alltag immer häufiger begegnen», folgert Roswandowitz. Und das ist auch gut so!
