Fake-Profilbilder auf Twitter:

Wie häufig kommt das vor?

Bochumer Forscher haben untersucht, wie häufig auf Twitter (heute „X“ genannt) Profilbilder verwendet werden, die von Künstlicher Intelligenz (KI) erzeugt wurden.

Insgesamt wurden fast 15 Millionen Accounts analysiert. Die Ergebnisse zeigen, dass 0,052 Prozent der Accounts ein KI-generiertes Bild als Avatar nutzen. „Das klingt im ersten Moment nicht viel, aber solche Bilder sind merklich präsent auf Twitter“, erklärt Jonas Ricker von der Ruhr-Universität Bochum, der die Studie leitete. „Unsere Analysen geben zudem Hinweise darauf, dass es sich bei vielen der Accounts um Fakeprofile handelt, die unter anderem politische Propaganda oder Verschwörungstheorien verbreiten.“

Tausende Fake-Accounts

„Mithilfe von KI kann man heutzutage täuschend echt aussehende Bilder erzeugen, die in den Sozialen Medien dafür missbraucht werden können, um scheinbar reale Accounts zu erstellen“, so Ricker. Wie verbreitet solche KI-generierten Profilbilder sind, ist bislang kaum untersucht. Die Forschenden trainierten eine Künstliche Intelligenz darauf, reale von KI-generierten Bildern unterscheiden zu können. Mit diesem Modell analysierten sie automatisiert die Profilbilder von rund 15 Millionen Twitter-Accounts.

Erkenne den Betrüger:

„Auffällig war auch, dass über die Hälfte der Fake-Bild-Accounts erst 2023 erstellt worden ist, teils wurden hunderte Accounts in einigen Stunden aufgesetzt – ein Hinweis, dass es sich nicht um echte Nutzerinnen oder Nutzer handelt“, sagt Ricker. Accounts mit KI-Profilbildern hatten weniger Follower und folgten selbst seltener anderen Accounts. Zudem waren über die Hälfte dieser Fake-Accounts erst 2023 erstellt worden, oft in auffälligen Wellen, was auf eine gezielte Massenproduktion hindeutet. Fast die Hälfte der Fake-Accounts war zudem neun Monate nach der Datenerhebung von Twitter gesperrt. „Ein weiteres Indiz, dass es sich um Accounts handelt, die unlauter agiert haben“, schlussfolgert Ricker. „Wir können nur mutmaßen, was dahintersteckt. Aber es ist davon auszugehen, dass einige Accounts erstellt wurden, um gezielt Desinformationen oder politische Propaganda zu verbreiten.“

Propaganda und Abzocke

Das Team analysierte die Inhalte, die von den Fake-Accounts verbreitet wurden. Viele dieser Accounts äußerten sich zu Themen wie der amerikanischen Politik (häufig mit Bezug zu Trump), Covid-19, Impfungen, dem Ukraine-Krieg und Kryptowährungen. Deshalb ist mit Online-Anlagetipps vorsichtig umzugehen. Was in Zukunft zu erwarten ist? Ricker und sein Team wollen weiter an der automatisierten Erkennung von Fake-Accounts arbeiten – auch von solchen, die mit neuen KI-Tools erstellt werden. Denn was die Menschheit am meisten schädigt, sind schließlich die Reaktionen auf Kommentare, die von Menschen stammen, die es gar nicht gibt.