TELEFONBETYÁROK – Választók befolyásolása – SPIEGEL/RózsaS
Január közepén, N. Hamshire US-államban tízezreknél csöngött a telefon. Joe Biden volt hallható, amint eltanácsol a választástól. „Ha Ön választ, a republikánusokat erősíti abban, hogy ismét Trump-ot válasszák meg.” Ám a hívás egy bravúros MI-hamisítvány volt, a Fehér Ház rögvest cáfolt. A főügyész nyomoztatni kezdett választásmanipuláció miatt. Az állami kommunikációs hivatal lépéseket tett az MI-robothívások betiltására. J. Rosenworcel, elnök: „Úgy hangzik, mint a távoli jövő fenyegetése, de valójában már itt van a nyakunkon.” Hírességek hangutánzásával próbálják meg elbizonytalanítani vagy megfélemlíteni a választókat. Európában is nő az aggodalom, a 2024 év szuper választóév. Az óriási techkonszernek is nyomás alá kerültek, mert az FB, az Instagram, a TikTok és a Youtube kiválóan alkalmasak a választók manipulálására. A kampányvezetők főleg a fiatal választókat vették célba. Az álhírek és a célzott dezinformációk mögött Oroszország és Kína állhat. Az Európai Külügyi Szolgálatók 2022 decembere és 2023 novembere között 750 manipulációs kísérletet észleltek. Věra Jourová, az EU-Bizottság alelnöke, az értékek és az átláthatóság felelőse: „Demokráciánk van veszélyben.” Bár a nagy internetplatformok megígérték, leleplezik a fake news tömkelegét, ám ezek egyre burkoltabbak és finomabbak. Az USA és az EU között egyezmény született a cyberbűnözés fölszámolására. James Rubin a München-i biztonsági konferencián (MSC) közölte, hogy az orosz titkosszolgálat Afrikában indított egy dezinformációs műveletet. Azt terjesztették, hogy a nyugati egészségi intézetek a denguelázt biológiai fegyverkísérletekként vetik be. Sokan elhitték. A kampány életveszélyessé vált, mert a betegek nem mertek orvoshoz fordulni. 20 nagy internetkonszern aláírta az ún. Munich-Tech-Accord-ot, amelyben kötelezik magukat, hogy gyorsan leleplezik, ha VIP-személyutánzatokra lelnek. Utána „megfelelően járnak el”, jelentsen ez bármit is. US-techóriások fölvetették, hogy a valós tartalmakat lássák el egyfajta digitális vízjeggyel. Erősíteni kell a csaló MI-választási tartalmakkal szembeni ellenállóképességet – minden ágazatban. David Zupolsky, Amazon-politikafelelős: „Fél milliárdan választanak 2024-ben, meg kell védenünk demokráciánkat.” Nick Clegg,volt brit miniszterelnök-helyettes: „Sokkal előbb be kell avatkoznunk, már a háttér-rendszereknél.” Az állam és a Meta együttműködése úttörő. Bár a közösségi oldalak száma áttekinthető, a dezinformációs támadások száma végtelen – köszönve az MI-nek. Clegg és a többiek bíznak abban, hogy az orosz, kínai és iráni trolltámadásokat kivédik, hisz technikai előnyt élveznek. Kérdés, meddig? Prof. Oren Etzioni, a fake news ellenes truemedia.org alapítója, Uni Washington: „A neheze még csak most jön.” A techkonszernek nem vállalják felelősségüket. Míg München-ben mindent megígértek, Brüsszelben a szabad véleménynyilvánításra hivatkozva kevesebb moderációt és ellenőrzést követeltek. Etzioni: „Ez a szabadság véget ér, ha választókat manipulálnak.” Különösen az MI által kreált videókkal és képekkel vált a dezinformáció sokkal könnyebbé.” (...)
SPIEGEL, 9. 3. 2024
» Das Schlimmste steht uns erst noch bevor.”
Mitte Januar, kurz vor den
Vorwahlen im US-Bundes-
staat New Hampshire,
klingelte bei Zigtausend
Wählern an der Ostküste
der USA das Telefon. Am Apparat
war Joe Biden, der amerikanische
Präsident. Er riet davon ab, zur Wahl
zu gehen. »Wenn Sie an diesem
Dienstag wählen, unterstützen Sie
nur die Republikaner in ihrem Be-
streben, Donald Trump erneut zu
wählen.«
Was sich anhörte wie Biden, war
in Wirklichkeit ein mit künstlicher In-
telligenz (KI) hochgerüsteter Anruf-
roboter. Das Weiße Haus dementier-
te eilig, dass der Präsident angerufen
habe. Die Generalstaatsanwaltschaft
enttarnte die Wahlmanipulation und
begann zu ermitteln. Inzwischen hat
die staatliche Kommunikationsbehör-
de Schritte unternommen, um KI-ge-
nerierte Roboteranrufe in den USA
zu verbieten. Kriminelle würden die
Stimmen von Prominenten imitieren,
um Wähler zu verunsichern oder ein-
zuschüchtern, sagte die Vorsitzende
Jessica Rosenworcel. »Es klingt wie
etwas aus der fernen Zukunft. Aber
es ist schon da.«
Auch in Europa wächst im Super-
wahljahr 2024 die Sorge vor Manipu-
lation, falschen Informationen und
gezielt gestreuter Desinformation im
Netz. Im Fokus westlicher Sicher-
heitsbehörden stehen vor allem Russ-
land und China.
Gleichzeitig wird der
Druck auf die großen Techkonzerne
größer, die mit ihren Milliarden
Nutzern auf Facebook, Instagram,
TikTok und YouTube längst zu he-
rausragend wichtigen Wahlkampfins-
trumenten geworden sind. Die Kam-
pagnenmanager erhoffen sich, hier
vor allem junge Wähler zu erreichen.
Vor wenigen Wochen erst offen-
barte ein Bericht des Europäischen Auswärtigen Dienstes rund 750 Versuche von ausländischer Informationsmanipulation und Einmischung zwischen Dezember 2022 und No-
vember 2023, etwa in Wahlen. Die
»Demokratie steht auf dem Spiel«,
sagtVěra Jourová , Vizepräsidentin
der EU-Kommission, zuständig für
Werte und Transparenz.
Vor den Wahlen in Europa und den USA versprechen
die großen Internetplattformen, Fake News zu entlarven.
Doch durch KI werden die Lügenkampagnen immer ausgefeilter.
Das US-amerikanische Außenmi-
nisterium hat eine Koalition mit euro-
päischen Partnern zur Bekämpfung
von Informationsmanipulation auf
der ganzen Welt geschmiedet.
Erst kürzlich habe man aufge-
deckt, dass ein russischer Geheim-
dienst eine Desinformationsoperation
in Afrika gestartet habe, berichtete
der Sonderbeauftragte James Rubin
am Rande der Münchner Sicherheits-
konferenz (MSC). Es sei behauptet
worden, das Denguefieber in West-
afrika sei durch Experimente in west-
lichen Gesundheitseinrichtungen ver-
ursacht worden, und Afrikanerinnen
und Afrikaner würden für biologische
Waffentests eingesetzt. »Verrücktes
Zeug, aber viele glaubten es«, sagte
Rubin. Die Kampagne sei lebensge-
fährlich gewesen, da sich verunsicher-
te Menschen nicht mehr trauten,
westliche Ärzte oder Krankenhäuser
aufzusuchen.
Auf der MSC unterzeichneten
20 große Internetkonzerne den so-
genannten Munich-Tech-Accord. Da-
rin sichern die Anbieter unter ande-
rem zu, durch KI generierte Audio-,
Video- und Bilddateien schneller
aufzuspüren, wenn diese das Ausse-
hen oder die Stimme von Kandidaten,
Wahlhelfern und anderen Akteuren
einer Wahl professionell nachahmen
oder verändern. Um dann »angemes-
senen« damit umzugehen – was im-
mer das bedeuten mag.
Auch andere Ideen wurden in der
Runde der Tech-Giganten, von denen
die allermeisten in den USA ihren
Hauptsitz haben, diskutiert: So könn-
ten etwa echte Inhalte künftig mit
einem digitalen Wasserzeichen ver-
sehen werden, um sie von falschen zu
unterscheiden. Es gelte, eine »bran-
chenübergreifende Widerstandsfähig-
keit gegenüber betrügerischen KI-
Wahlinhalten« zu schaffen.
2024 sei ein »entscheidendes
Wahljahr« für mehr als vier Milliar-
den Wählerinnen und Wähler welt-
weit, sagt David Zapolsky, oberster
Politiklobbyist des Internetgiganten
Amazon. Sicherheit und Vertrauen
seien für Wahlen auf der ganzen Welt
entscheidend. Er setze sich »für die
Wahrung der Demokratie ein«.
Nick Clegg, früherer britischer Vi-
zepremier und heute Leiter »Global
Google-Managerin
Green: »Wir müssen
viel früher ansetzen,
beim System
dahinter«
Affairs« bei Facebooks und Insta-
grams Mutterunternehmen Meta,
hält schon die Kollaboration von Big
Tech bei dem Thema für »bahnbre-
chend«. Das allein zeige, wie wichtig
die Internetkonzerne das Thema
nähmen und wie ernsthaft ihre Be-
mühungen seien, sagte Clegg dem
SPIEGEL .
Natürlich, gibt der Meta-Lobbyist
zu, gebe es in der Angelegenheit auch
ein Dilemma: Die Anzahl der sozia-
len Medien, die die Wahlmanipula-
teure beeinflussen müssten, sei relativ
überschaubar. Andersherum sähen
sich die Betreiber der Plattformen
einer fast unendlich großen Zahl an
Desinformationsversuchen gegen-
über. Künstliche Intelligenz macht es
möglich.
Noch geben sich Clegg und die
anderen Konzerne optimistisch, das
Wettrüsten gegen die Trollarmeen aus
Ländern wie Russland, China oder
Iran gewinnen zu können. Sie wäh-
nen sich technisch im Vorsprung.
Aber wie lange noch?
»Das Schlimmste steht uns erst
noch bevor«, sagt Oren Etzioni,
emeritierter KI-Professor an der
University of Washington und Grün-
der der gemeinnützigen Plattform
Truemedia.org, die Fake News ent-
tarnen will. Aus seiner Sicht werden
die Techkonzerne ihrer Verantwor-
tung kaum gerecht. Schlimmer: Wäh-
rend sie in München Besserung ge-
loben, lobbyieren sie in Washington
und Brüssel gleichzeitig mit Verweis
auf die Meinungsfreiheit für weniger
Moderation und Inhaltskontrolle auf
ihren Medien.
»Aber diese Freiheit hat Grenzen,
wenn Wahlen manipuliert werden
sollen. Gerade mit KI-generierten
Videos und Bildern sind die Möglich-
keiten für Des- und Fehlinformation
enorm gestiegen«, sagt Etzioni. Na-
türlich sei es gut, wenn die Internet-
konzerne nun etwas gegen gefakte
Inhalte unternehmen wollten. Was-
serzeichen aber genügten da bei Wei-
tem nicht. Viel zu einfach ließen sich
diese erzeugen oder entfernen. Ins-
gesamt folgten die Beteuerungen der
Techriesen dem Motto: »too little, too
late«, zu wenig, zu spät.
In Brüssel scheint man das ähnlich
zu sehen. Gerade beschloss das EU-
Parlament strengere Regeln für po-
litische Werbung in den sozialen
Medien.
Mit dem Gesetz sollen Wahlen in
der EU besser vor dem Einfluss an-
derer Staaten geschützt werden. Es
sieht unter anderem vor, dass die On-
linedienste Wahlwerbung künftig als
diese kennzeichnen müssen. Sie müssen außerdem veröffentlichen, wer
das Werbevideo oder die Anzeige
finanziert hat. Zudem dürfen sensib-
le Daten von Nutzern – etwa zur
Religionszugehörigkeit oder der se-
xuellen Orientierung – nicht mehr
für politische Werbung verwendet
werden.
Der soeben in Kraft getretene
Digital Markets Act verpflichtet die
großen Onlineplattformen und Such-
maschinen zudem, mehr gegen
illegale Inhalte und Risiken für die
öffentliche Sicherheit zu unter-
nehmen.
B eim Internetkonzern Alpha-
bet, zu dem die Suchma-
schine Google sowie die
Videoplattform YouTube
gehören, geht man ange-
sichts der drohenden Regulierung in
die Offensive. Die bisherige Strategie,
den Kampf gegen Fake News mit
»De-bunking«, also dem Entlarven
und Löschen falscher Informationen,
zu gewinnen, hält man für nahezu
aussichtslos. Googles neuer Plan
heißt daher »Pre-bunking«, also
Früherkennung.
Ab diesem Frühjahr wird Googles
interne Jigsaw-Einheit, die gegen
Bedrohungen für die Gesellschaft
kämpfen soll, in Belgien, Frankreich,
Deutschland, Italien und Polen eine
Reihe von Anzeigen schalten. Auf
Plattformen wie TikTok und YouTube
soll die an den Universitäten Cam-
bridge und Bristol entwickelte Tech-
nik den Zuschauern helfen, manipu-
lative Inhalte zu erkennen.
»Es läuft nicht so, dass jemand
einer Falschinformation glaubt und
man ihm nur sagen muss: ›Das ist
aber nicht korrekt. Hier ist die Wahr-
heit.‹«, sagt Jigsaw-Chefin Yasmin
Green. Zu hoffen, derjenige korrigie-
re daraufhin seine Wahrnehmung, sei
illusorisch. »Es ist viel komplexer.
Gerade Verschwörungstheoretiker
glauben ja, sie seien die letzten wirk-
lich korrekt informierten Menschen
im Universum. Da müssen wir viel
früher ansetzen, beim System dahin-
ter«, sagt Green.
Über Monate habe sich Jigsaw mit
den britischen Forschern das »System
der Fake News« angesehen und er-
staunliche Muster gefunden. Bei der
Debatte um eine Impfpflicht gegen
das Coronavirus etwa sei schnell
klar gewesen, wie die Strategie der
Impfgegner aussah. Im ersten Schritt
hätten sie die Pharmaindustrie als
korrupt und politisch beeinflusst dar-
gestellt, in zweiten hätten sie die
Menschen auf ihr Recht auf körper-
liche Unversehrtheit hingewiesen.
Zahlreiche Beispiele von Patienten,
die vermeintlich eine schlimme Impf-
reaktion erlitten hätten, hätten die
Kampagne begleitet.
Am Ende ließen sich Millionen
Menschen nicht gegen das Corona-
virus impfen. »Das waren die Strate-
gien. Und sie werden bei der nächsten
Impfdebatte wieder so aussehen. Da-
rauf können wir unsere Systeme ka-
librieren und den Menschen gleich
anzeigen, wenn eine Information
missverständlich oder unvollständig
sein sollte«, hofft Green.
Nach dem russischen Überfall auf
die Ukraine sei das Narrativ der russ-
landnahen Trolle schnell klar gewe-
sen, berichtet die Google-Managerin.
Es richtete sich gegen die Geflüchte-
ten aus der Ukraine: »Diese Leute
nehmen euch eure Häuser, eure Jobs,
euren Wohlstand weg.« Das habe
man antizipieren und in Videos mit
Faktencheckern aufarbeiten können.
»Das Ergebnis war erstaunlich«,
sagt Green. Die Aufklärungsvideos
ihrer Plattform hätten rund die Hälf-
te der Onlinenutzer in Polen, Tsche-
chien und der Slowakei erreicht. Es
sei am Ende ein »signifikanter Erfolg«
im Kampf gegen falsche Informatio-
nen gewesen.
Ähnliches erhofft sich Google
für die Europawahl im Juni. Mit
den Kampagnenvideos, übersetzt in
22 EU-Sprachen, wolle man, um im
Impfbild zu bleiben, »mentale Anti-
körper gegen Falschinformationen bei
den Menschen aktivieren«, sagt
Green. Damit alle vorbereitet seien,
wenn ihnen solche begegneten. In
Deutschland habe man das System
bereits getestet. Die Ergebnisse, sagt
Green, sähen »sehr gut aus«.
Der schwierige Teil jedoch kommt
wohl erst noch: jene Lügen zu finden
und zu bekämpfen, die nicht erwart-
bar sind – aber ebenso schädlich.
Europaparlament in Brüssel: Sorge vor Manipulation im Superwahljahr 2024.
