Ben Nimmo

(SeaPRwire) –   Als Ben Nimmo 2014 begann, Online-Einflussnahmeoperationen zu verfolgen, die auf Wahlen abzielten, musste er stundenlang auf Twitter scrollen und untersuchen, wie Netzwerke von Fake-Accounts versuchten, parteiische Narrative zu kapern.

Ein Jahrzehnt später verändert KI das Spiel – nicht nur für ausländische Bedrohungsakteure, sondern auch für diejenigen, die diese bekämpfen. „So viel von der Diskussion dreht sich darum, wie die Bösewichte KI einsetzen könnten“, sagt Nimmo, der jetzt als leitender Ermittler für Bedrohungsinformationen bei OpenAI (einem Technologiepartner von TIME) arbeitet. „Mein absoluter Lieblingsfehlerzitat aus Harry Potter ist: Wir können auch Magie einsetzen.“

Nimmo leitet ein Team, das versucht, ausländische und inländische Übeltäter zu identifizieren, die ChatGPT und andere OpenAI-Tools verwenden, um verdeckte Einflussnahmeoperationen durchzuführen. Aber er sagt, dass die eigenen Tools von OpenAI seinem Team auch beispiellose Einblicke in große oder verdächtige Aktivitätsmuster ermöglichen. „Man füttert es dem Modell ein, und es kommt mit einer Antwort in ein paar Minuten zurück“, sagt er. „Die Geschwindigkeit, mit der wir diese Dinge untersuchen und analysieren können, ist um Größenordnungen schneller.“

Im Mai gab OpenAI bekannt, dass es entfernt hatte, die von Nimmos Team mit Sitz in Russland, China, Iran und Israel entdeckt wurden. Alle versuchten, die KI-Tools des Unternehmens zu nutzen, um die öffentliche Meinung zu manipulieren.

Eine große Lehre aus dem Jahr 2016, als Russland eine riesige Operation zur Einmischung in die US-Präsidentschaftswahl startete, war, dass Einflussnahmeoperationen „ein bisschen wie Schimmel im Badezimmer“ waren, sagt Nimmo. „Sie gedeihen im Dunkeln, und sie gedeihen, wenn niemand da ist, um sie wegzuwischen.“ Jetzt verwenden Übeltäter, die versuchen, Wahlen zu beeinflussen, möglicherweise andere Taktiken, sagt er. „Operatoren scheinen absichtlich versuchen, erwischt zu werden, um Angst vor dem Potenzial von Tausenden oder Millionen anderer wie ihnen zu säen, die Chaos schüren“, sagt er, obwohl die meisten dieser Operationen allein kaum an Fahrt gewinnen. Ziel ist es, so Experten, dass die Menschen allen Informationen misstrauen.

„Atmen Sie tief durch und bleiben Sie aufmerksam, aber vor allem bleiben Sie ruhig“, rät Nimmo. „Ja, es wird ein anstrengendes Jahr. Konzentrieren Sie sich einfach auf die Beweise und stellen Sie die Frage: Ist es tatsächlich irgendwohin gegangen?“