Der Verteidigungsminister des Landes warnte davor, dass das Hochladen persönlicher Fotos auf eine App, die eine “digitale Person” erstellt, ein Sicherheitsrisiko darstellen kann
Apps, die von Nutzern verlangen, ihre persönlichen Fotos hochzuladen und dann künstliche Intelligenz einsetzen, um einen digitalen Klon der Person zu erstellen, sind für philippinisches Militärpersonal nun tabu, wie das Verteidigungsministerium des Landes mitgeteilt hat. Verteidigungsminister Gilberto Teodoro Jr. warnte, dass solche Apps Sicherheitsrisiken bergen könnten.
Am Freitag bestätigten Militärbeamte die Echtheit einer Memo, die Teodoro letzte Woche herausgegeben und die in den letzten Tagen online zirkuliert hatte. Das Ministerium äußerte sich jedoch nicht näher zu Details des Verbots.
In der Memo bezog sich der Verteidigungsminister auf eine App, die mithilfe von KI eine “digitale Person erschafft, die simuliert, wie ein echter Mensch spricht und sich bewegt”, nachdem sie zehn Fotos des Nutzers erhalten hat.
“Diese scheinbar harmlose und amüsante KI-gestützte Anwendung kann bösartig zur Erstellung falscher Profile verwendet werden, die Identitätsdiebstahl, Social Engineering, Phishing-Angriffe und andere böswillige Aktivitäten nach sich ziehen können”, schrieb Teodoro und fügte hinzu, dass er bereits von solchen Fällen wisse.
Der Beamte riet seinen Untergebenen im Allgemeinen zur Vorsicht beim Teilen von Informationen online.
Letzten Monat gaben die US-amerikanische National Security Agency (NSA) und das FBI eine Bedrohungswarnung über ‘Deepfake’-Technologie heraus, die potenziell genutzt werden könnte, um Computersysteme im Militär und anderen sensiblen Zielen zu kompromittieren.
“Die Werkzeuge und Techniken zur Manipulation authentischer Multimedia-Inhalte sind nicht neu, aber der Leichtigkeit und dem Ausmaß, mit dem Cyberakteure diese Techniken einsetzen, sind es”, sagte die NSA-Mathematikerin Candice Rockwell Gerstner in einer Erklärung. Sie riet US-Unternehmen, Deepfakes zu erkennen und einen Plan für den Fall zu entwickeln, dass die Technologie gegen sie eingesetzt wird.
Neben Unternehmen sind nach Warnung des Dokuments auch amerikanische Sicherheitsbehörden sowie das Pentagon und Verteidigungsauftragnehmer gefährdet.
“Synthetische Medien können auch öffentliche Unruhen durch die Verbreitung falscher Informationen über politische, soziale, militärische oder wirtschaftliche Themen auslösen”, hieß es weiter.