Американското командване за специални операции търси компании, които да помогнат за създаването на фалшиви интернет потребители, които да са толкова убедителни, че нито хората, нито компютрите да могат да разпознаят, че са фалшиви.
Планът, споменат в обявление на федералната поръчка от 76 страници от Съвместното командване за специални операции на Министерството на отбраната на САЩ, или JSOC, очертава модерни технологии, желани за най-елитните, тайни военни усилия на страната. „Силите за специални операции (SOF) се интересуват от технологии, които могат да генерират убедителни онлайн персони за използване в социални медийни платформи, сайтове за социални мрежи и друго онлайн съдържание“, гласи обявлението, публикувано от Intercept.
Документът уточнява, че JSOC иска да създава онлайн потребителски профили, които „изглеждат като уникален индивид, който е разпознаваем като човек, но не съществува в реалния свят“, като всеки от тях включва „множество изражения“ и „снимки с качество за държавна идентификация“.
В допълнение към неподвижни изображения на фалшиви хора, в документа се отбелязва, че поръчката „трябва да включва изображения на лица и фон, видео на лица и фон и аудио“ и JSOC се надява да може да генерира „видео селфи“ с тези измислени хора. Тези видеоклипове ще включват изцяло фалшиви изображения: всяко фалшиво селфи ще идва със съвпадащ фалшив фон, „за да се създаде виртуална среда, неоткриваема от алгоритмите на социалните мрежи“.
През последните години Пентагонът вече беше хванат да използва фалшиви потребители в социалните мрежи, за да прокара свои интереси. През 2022 г. Meta и Twitter премахнаха пропагандна мрежа, използваща фалшиви акаунти, управлявани от Централното командване на САЩ, включително някои с профилни снимки, генерирани с методи, подобни на тези, описани от JSOC. Разследване от 2024 г. разкри кампания на Командването за специални операции, използваща фалшиви потребители на социални медии, целящи да подкопаят чуждестранното доверие в китайската ваксина срещу Ковид.
Миналата година Командването за специални операции или SOCOM изрази интерес към използването на видео съдържание от дийп фейкове, общ термин за синтезирани аудиовизуални данни, предназначени да бъдат неразличими от истинските, за „операции за влияние, цифрова измама, прекъсване на комуникацията и кампании за дезинформация. ” „Дийп фейк“ (от английския израз deep fake) или дълбока фалшификация е технология, която използва форма на изкуствен интелект, съчетана с машинно обучение, за да се заменят във видеоклип или аудиозапис изказвания или действия на различни хора.
„Дийпфейк“ технологията беше популяризирана през 2017 г. Обикновено се използва за развлекателни цели и порнография, като лицето на един човек се поставя върху тялото на друг по реалистичен начин.
Такива изображения се генерират с помощта на различни техники за машинно обучение, като обикновено се използва софтуер, който е „обучен“ да разпознава и пресъздава човешки черти чрез анализиране на масивна база данни с лица и тела. Тазгодишният списък с желания на SOCOM посочва интерес към софтуер, подобен на StyleGAN, инструмент, пуснат от Nvidia през 2019 г., който захранва световно известния уебсайт „Този човек не съществува “. В рамките на една година след старта на StyleGAN, Facebook заяви, че е свалил мрежа от акаунти, които са използвали технологията за създаване на фалшиви профилни снимки. Оттогава изследователите от академичния и частния сектор са ангажирани в надпревара между нови начини за създаване на неоткриваеми дълбоки фалшификати и нови начини за откриването им.
Много правителствени служби вече изискват така нареченото верификация на живо, за да предотвратят използването на дийп фейкове, и искат от кандидатите да качат селфи видео, за да покажат, че са истински човек – пречка, която SOCOM иска да преодолее.