Дипфейки штучного інтелекту загрожують глобальним виборам.

Телефон Дівіендри Сінгха Джадуна дзвонить без трубки. Джадун , відомий як «індійський Deepfaker», відомий тим, що використовує штучний інтелект для створення боллівудських сюжетів і телевізійної реклами.

Але коли на виборах в Індії почалося голосування, Джадун каже, що сотні політиків вимагали його послуг, причому більше половини вимагали «неетичних» речей. Кандидати просили його підробити аудіозаписи конкурентів, які роблять фотожаби під час кампанії, або накласти обличчя претендентів на порнографічні зображення. Деякі кампанії вимагали низькоякісних фальшивих відеороликів із власним кандидатом, які могли бути оприлюднені, щоб поставити під сумнів будь-які прокляті справжні відео, які з’являться під час виборів.

31-річний Джадун каже, що відмовляється від роботи, спрямованої на наклепи чи обман. Але він очікує, що чимало консультантів підуть, викрививши реальність найбільших у світі виборів, оскільки понад півмільярда індійських виборців збираються на дільниці.

«Єдине, що заважає нам створювати неетичні дипфейки, — це наша етика», — сказав Джадун The Post. «Але зупинити це дуже важко».

Вибори в Індії, які розпочалися минулого тижня і триватимуть до початку червня, пропонують попередній перегляд того, як вибух інструментів штучного інтелекту трансформує демократичний процес, полегшуючи розробку безперебійних фейкових ЗМІ навколо кампаній. Більше половини населення планети проживає в більш ніж 50 країнах, де відбудуться вибори в 2024 році, що стане ключовим роком для глобальних демократій.

Хоча невідомо, скільки фейків штучного інтелекту було зроблено про політиків, експерти кажуть, що вони спостерігають глобальне зростання виборчих дипфейків.

«Цього року я бачу більше [політичних дипфейків], ніж торік, і ті, які я бачу, є більш витонченими та переконливими», — сказав Хані Фарід, професор інформатики Каліфорнійського університету в Берклі.

Divyendra Singh Jadoun, творець deepfake і засновник Polymath Solutions, працює у своєму офісі в виборчому окрузі Пушкар в індійському штаті Раджастхан 16 квітня. (Saumya Khandelwal для The Washington Post)

Співробітник працює над проектом політичного змісту в офісі Polymath Solutions в Раджастхані, Індія, 16 квітня. (Saumya Khandelwal для The Washington Post)

У той час як політики та регулятори від Брюсселя до Вашингтона поспішають розробити законодавство, яке обмежує аудіо, зображення та відео на базі штучного інтелекту під час кампанії, виникає нормативний вакуум. Знаковий для Європейського Союзу закон про штучний інтелект набуде чинності лише після червневих парламентських виборів. У Конгресі США двопартійне законодавство , яке забороняє неправдиве зображення федеральних кандидатів за допомогою ШІ, навряд чи стане законом до виборів у листопаді. Декілька штатів США прийняли закони, які карають людей, які знімають оманливі відео про політиків, створюючи політичний мозаїку по всій країні.

Тим часом існують обмежені перепони, які стримують політиків та їхніх союзників від використання штучного інтелекту для обману виборців, а правоохоронці рідко впораються з фейками, які можуть швидко поширюватися в соціальних мережах або групових чатах. Демократизація штучного інтелекту означає, що такі люди, як Джадун, а не регулювальні органи, повинні приймати етичні рішення, щоб запобігти спричиненому ШІ хаосу виборів.

«Давайте не будемо стояти осторонь, поки наші вибори зіпсуються», — сказала сенатор Емі Клобучар (штат Міннесота), голова Комітету з правил Сенату, у своїй промові минулого місяця в Атлантичній раді. «...Це нагадує момент «волосся у вогні». Це не момент «давайте почекаємо три роки і подивимось, як воно піде».

Сенатор Емі Клобучар (D-Міннесота) у Капітолії Сполучених Штатів у округу Колумбія в березні 2023 року. (Метт Макклейн/The Washington Post)

«Більш витончений і переконливий»

Протягом багатьох років національно-державні групи заповнювали Facebook, Twitter (тепер X) та інші соціальні мережі дезінформацією, наслідуючи ігор, яку Росія відома в 2016 році, щоб розпалити розбрат на виборах у США. Але штучний інтелект дозволяє брати участь меншим суб’єктам, що робить боротьбу з неправдою розривною та важкою справою.

Міністерство внутрішньої безпеки попередило представників виборних органів у записці , що генеративний штучний інтелект може бути використаний для посилення кампаній іноземного впливу, націлених на вибори. Інструменти штучного інтелекту можуть дозволити зловмисникам видавати себе за посадових осіб, які працюють на виборах, йдеться в записці DHS, поширюючи невірну інформацію про те, як голосувати або про цілісність виборчого процесу.

Ці попередження стають реальністю в усьому світі. Підтримувані державою актори використовували генеративний ШІ , щоб втрутитися у вибори на Тайвані на початку цього року. Відповідно до звіту Microsoft, у день виборів група, пов’язана з Комуністичною партією Китаю, опублікувала згенероване ШІ аудіо відомого політика, який вибув з виборів у Тайвані, підтримавши іншого кандидата . Але політик, власник Foxconn Террі Гоу, ніколи не робив такого схвалення, і YouTube видалив аудіо.

Тайвань врешті-решт обрав Лай Чін-те, кандидата, проти якого виступало керівництво Комуністичної партії Китаю, сигналізуючи про те, що кампанія не може вплинути на результати виборів.

Microsoft очікує, що цього року Китай використає подібний посібник в Індії, Південній Кореї та Сполучених Штатах. «Зростаючі експерименти Китаю щодо розширення мемів, відео та аудіо ймовірно продовжаться — і можуть виявитися більш ефективними в подальшому», — йдеться у звіті Microsoft.

Але низька вартість і широка доступність генеративних інструментів штучного інтелекту дали можливість людям без державної підтримки брати участь у шахрайстві, яке конкурує з кампаніями національних держав.

У Молдові на відео AI deepfake зображено прозахідну президентку країни Майю Санду, яка йде у відставку та закликає людей підтримати пропутінську партію під час місцевих виборів. У Південній Африці цифрово змінена версія репера Емінема підтримала опозиційну партію Південної Африки напередодні виборів у країні в травні.

У січні політичний агент Демократичної партії підробив голос президента Байдена, щоб закликати виборців на первинних виборах у штаті Нью-Гемпшир не йти на вибори — цей трюк мав на меті привернути увагу до проблем медіа.

Зростання дипфейків зі штучним інтелектом може змінити демографічні показники тих, хто балотується, оскільки зловмисники непропорційно використовують синтетичний контент для націлювання на жінок.

Протягом багатьох років Румін Фархана, політик опозиційної партії в Бангладеш, стикався з сексуальними домаганнями в Інтернеті. Але минулого року в соцмережах з’явилося її фото в бікіні, зроблене штучним інтелектом.

Румін Фархана, політик від головної опозиційної Націоналістичної партії Бангладеш (BNP), був помилково зображений у бікіні на відео, створеному за допомогою штучного інтелекту. (Al-emrun Garjon/AP)

Фархана сказав, що незрозуміло, хто зробив це зображення. Але в Бангладеш, країні з консервативною мусульманською більшістю, фотографія викликала образливі коментарі звичайних громадян у соціальних мережах, і багато виборців припустили, що фотографія справжня.

Такі вбивства персонажів можуть перешкодити жінкам-кандидатам піддаватися політичному життю, сказав Фархана.

«Які б нові речі не з’являлися, вони завжди використовуються в першу чергу проти жінок, вони є жертвами в кожному випадку», – сказав Фархана. «ШІ в жодному разі не є винятком».

"Зачекайте, перш ніж ділитися цим"

За відсутності активності з боку Конгресу штати вживають заходів, а міжнародні регулятори підписують добровільні зобов’язання компаній.

Близько 10 штатів прийняли закони, які передбачають покарання для тих, хто використовує ШІ для обману виборців. Минулого місяця губернатор штату Вісконсін підписав двопартійний законопроект, який передбачає штрафувати людей, які не розкривають ШІ в політичній рекламі. А закон штату Мічиган карає будь-кого, хто свідомо розповсюджує дипфейк, створений ШІ, протягом 90 днів після виборів.

Проте незрозуміло, чи покарання — від штрафу до 1000 доларів США і до 90 днів тюремного ув’язнення, залежно від муніципалітету — є достатньо строгими, щоб стримати потенційних порушників.

Через обмежену технологію виявлення та невелику кількість призначеного персоналу правоохоронним органам може бути важко швидко підтвердити, чи дійсно відео чи зображення створено ШІ.

Через відсутність нормативних актів урядовці прагнуть добровільних угод від політиків і технологічних компаній, щоб контролювати поширення виборчого контенту, створеного ШІ. Віце-президент Європейської комісії Віра Йоурова заявила, що надіслала листи ключовим політичним партіям у європейських країнах-членах із «проханням» протистояти використанню маніпулятивних методів. Однак, за її словами, політики та політичні партії не матимуть жодних наслідків, якщо не прислухаються до її прохання.

Книги про індійську політику в офісі Polymath Solutions. (Saumya Khandelwal для The Washington Post)

«Я не можу сказати, чи будуть вони виконувати нашу пораду чи ні», — сказала вона в інтерв'ю. «Мені буде дуже сумно, якщо не тому, що якщо у нас є амбіції керувати нашими державами-членами, ми також повинні показати, що можемо виграти вибори без брудних методів».

Йоурова розповіла, що в липні 2023 року вона попросила великі соціальні медіа-платформи позначити продукти, створені ШІ, напередодні виборів. Запит отримав неоднозначну реакцію в Кремнієвій долині, де деякі платформи сказали їй, що буде неможливо розробити технологію для виявлення ШІ.

OpenAI, який створює чат-бот ChatGPT і генератор зображень DALL-E, також намагався налагодити відносини з компаніями соціальних медіа, щоб розв'язати проблему розповсюдження політичних матеріалів, створених ШІ. На Мюнхенській конференції з безпеки в лютому 20 провідних технологічних компаній пообіцяли об’єднатися для виявлення та видалення шкідливого вмісту ШІ під час виборів 2024 року.

«Це проблема всього суспільства», — сказала Анна Маканджу, віце-президент із глобальних питань OpenAI, під час інтерв’ю Post Live. «Це не в наших інтересах, щоб ця технологія використовувалася таким чином, і всі є досить мотивовані, особливо тому, що зараз ми маємо уроки з попередніх виборів і попередніх років».

Проте компанії не зазнають жодних штрафів, якщо вони не виконають своїх зобов’язань. Між заявленою політикою OpenAI і її дотриманням уже є прогалини. Супер PAC за підтримки інсайдерів Кремнієвої долини запустив чат-бот зі штучним інтелектом перспективного кандидата в президенти Діна Філліпса на базі програмного забезпечення ChatGPT компанії, порушуючи заборону політичних кампаній OpenAI на використання його технології. Компанія не забороняла бота , поки про це не повідомила The Washington Post.

Джадун, який проводить політичну роботу зі штучним інтелектом для головних виборчих партій Індії, сказав, що поширення дипфейків не може вирішити уряд сам по собі — громадяни повинні бути більш освіченими.

«Будь-який контент, який змушує ваші емоції підніматися на наступний рівень, — сказав він, — просто зупиніться й зачекайте, перш ніж ділитися ним».