шахрайство з дипфейками в Індії, схема інвестування з дипфейками, дипфейки в торгівлі акціями, технології виявлення дипфейків, захист від шахрайства в Індії.
411 
Канадський фармацевт опинився в центрі гучного скандалу через підозру в адмініструванні сайту з дипфейк-контентом. Цей інцидент викликав широкий суспільний резонанс та обговорення етичних і правових аспектів використання штучного інтелекту. Подія стала черговим сигналом про необхідність посилення контролю над створенням та розповсюдженням дипфейків, щоб захистити приватність і права людини в цифрову епоху.
Disclaimer: У цій статті з самого початку обговорюється контент сексуального характеру.
Платформа MrDeepFakes позиціонувала себе як найбільший та найзручніший ресурс для створення дипфейкової порнографії зі знаменитостями. Сайт, що збирав мільйони відвідувань щомісяця, містив близько 70 000 відвертих та іноді насильницьких відео, які в цілому переглянули понад 2,2 мільярда разів.
Основний контент сайту складався з відео, в яких за допомогою штучного інтелекту обличчя відомих жінок вставляли в сцени жорсткої порнографії без їхньої згоди.
Крім того, сайт підтримував активну спільноту з понад 650 000 учасників, які ділилися порадами щодо створення такого контенту, обговорювали замовлення на нові дипфейки та часто залишали мізогіністичні та зневажливі коментарі про своїх жертв.
Протягом багатьох років вебсайт MrDeepFakes залишався оповитим таємницею, діючи у юридичній сірій зоні та ретельно приховуючи особи тих, хто керував ресурсом. Адміністратори сайту залишалися анонімними, що дозволяло платформі безперешкодно функціонувати та набирати популярність.
Однак нещодавно були оприлюднені дані, які дозволили викрити особу ключового адміністратора, пов’язаного з діяльністю MrDeepFakes. Це відкриття стало знаковим кроком у розумінні того, хто стояв за найбільшим у світі ресурсом дипфейкової порнографії, та поставило питання про відповідальність за створення й поширення незаконного контенту.
Девід До — 36-річний канадський фармацевт, який, згідно з інформацією з відкритих джерел, живе скромним та респектабельним життям у передмісті за межами Торонто. Фотографії та відео, опубліковані в Інтернеті, показують його з родиною, друзями та колегами. Випускник університету має добре оплачувану роботу в державній лікарні та їздить на новому Tesla.
Але До вів подвійне життя: таємно він є найвідомішою фігурою, яка контролювала адміністрацію MrDeepFakes. Він також був впливовим членом його зростаючої онлайн-спільноти, створюючи власне діпфейкове порно та допомагаючи користувачам, які хочуть створювати свої власні.
Онлайн-публікації показують, що До — технічно підкована людина, яка давно цікавиться створенням та розповсюдженням контенту для дорослих, а також дають уявлення про спроби приховати його особу.
Ідентифікація адміністратора відбулася завдяки аналізу масових витоків даних, які містили облікові записи з відкритих баз даних порушень. Перехресне зіставлення електронних адрес, IP-адрес, повторюваних імен користувачів та унікального пароля дозволило простежити цифровий слід, що охоплював понад десятирічний період. Це дало змогу дослідникам зв’язати особу адміністратора з діяльністю сайту MrDeepFakes.
Після викриття ключового адміністратора з ним намагалися зв’язатися з метою отримання коментарів, але на момент публікації відповіді не надійшло. Було також відзначено, що після оприлюднення інформації сторінку адміністратора у Facebook та акаунти деяких членів його родини було видалено.
Після цього з’явилися відомості про тимчасовий виїзд адміністратора до Португалії разом із родиною, після чого він повернувся до Канади. Подія викликала значний суспільний резонанс, підкреслюючи важливість боротьби з незаконним використанням технологій штучного інтелекту.
У неділю сайт MrDeepFakes було закрито. «Критично важливий постачальник послуг назавжди припинив роботу», – йдеться в повідомленні на платформі. «Ми не будемо перезапускати його. Будь-який вебсайт, який стверджує про це, є фейком».
У понеділок CBC знову звернулася до Девіда До, але він відмовився відповідати на запитання про свою причетність до MrDeepFakes. «Будь ласка, я не хочу, щоб мене записували», – сказав він. «Мені треба йти. Я зараз зайнятий».
Особистість особи чи осіб, які контролюють MrDeepFakes, була предметом уваги ЗМІ з моменту появи вебсайту після заборони спільноти «deepfakes» на Reddit на початку 2018 року.
Але хостинг-провайдери порносайту розійшлися по всьому світу, а преміум-членство можна придбати за криптовалюту, що зробило практично неможливим відстеження власника.
Адам Додж, засновник організації EndTAB (End Technology-Enabled Abuse), зазначив, що платформа MrDeepFakes була однією з перших, хто впровадив технологію дипфейків, націлену саме на жінок. Він підкреслив, що сайт з часом еволюціонував з ресурсу для обміну відео у своєрідний майданчик для навчання та ринок, де створювали та поширювали матеріали сексуального насильства за допомогою штучного інтелекту. Це стосувалося як знаменитостей, так і приватних осіб.
Додж також зазначив, що цифровий світ сприяє анонімності тих, хто хоче заподіяти шкоду, роблячи при цьому майже неможливим для жертв встановити особу кривдника.
Проблема використання штучного інтелекту для створення дипфейків набуває все більшого суспільного резонансу, адже подібні платформи стають інструментом для поширення контенту без згоди людей. Випадок з MrDeepFakes вкотре привернув увагу до питання необхідності посилення правового регулювання у сфері цифрової безпеки та етики.
Німецька репортерка Патріція Шлоссер — одна з жінок, які стали жертвами технології діпфейків, що дедалі частіше. Шлоссер розшукала чоловіка, який завантажив на MrDeepFakes понад 30 її знімків сексуального характеру без згоди.
Для цього розслідування дослідники провели судово-медичний аналіз форумів на вебсайті MrDeepFakes. Форуми – це віртуальний майданчик, де учасники замовляють діпфейки та обмінюються порадами щодо створення відео за допомогою тієї ж технології, яка використовується для створення порно помсти.
Відео, опубліковані на сайті, описуються виключно як «контент зі знаменитостями», але дописи на форумі містили «оголені» зображення приватних осіб. Учасники форуму називали жертв «суками» та «повіями», а деякі стверджували, що поведінка жінок провокувала поширення сексуального контенту з їхньою участю. Користувачів, які запитували діпфейки своєї «дружини» чи «партнерки», скеровували до надсилання особистих повідомлень авторам та спілкування на інших платформах, таких як Telegram.
Пошук на форумах видав два облікові записи для «співробітників» MrDeepFakes. Один приєднався у березні 2019 року та також вказаний як «модератор». Інший приєднався у лютому 2018 року та також вказаний як «адміністратор» (два додаткові облікові записи адміністраторів, створені у 2018 та 2021 роках, не були вказані як співробітники, а один нині неіснуючий обліковий запис, раніше позначений як співробітник та модератор, був створений через рік після створення сайту).
Таким чином, у центрі уваги цього розслідування був найстаріший обліковий запис на форумах з ідентифікатором користувача «1» у вихідному коді, який також був єдиним профілем, що містив спільні титули співробітника та адміністратора. Довгий час цей обліковий запис використовував нікнейм «dpfks».
Дослідники почали з аналізу профілю. Біографія dpfks містила мало ідентифікаційної інформації, але архів за 2021 рік показує, що обліковий запис опублікував 161 відео, яке зібрало понад п’ять мільйонів переглядів. Він отримав значок «Перевірений автор відео».
Дописи на форумі документують участь dpfks як творця та лідера спільноти. Архівні дані показують, що dpfks опублікував детальний посібник з використання програмного забезпечення, яке створює діпфейкове порно, опублікував правила вебсайту та інструкції щодо контенту, оголошував про пошук волонтерів для роботи модераторами та надавав технічні поради користувачам.
Пости Dpfks мали слоган: «Вдавай, поки не досягнеш успіху».
В архіві за 2019 рік , у відповідях користувачам у чаті сайту, dpfks заявили, що вони «присвячені» покращенню платформи. «Є причина, чому ми є найбільшим сайтом діпфейків. Я дбаю про спільноту та навчаю інших».
«Не думаю, що інші власники сайтів достатньо переймаються створенням власних діпфейків та оновленнями [sic] . Мої перші кілька діпфейків також були жахливими, чим більше їх створюєш, тим кращим стаєш».
Легітимні онлайн-платформи вживають заходів для захисту особистої інформації користувачів, але витоки даних є поширеними і можуть торкнутися будь-кого, від пересічного користувача до високопосадовців уряду США. У цьому випадку витоки даних дозволили дослідникам пов’язати облікові записи електронної пошти, які повторно використовувалися на порносайтах, форумах варез (піратський контент) та платформах адміністрування серверів, з ключовим оператором MrDeepFakes.
Центральним елементом висновків був один обліковий запис електронної пошти – [email protected] – який використовувався в посиланні «Зв’язатися з нами» внизу сторінки офіційних форумів MrDeepFakes в архівах за 2019 та 2020 роки.
Використовуючи викрадені дані, дослідники пов’язали цю адресу Gmail із псевдонімом «AznRico». Цей псевдонім, схоже, складається з відомого скорочення для «азіат» та іспанського слова, що означає «багатий» (або іноді «сексуальний»). Наявність «Azn» свідчить про азійське походження користувача, що було підтверджено подальшим дослідженням. На одному сайті в дописі на форумі зазначено, що AznRico писав про свій «сайт для дорослих», що є скороченням для вебсайту з порновідео.
Псевдонім AznRico часто асоціювався з особистою адресою Hotmail на повне ім’я Девіда До, яке з’являлося у витоках інформації разом із цим іменем користувача 22 рази. Дослідники також виявили торговий рахунок AznRico для криптовалюти, який пізніше змінив своє ім’я користувача на «duydaviddo».
Аналіз показав, що адреса Gmail MrDeepFakes використовувалася для реєстрації профілю на окремому порнографічному веб-сайті. Цей профіль використовував унікальний 11-символьний пароль, який також використовувався в інших облікових записах, зокрема в профілі на сайті знайомств Ashley Madison, зареєстрованому на особисту адресу Hotmail До. Пошук унікального пароля у зламаних базах даних видав 17 результатів, пов’язаних з іншими адресами електронної пошти, які містили повне ім’я До.
Подальші пошуки облікового запису Hotmail До призвели до подальших витоків інформації, які вказували на його дату народження. Обліковий запис Hotmail також був пов’язаний з адресою проживання в Онтаріо, де, згідно з публічними записами, знаходиться будинок, що належить батькам До. Ця електронна адреса також використовувалася для реєстрації облікового запису Yelp для користувача на ім’я «Девід Д», який проживає в районі Великого Торонто.
До ніколи публічно не визнавав, що керує MrDeepFakes, але одна адреса електронної пошти, опублікована порносайтом, лягла в основу цифрового сліду, який призвів до імен користувачів, паролів та інших облікових записів електронної пошти, що збігаються з його особистими та професійними даними з 2008 року.
Девід До тримається в тіні під своїм ім’ям, але його фотографії були опубліковані в соціальних мережах його родини та роботодавця. Він також з’являється на фотографіях та у списку гостей на весіллі в Онтаріо, а також у випускному відео університету.
У профілі До на Airbnb публікувалися захоплені відгуки про поїздки в Канаду, США та Європу (акаунти До та його партнерки на Airbnb були видалені після того, як CBC звернулася до нього в понеділок). Його домашня адреса, а також адреса будинку його батьків, були розмиті в Google Street View, функція конфіденційності доступна за запитом.
Наприкінці 2000-х, навчаючись в університеті, До брав участь у створенні Xinoa (xinoa.net), варез-форуму. Архівні дані за 2008 рік показують, що особиста адреса Hotmail До, яка містить його повне ім’я, відображається у вихідному коді як контакт адміністратора сайту.
Сторінка профілю «ddo» позначена тегами «Корінний адміністратор» та «Власник Xinoa», а також вказана дата народження, що збігається з датою народження До. Профіль містить посилання для завантаження телешоу, одне з яких супроводжувалося коментарем про «тиждень іспитів» у 2009 році, коли До навчався в університеті. Це ім’я користувача також схоже на профіль До в Instagram («ddo.jpg»), посилання на який було включено в розділ біографії його облікового запису Facebook під іменем «Doh Dave». Обидва облікові записи в соціальних мережах було видалено.
Дані про порушення безпеки показують, що обліковий запис на форумі інтернет-маркетингу був зареєстрований з використанням електронної адреси адміністратора Xinoa. Цей обліковий запис був пов’язаний з IP-адресою, що належить Університету Ватерлоо, де До отримав ступінь з біомедичних наук у 2010 році та з фармації у 2014 році, повідомляє Rocketreach.
Витік даних Ешлі Медісон у 2015 році показав, що користувач «ddo88» зареєстрований на сайті знайомств з адресою Hotmail До та був вказаний як «чоловік із заручниками, який шукає жінок» у Торонто. Він описував себе як людину азійського походження, зростом 173 см та вагою 66 кг. Зламаний профіль був пов’язаний з адресою в Торонто, а також містив дату народження, яка збігається з датою народження До в публічних записах.
Ксіноа стала трампліном для більш складної операції.
У лютому 2018 року, коли До працював фармацевтом, Reddit забанив свою майже 90 000-тисячну спільноту діпфейків після запровадження нових правил, що забороняють «мимовільну порнографію». Того ж тижня було запущено сайт dpfks.com, попередник MrDeepFakes, згідно з архівним списком змін.
Аналіз нині неіснуючого домену показує, що два сайти використовують спільні теги Google analytics та серверне програмне забезпечення, а також адміністратора форуму , який використовував нікнейм «dpfks». Архівні дані за 2018 та 2019 роки показують, що два сайти перенаправляють або посилаються один на одного. У пізніше видаленому дописі на форумі MrDeepFakes dpfks підтверджує зв’язок між двома сайтами та обіцяє, що нова платформа «залишиться тут, щоб залишитися».
«MrDeepFakes.com раніше називався dpfks.com, і ми відкрили свої двері невдовзі після заборони Reddit», – йдеться у дописі 2018 року. «Я знаю, що приєднання до нового форуму чи спільноти – це як почати все спочатку, але спільнота невелика, і всі важливі гравці триматимуться разом. Я обіцяю підтримувати цю спільноту якомога довше, щоб спільноті діпфейків не довелося знову метушитися та переїжджати».
Пізніше, у 2018 році, у дописі на Voat, неіснуючому онлайн-форумі, подібному до Reddit, dpfks заявили, що вони «володіють і керують» MrDeepFakes. У відповідь іншому користувачеві dpfks згадує про своє життя поза роботою порносайту. «Я щойно повернувся додому з роботи, — йшлося в дописі, — а тепер повернувся до цього!» Деякі з найперших постів dpfks на Voat були діпфейковими відео інтернет-особистостей та акторок. Одним з перших постів dpfks на форумах MrDeepFakes було посилання на діпфейкове відео стрімера відеоігор Pokimane.
Серед інших цілей була американська політикиня Александрія Окасіо-Кортес, для якої dpfks поділився папкою, що містила понад 6000 зображень, які можна було використовувати для створення діпфейкової порнографії. Перш ніж цього тижня MrDeepFakes закрився, на сайті було розміщено 125 графічних відео з тегом Окасіо-Кортес, які загалом набрали понад 5,3 мільйона переглядів. Виявивши, що минулого року її перетворили на діпфейкове порновідео, Окасіо-Кортес розповіла Rolling Stone, що «оцифрування насильницького приниження» схоже на фізичне зґвалтування та сексуальне насильство.
Ще однією ціллю dpfks була американська YouTube-зірка Gibi_ASMR, яка здобула популярність в Інтернеті завдяки своїм відео ASMR (автономна сенсорна меридіанна реакція). Dpfks створювала та поширювала порнографічні діпфейки ютубера на форумах MrDeepFakes. У заяві, опублікованій EqualityNow у 2021 році, вона сказала: «Вони керують цим бізнесом, наживаються на моєму обличчі, роблячи те, на що я не давала згоди, ніби мої страждання – це ваш засіб існування. Це мене дуже розлютило, але знову ж таки, я нічого не могла вдіяти, тому мені просто довелося це покинути».
У 2018 році dpfks опублікував двохвилинне діпфейкове відео американської акторки, лауреатки премії «Оскар», з описом: «[Ім’я пропущено] не знімається в порно, але в цьому фейковому відео вона повністю гола з розставленими ногами. Спостерігайте за її обличчям… поки вона намагається це прийняти».
Пости на форумі під різними псевдонімами збігаються з тими, що були знайдені під час порушень, пов’язаних з Do або адресою MrDeepFakes Gmail. Вони показують, що цей користувач вирішував проблеми з платформою, вербував дизайнерів, авторів, розробників та спеціалістів з пошукової оптимізації, а також залучав офшорні послуги.
Ім’я користувача «AznRico» зазвичай асоціювалося з електронною поштою До та зустрічалося в кількох публікаціях в Інтернеті. У 2009 році, за роки до запуску MrDeepFakes, цей нині заблокований користувач публікував повідомлення на форумі інтернет-маркетингу, обговорюючи методи заробітку в Інтернеті, зокрема монетизацію відеотрафіку.
AznRico також опублікував допис на форумі з автомобільного освітлення у 2009 році, щоб попросити поради щодо ремонту фар для автомобіля в Канаді – Mitsubishi Lancer Ralliart 2006 року випуску. В іншій темі на тому ж форумі AznRico завантажив кілька зображень автомобіля, одне з яких було архівним і містило метадані, що вказували на те, що його було знято на Sony Ericsson K850i.
У 2009 році на окремому форумі AznRico заявив, що має цю модель телефону, і опублікував допис про усунення несправностей пристрою (на цьому форумі стався витік даних, в результаті якого було розкрито особисту адресу Hotmail та унікальний пароль Девіда До).
Публічні записи, отримані CBC, підтверджують, що батько До є зареєстрованим власником червоного Mitsubishi Lancer Ralliart 2006 року випуску. Хоча будинок батьків До зараз розмитий на Картах Google, автомобіль видно на під’їзній доріжці на двох зображеннях 2009 року та на знімках Apple Maps 2019 року. CBC підтвердила, що автомобіль все ще був біля будинку минулого тижня.
У 2011 році на сайті вакансій для фрілансерів AznRico попросив допомогти створити плагін для потокового відео. У цьому профілі також було зазначено, що користувач проживає в тому ж місті Онтаріо, де розташований будинок батьків До. У 2018 році – того ж року, коли було запущено MrDeepFakes – AznRico попросив поради, як виправити повільне завантаження свого порносайту, який, за їхніми словами, відвідував близько 15 000–20 000 осіб на день. Дані про порушення безпеки показують, що цей обліковий запис був пов’язаний з особистою адресою До в Hotmail.
В одному з дописів на форумі від січня 2020 року користувач «dj01039» скаржиться, що PayPal обмежив їхній «прихований обліковий запис», який використовувався для «продажу віртуальних товарів» (PayPal періодично був доступний як варіант оплати на MrDeepFakes). Ім’я користувача dj01039 збігається зі скороченням адреси електронної пошти ([email protected]), яка була пов’язана з кнопкою пожертвування PayPal на MrDeepFakes у грудні 2019 року.
У червні 2020 року на іншому форумі користувач з таким самим псевдонімом (який пізніше змінив його на «ac2124») заявив, що його прихований обліковий запис було назавжди закрито, і хотів би дізнатися про підставні компанії, які могли б приймати платежі від його імені. Користувач назвав себе «веб-майстром сайту для дорослих», який отримує комісійні від творців, що публікують оригінальні порновідео, а також отримує дохід від показу реклами. До грудня 2020 року, за словами ac2124, їхній веб-сайт заробляв від 4000 до 7000 доларів на місяць.
Дані про витік також пов’язують Gmail MrDeepFakes з обліковим записом на форумах підтримки Kernel Video Sharing (KVS), комерційної системи управління контентом, де користувач «mongoose657» (раніше dj01039) звернувся за допомогою в управлінні сайтом відео. Обговорення, що тривали з 2021 по 2024 рік, збігалися з проблемами серверної частини, що виникають під час роботи великого веб-сайту: рішення для зберігання даних, збої системи квитків та аутсорсинг робіт з розробки.
На форумі для веб-майстрів для дорослих GoFuckYourself.com у 2020 році користувач dpfks (згодом змінений на «mjmango») запитував про анонімні дебетові картки, які рекламувалися як такі, що дозволяють користувачам знімати готівку або оплачувати покупки анонімно. У 2021 році mjmango відповів на запит іншого користувача про те, як монетизувати порносайти.
На іншому форумі ac2124 запитував про країни для створення офшорної компанії та висловив стурбованість щодо перевірок «знай свого клієнта», які використовуються банківським сектором для підтвердження особи своїх клієнтів. У дописі 2020 року ac2124 повідомив, що вони вирішили створити «фіктивний сайт/фронт» для свого сайту для дорослих та запитав про обробку онлайн-платежів та «безпечне зберігання коштів».
У 2022 році користувач ac2124 звернувся за порадою до громадянина Канади, який керує «нішевим веб-сайтом для дорослих», і запитав про «структуру компанії, яка зосереджена на конфіденційності». У дописі йшлося: «Як мінімум, ця особа не повинна бути внесена до жодного публічного реєстратора (як директор, акціонер, кінцевий бенефіціарний власник тощо). Вона відкрита до використання номінальних осіб, відкриття трастів тощо. Які структури або юрисдикції слід розглянути?» Цей користувач також запитував конкретно про створення компанії на Британських Віргінських островах або Кайманових островах, обидві юрисдикції є секретними.
Наприкінці 2023 року користувач mjmango залишив позитивний відгук для графічного дизайнера для дорослих під його дописом, що містив логотип MrDeepFakes. «Нещодавно придбав ще один логотип. Як завжди, чудове спілкування та дозволило кілька повторних редагувань», – йдеться в коментарі. У березні 2024 року користувач ac2124 опублікував повідомлення про затримки доступу до сервісу, який створює «проксі» для «високоризикового веб-сайту», щоб він міг обробляти транзакції від онлайн-платежного процесора Stripe.
У квітні 2024 року голландське видання Algemeen Dagblad (AD) повідомило, що зв’язалося з власником MrDeepFakes, який у своїх наступних репортажах залишився анонімним. AD повідомило, що ця особа стверджувала, що продала веб-сайт, але не надала жодних доказів на підтвердження цього твердження. Наше розслідування не змогло підтвердити, чи був сайт взагалі проданий, і якщо так, то коли.
Девід До не відповів на численні запити про коментарі щодо своєї участі в MrDeepFakes.
411 
4 
262