Порнографические дипфейковые изображения Тейлор Свифт циркулируют в Интернете, что делает певицу самой известной жертвой бедствия, с которым изо всех сил пытаются справиться технические платформы и группы по борьбе со злоупотреблениями.
AP
НЬЮ-ЙОРК – Порнографические фейковые изображения Тейлор Свифт циркулируют в Интернете, что делает певицу самой известной жертвой бедствия, с которым изо всех сил пытаются справиться технологические платформы и группы по борьбе со злоупотреблениями.
На этой неделе в социальной сети X начали широко распространяться откровенно сексуальные и оскорбительные фейковые изображения Свифт.
Ее ярая фанатская база «Swifties» быстро мобилизовалась, начав контрнаступление на платформе, ранее известной как Twitter, и хэштегом #ProtectTaylorSwift, чтобы наполнить ее более позитивными изображениями поп-звезды. Некоторые заявили, что сообщали об аккаунтах, которые распространяли дипфейки.
Группа Reality Defender, занимающаяся обнаружением дипфейков, заявила, что отследила поток несогласованных порнографических материалов с изображением Свифт, особенно на X. Некоторые изображения также попали в принадлежащий Meta Facebook и другие платформы социальных сетей.
«К сожалению, к тому времени, как некоторые из них были удалены, они распространились среди миллионов и миллионов пользователей», — сказал Мейсон Аллен, руководитель отдела развития Reality Defender.
Исследователи нашли как минимум пару десятков уникальных изображений, созданных ИИ. Наиболее широко распространенными были изображения, связанные с футболом, где изображалась раскрашенная или окровавленная Свифт, что в некоторых случаях наносило жестокий вред ее фейковой персоне.
Исследователи говорят, что за последние несколько лет количество откровенных дипфейков выросло, поскольку технология, используемая для создания таких изображений, стала более доступной и простой в использовании. В 2019 году отчет, опубликованный компанией DeepTrace Labs, занимающейся искусственным интеллектом, показал, что эти изображения в подавляющем большинстве случаев использовались в качестве оружия против женщин. По его словам, большинство жертв составили голливудские актеры и южнокорейские певцы K-pop.
Бриттани Спанос, старший писатель журнала Rolling Stone, которая преподает курс о Свифте в Нью-Йоркском университете, говорит, что фанаты Свифта быстро мобилизуются в поддержку своего артиста, особенно те, кто очень серьезно относится к своему фэндому и в ситуациях, когда он совершает проступки.
«Это может иметь огромное значение, если она действительно обратится в суд», – сказала она.
Спанос говорит, что проблема глубокой фейковой порнографии аналогична другим проблемам, с которыми Свифт сталкивалась в прошлом, указывая на ее иск 2017 года против диджея радиостанции, который якобы ласкал ее; присяжные присудили Свифт 1 доллар в качестве компенсации за ущерб, сумму, которую ее адвокат Дуглас Болдридж назвал «единым символическим долларом, ценность которого неизмерима для всех женщин в этой ситуации» в разгар движения MeToo. (После этого иск на 1 доллар стал тенденцией, как во встречном иске Гвинет Пэлтроу против лыжника в 2023 году.)
Когда к нему обратились с просьбой прокомментировать фальшивые изображения Свифта, X направил Associated Press сообщение из своей учетной записи безопасности, в котором говорилось, что компания строго запрещает публикацию обнаженных изображений без согласия на своей платформе. Компания также резко сократила количество команд по модерации контента с тех пор, как Илон Маск взял на себя управление платформой в 2022 году.
«Наши команды активно удаляют все идентифицированные изображения и принимают соответствующие меры в отношении учетных записей, ответственных за их публикацию», — написала компания в посте X рано утром в пятницу. «Мы внимательно следим за ситуацией, чтобы гарантировать, что любые дальнейшие нарушения будут немедленно устранены, а контент удален».
Между тем, Meta заявила в своем заявлении, что решительно осуждает «контент, который появляется в различных интернет-сервисах» и работает над его удалением.
«Мы продолжаем следить за нашими платформами на предмет этого нарушающего контента и при необходимости примем соответствующие меры», — заявили в компании.
Представитель Swift не сразу ответил на запрос о комментариях в пятницу.
Аллен сказал, что исследователи на 90% уверены, что изображения были созданы с помощью диффузионных моделей, которые представляют собой тип генеративной модели искусственного интеллекта, которая может создавать новые фотореалистичные изображения на основе письменных подсказок. Наиболее широко известны Stable Diffusion, Midjourney и DALL-E от OpenAI. Группа Аллена не пыталась определить происхождение.
OpenAI заявила, что у нее есть меры защиты, позволяющие ограничить создание вредоносного контента и «отклонять запросы, в которых запрашивается имя общественного деятеля, включая Тейлор Свифт».
Microsoft, которая предлагает генератор изображений, частично основанный на DALL-E, заявила в пятницу, что находится в процессе расследования, не злоупотребляли ли ее инструментом. Как и в случае с другими коммерческими службами искусственного интеллекта, компания заявила, что не допускает «контент для взрослых или интимный контент без согласия, и любые повторные попытки создать контент, противоречащий нашей политике, могут привести к потере доступа к сервису».
Отвечая на вопрос о дипфейках Swift в программе NBC Nightly News, генеральный директор Microsoft Сатья Наделла сказал ведущему Лестеру Холту в интервью, вышедшем во вторник, что еще многое предстоит сделать в установлении защиты ИИ, и «нам следует действовать в этом направлении быстро».
«Это абсолютно тревожно и ужасно, поэтому да, мы должны действовать», — сказал Наделла.
Midjourney, OpenAI и производитель Stable Diffusion Stability AI не сразу ответили на запросы о комментариях.
Федеральные законодатели, которые внесли законопроекты о введении дополнительных ограничений или криминализации дипфейкового порно, отметили, что этот инцидент показывает, почему США необходимо обеспечить более эффективную защиту.
«В течение многих лет женщины становились жертвами дипфейков без согласия, поэтому то, что случилось с Тейлор Свифт, встречается чаще, чем думает большинство людей», — сказала член палаты представителей США Иветт Д. Кларк, демократ из Нью-Йорка, которая ввела закон, требующий от создателей дипфейковый контент с цифровыми водяными знаками.
«Генераторный искусственный интеллект помогает создавать более качественные дипфейки за небольшую часть затрат», — сказал Кларк.
Член палаты представителей США Джо Морелл, еще один демократ из Нью-Йорка, продвигающий законопроект, устанавливающий уголовную ответственность за распространение дипфейкового порно в Интернете, сказал, что то, что случилось со Свифтом, вызывает тревогу и становится все более и более распространенным явлением в Интернете.
«Изображения могут быть фальшивыми, но их воздействие вполне реально», — заявил Морелл в своем заявлении. «Дипфейки происходят каждый день
Источник
https://abc7ny.com/taylor-swift-deepfake-pictures-reality-defender/14364427/
Leave a Reply