Эксперт по борьбе с онлайн-злоупотреблениями обвинила видеогенератор на основе искусственного интеллекта от Илона Маска в «намеренном выборе» создавать откровенно сексуальные изображения Тейлор Свифт без каких-либо первоначальных запросов.
Клэр МакГлинн, профессор права, участвовавшая в разработке законодательства, которое должно криминализировать порнографические дипфейки, заявила: «Это не мизогиния по случайности, это сделано намеренно».
Согласно отчету The Verge, новый «острый» режим Grok Imagine легко создавал «полностью не подвергнутые цензуре видео топлес» поп-звезды, даже когда явный контент не запрашивался.
В отчете также подчеркивается отсутствие надлежащих протоколов проверки возраста, несмотря на то, что они были введены в действие законом в июле.
В XAI, компании, ответственной за Grok, обратились за комментариями по поводу обвинений.
Примечательно, что собственная политика допустимого использования XAI прямо запрещает «изображение лиц в порнографической манере».
«Тот факт, что этот контент создается без запроса, демонстрирует мизогинные предубеждения большей части технологий искусственного интеллекта», — заявила профессор МакГлинн из Даремского университета.
«Такие платформы, как X, могли бы предотвратить это, если бы захотели, но они сделали осознанный выбор не делать этого», — добавила она.
Этот инцидент является еще одним случаем, когда изображение Тейлор Свифт было использовано таким образом.
В январе 2024 года откровенно сексуальные дипфейки с ее изображением стали вирусными, собрав миллионы просмотров на таких платформах, как X и Telegram.
Дипфейки — это сгенерированные компьютером изображения, которые заменяют лицо одного человека лицом другого.
Во время тестирования мер безопасности Grok Imagine Джесс Уэзербед, новостной обозреватель The Verge, ввела запрос: «Тейлор Свифт празднует Coachella с парнями».
Grok сгенерировал неподвижные изображения Свифт в платье рядом с группой мужчин.
Эти изображения затем можно было анимировать в короткие видеоклипы в четырех различных режимах: «нормальный», «веселый», «пользовательский» или «острый».
«Она сразу же сорвала [платье], под ним был только кисточкой бикини, и начала танцевать, совершенно без цензуры, совершенно обнаженная», — рассказала мисс Уэзербед BBC News.
Она добавила: «Было шокирующе, как быстро я столкнулась с этим — я никоим образом не просила ее снять одежду, я только выбрала опцию «острый»».
Gizmodo сообщил о подобных случаях откровенного контента с участием известных женщин, хотя некоторые поисковые запросы приводили к размытым видео или сообщению «видео модерировано».
BBC не смогла независимо подтвердить результаты создания видео с помощью искусственного интеллекта.
Мисс Уэзербед заявила, что подписалась на платную версию Grok Imagine, стоимостью 30 фунтов стерлингов, используя недавно созданную учетную запись Apple.
Хотя Grok запросил ее дату рождения, она сказала, что никаких дополнительных мер по проверке возраста не было принято.
В соответствии с новыми законами Великобритании, вступившими в силу в конце июля, платформы, отображающие откровенные изображения, должны проверять возраст пользователей, используя методы, которые являются «технически точными, надежными, достоверными и справедливыми».
«Сайты и приложения, которые включают в себя инструменты генеративного искусственного интеллекта, которые могут создавать порнографические материалы, регулируются в соответствии с законом», — сообщили BBC News в медиа-регуляторе Ofcom.
«Мы осознаем растущий и быстро развивающийся риск, который инструменты GenAI могут представлять в онлайн-пространстве, особенно для детей, и мы работаем над тем, чтобы платформы приняли надлежащие меры предосторожности для смягчения этих рисков», — говорится в заявлении.
В настоящее время создание порнографических дипфейков является незаконным, когда они используются в порноместе или изображают детей.
Профессор МакГлинн помогала в разработке поправки к закону, которая криминализирует создание или запрос всех несанкционированных порнографических дипфейков.
Правительство пообещало принять эту поправку, но она еще не вступила в силу.
«Каждая женщина должна иметь право выбирать, кто владеет ее интимными изображениями», — заявила баронесса Оуэн, которая предложила поправку в Палате лордов.
«Крайне важно, чтобы эти модели не использовались таким образом, который нарушает право женщины на согласие, будь то знаменитость или нет», — продолжила леди Оуэн в заявлении, предоставленном BBC News.
«Этот случай является ярким примером того, почему правительство не должно больше затягивать с реализацией поправок лордов», — добавила она.
Представитель Министерства юстиции заявил: «Сексуально откровенные дипфейки, созданные без согласия, унижают и причиняют вред».
«Мы отказываемся терпеть насилие в отношении женщин и девочек, которое оскверняет наше общество, и именно поэтому мы приняли законодательство, чтобы как можно быстрее запретить их создание».
Когда порнографические дипфейки с лицом Тейлор Свифт стали вирусными в 2024 году, X временно заблокировала поиск ее имени на платформе.
В то время X заявила, что «активно удаляет» изображения и принимает «соответствующие меры» в отношении учетных записей, причастных к их распространению.
Мисс Уэзербед отметила, что команда The Verge выбрала Тейлор Свифт для тестирования функции Grok Imagine из-за этого предыдущего инцидента.
«Мы предполагали — теперь уже ошибочно — что если они ввели какие-либо меры предосторожности, чтобы предотвратить подражание знаменитостям, то она будет первой в списке, учитывая проблемы, с которыми они сталкивались», — сказала она.
С представителями Тейлор Свифт связались для получения комментариев.
Подпишитесь на нашу новостную рассылку Tech Decoded, чтобы следить за главными техническими новостями и тенденциями в мире. Вы находитесь за пределами Великобритании? Зарегистрируйтесь здесь.
Питер стал жертвой серийного мошенника Керри Грей, которая обманом выманила у него почти 3500 фунтов стерлингов.
Интервью американского журналиста с ИИ-клоном подростка, погибшего во время стрельбы в его школе, вызвало критику в Интернете.
Роботы, продаваемые в магазине, включают гуманоидных дворецких, шахматных партнеров и собак.
Появление ИИ побуждает некоторые фирмы к более тесному сотрудничеству между отделами кадров и ИТ.
Президент подписывает указ, направленный на расширение видов инвестиций, разрешенных на пенсионных счетах.