«`html
Генеральный прокурор Калифорнии инициировал расследование распространения сгенерированных Grok, AI-моделью, разработанной xAI Илона Маска, откровенно сексуальных дипфейков, созданных искусственным интеллектом.
Генеральный прокурор Роб Бонта объявил о начале расследования в своем заявлении, отметив: «Поток сообщений, подробно описывающих несанкционированные материалы сексуального характера, которые xAI произвела и распространила в интернете в последние недели, вызывает глубокую обеспокоенность».
xAI, компания, стоящая за Grok, ранее заявляла, что «любой, кто использует или побуждает Grok создавать незаконный контент, столкнется с теми же последствиями, как если бы он сам загрузил незаконный контент».
Расследование в Калифорнии совпадает с предупреждениями премьер-министра Великобритании сэра Кира Стармера относительно возможных действий против X.
В заявлении в среду Бонта заявил: «Этот материал, изображающий женщин и детей обнаженными и в откровенно сексуальных сценариях, использовался для преследования людей в интернете».
Генеральный прокурор призвал xAI принять немедленные меры по исправлению ситуации.
Губернатор Калифорнии Гэвин Ньюсом, также демократ, написал в среду в X, что решение xAI «создать и поддерживать рассадник для хищников… предосудительно».
BBC обратилась к xAI за комментариями.
В среду Маск написал в X, что ему «неизвестно о каких-либо изображениях обнаженных несовершеннолетних, сгенерированных Grok. Буквально ноль».
«Очевидно, Grok не генерирует изображения спонтанно», — написал Маск. «Он делает это только в соответствии с запросами пользователей».
Технический предприниматель, донор Республиканской партии, также предположил, что критика X политически мотивирована и использует спор вокруг Grok в качестве предлога для цензуры.
В ноябре журнал Wired сообщил, что инструменты других AI-компаний, включая OpenAI и Google, также использовались для цифрового раздевания людей.
На прошлой неделе три американских сенатора-демократа потребовали, чтобы Apple и Google удалили X и Grok из своих магазинов приложений.
В течение нескольких часов после запроса X ограничил свой инструмент генерации изображений, сделав его эксклюзивным для платных подписчиков.
X и Grok остаются доступными в Apple App Store и Google Play.
Это развитие событий происходит на фоне продолжающихся дебатов о юридической защите, предоставляемой технологическим компаниям США в отношении контента, размещаемого пользователями на платформах AI.
Раздел 230 Закона о соблюдении приличий в коммуникациях 1996 года предоставляет онлайн-платформам юридический иммунитет от ответственности за контент, создаваемый пользователями.
Однако профессор Джеймс Гриммельманн из Корнелльского университета утверждает, что этот закон «защищает сайты только от ответственности за сторонний контент от пользователей, а не за контент, который производят сами сайты».
Гриммельманн заявил, что xAI пытается переложить ответственность за изображения на пользователей, но выразил скептицизм относительно жизнеспособности этого аргумента в суде.
«Это не тот случай, когда пользователи сами делают изображения, а затем делятся ими в X», — сказал он.
В этом случае «xAI сама создает изображения. Это выходит за рамки того, к чему применяется Раздел 230», — добавил он.
Сенатор Рон Уайден из Орегона утверждает, что Раздел 230, соавтором которого он является, не распространяется на изображения, сгенерированные AI, утверждая, что компании должны нести полную ответственность за такой контент.
«Я рад видеть, что такие штаты, как Калифорния, активизируются для расследования ужасного генератора детских материалов сексуального насилия Илона Маска», — заявил Уайден BBC в среду.
Уайден входит в число трех сенаторов-демократов, которые потребовали от Apple и Google удалить X и Grok из своих магазинов приложений.
Объявление о расследовании в Калифорнии происходит в то время, когда Великобритания готовит законодательство, которое криминализирует создание несанкционированных интимных изображений.
Регулирующий орган Великобритании, Ofcom, также начал расследование в отношении Grok.
Если Ofcom определит, что платформа нарушила закон, он может наложить штрафы в размере до 10% от ее мирового дохода или 18 миллионов фунтов стерлингов, в зависимости от того, что больше.
В понедельник сэр Кир Стармер сообщил депутатам от лейбористской партии, что социальная сеть X Маска может лишиться «права на саморегулирование», добавив, что «если X не сможет контролировать Grok, мы это сделаем».
Подпишитесь на нашу рассылку Tech Decoded, чтобы следить за главными технологическими новостями и тенденциями в мире. За пределами Великобритании? Зарегистрируйтесь здесь.
Депутат говорит, что хочет, чтобы городской совет Мидлсбро выступал против использования платформы X.
Директор школы Джейми Барри говорит: «Мы хотим использовать платформу, но не ценой безопасности».
Amazon ожидает разрешения на строительство четырех зданий центров обработки данных в Оксфордшире.
Digital Futures Lab изучает, как можно использовать новые технологии, в том числе в исследованиях.
Служба поддержки жертв и свидетелей Гернси заявляет, что увеличение числа жертв «вызывает беспокойство».
«`