«`html
Ofcom инициировал «срочный контакт» с xAI, компанией Илона Маска в области искусственного интеллекта, после сообщений о том, что ее инструмент Grok AI якобы способен генерировать «изображения детей сексуального характера» и цифровым способом раздевать женщин.
Представитель регулирующего органа заявил, что он также расследует опасения по поводу предполагаемого создания Grok «изображений обнаженных» людей.
BBC рассмотрела многочисленные случаи на платформе X, когда пользователи просили чат-бота изменить существующие изображения, изображая женщин в бикини без их согласия или помещая их в сексуально откровенные сценарии.
X пока не ответила на запросы о комментариях. В воскресенье платформа выпустила предупреждение для своей пользовательской базы, предостерегая от использования Grok для создания незаконного контента, включая материалы, содержащие сексуальное насилие над детьми.
Илон Маск опубликовал заявление, указывающее, что лица, которые инструктируют ИИ генерировать незаконный контент, будут «нести те же последствия», как если бы они напрямую загрузили этот материал сами.
Официальная политика допустимого использования XAI явно запрещает «изображать подобия людей в порнографической манере». Однако отчеты показывают, что пользователи используют Grok для цифрового раздевания людей без надлежащего разрешения.
Изображения Кэтрин, принцессы Уэльской, были среди тех, которые, как сообщается, были изменены пользователями Grok на X, изображая ее без одежды.
BBC обратилась в Кенсингтонский дворец за комментариями.
Европейская комиссия заявила, что «серьезно изучает этот вопрос», и власти Франции, Малайзии и Индии, как сообщается, оценивают ситуацию.
Интернет-фонд защиты детей Великобритании подтвердил BBC, что получил сообщения от общественности об изображениях, сгенерированных Grok на X.
Однако организация заявила, что еще не выявила изображения, которые превышают юридический порог Великобритании для классификации как изображения сексуального насилия над детьми.
Grok функционирует как бесплатный виртуальный помощник, с дополнительными премиальными функциями, отвечая на запросы пользователей X, которые отмечают его в своих постах.
Саманта Смит, журналист, обнаружившая, что пользователи использовали ИИ для создания ее изображений в бикини, поделилась в пятницу в программе BBC PM, что чувствовала себя «дегуманизированной и сведенной к сексуальному стереотипу».
«Хотя не я была в состоянии раздетости, это было похоже на меня, и я чувствовала себя как я, и я чувствовала себя так же, как если бы кто-то действительно опубликовал мою обнаженную фотографию или фотографию в бикини», — сказала она.
Согласно Закону о безопасности в интернете (OSA), Ofcom определяет создание или распространение интимных или сексуально откровенных изображений, включая сгенерированные ИИ «дипфейки», человека без его явного согласия как незаконное.
Технологические компании также обязаны предпринимать «соответствующие шаги» для снижения риска того, что пользователи из Великобритании столкнутся с таким контентом, и «быстро» удалять его после уведомления.
Дама Чи Онвура, председатель Комитета по науке, инновациям и технологиям, описала сообщения как «глубоко тревожные».
Она заявила, что Комитет считает OSA «крайне неадекватным» и охарактеризовала его как «шокирующий пример того, как граждане Великобритании остаются незащищенными, в то время как компании, занимающиеся социальными сетями, действуют безнаказанно».
Она призвала правительство принять рекомендации Комитета, обязывающие платформы социальных сетей «взять на себя большую ответственность за свой контент».
Представитель Европейской комиссии Томас Ренье заявил в понедельник, что ему известно о сообщениях, сделанных Grok, «демонстрирующих откровенный сексуальный контент», а также о «некоторых материалах, сгенерированных с изображениями, похожими на детские».
«Это незаконно», — сказал он, назвав это также «ужасающим» и «отвратительным».
«Именно так мы это видим, и этому нет места в Европе», — сказал он.
Ренье сказал, что X «прекрасно знает», что ЕС «очень серьезно» относится к соблюдению своих правил для цифровых платформ — в декабре оштрафовав X на 120 миллионов евро (104 миллиона фунтов стерлингов) за нарушение своего Закона о цифровых услугах.
Представитель Министерства внутренних дел заявил, что оно принимает законы, запрещающие инструменты «раздевания», и что в соответствии с новым уголовным преступлением любой, кто поставляет такие технологии, «столкнется с тюремным заключением и значительными штрафами».
Подпишитесь на нашу рассылку новостей Tech Decoded, чтобы следить за главными технологическими историями и тенденциями в мире. За пределами Великобритании? Зарегистрируйтесь здесь.
Некоторые крупные розничные продавцы и независимые магазины внедрили AI-сканирование тела, видеонаблюдение или оборудование для распознавания лиц для выявления таких преступлений, как магазинные кражи.
Совет графства Нортумберленд проверяет, как AI может ускорить принятие решений по планированию защиты от наводнений.
Обработка данных дронов может занять несколько часов, но инструмент AI выполняет эту работу за считанные секунды.
Мы попросили нескольких экспертов предсказать, какие технологии мы будем использовать к 2050 году
Это означает, что китайская фирма впервые обогнала своего американского конкурента по годовым продажам.
«`
**Character Count:** 8078
**Word Count:** 1191