باشرت Ofcom “اتصالًا عاجلًا” مع xAI، شركة الذكاء الاصطناعي التابعة لإيلون ماسك، بعد ورود تقارير تفيد بأن أداة Grok AI التابعة لها قادرة على إنشاء “صور جنسية للأطفال” وتجريد النساء من ملابسهن رقميًا.
صرح متحدث باسم الهيئة التنظيمية بأنها تحقق أيضًا في المخاوف المحيطة بإنتاج Grok المزعوم لـ “صور عارية” للأفراد.
راجعت بي بي سي حالات متعددة على منصة X حيث طلب المستخدمون من روبوت الدردشة تغيير الصور الموجودة، وتصوير النساء بملابس السباحة دون موافقتهن أو وضعهن في سيناريوهات موحية جنسيًا.
لم ترد X بعد على طلبات التعليق. يوم الأحد، وجهت المنصة تحذيرًا لقاعدة مستخدميها، تحذرهم من استخدام Grok لإنشاء محتوى غير قانوني، بما في ذلك مواد الاعتداء الجنسي على الأطفال.
نشر إيلون ماسك بيانًا يشير إلى أن الأفراد الذين يوجهون الذكاء الاصطناعي لإنشاء محتوى غير قانوني “سيعانون من نفس العواقب” كما لو كانوا قد قاموا بتحميل المواد بأنفسهم مباشرةً.
تحظر سياسة الاستخدام المقبول الرسمية لـ XAI صراحةً “تصوير صور الأشخاص بطريقة إباحية”. ومع ذلك، تشير التقارير إلى أن المستخدمين يستغلون Grok لتجريد الأفراد رقميًا من ملابسهم دون إذن مناسب.
كانت صور كاثرين، أميرة ويلز، من بين الصور التي تم تغييرها من قبل مستخدمي Grok على X، والتي تصورها بدون ملابس.
تواصلت بي بي سي مع قصر كنسينغتون للتعليق.
ذكرت المفوضية الأوروبية أنها “تدرس الأمر بجدية” وأن السلطات في فرنسا وماليزيا والهند كانت تقوم بتقييم الوضع.
أكدت مؤسسة مراقبة الإنترنت في المملكة المتحدة لبي بي سي أنها تلقت تقارير من الجمهور بشأن الصور التي تم إنشاؤها بواسطة Grok على X.
ومع ذلك، ذكرت المنظمة أنها لم تحدد بعد صورًا تتجاوز العتبة القانونية في المملكة المتحدة لتصنيفها على أنها صور اعتداء جنسي على الأطفال.
يعمل Grok كمساعد افتراضي مجاني، مع ميزات متميزة اختيارية، ويستجيب لمطالبات مستخدمي X الذين يضعونه في علامات في منشوراتهم.
شاركت سامانثا سميث، وهي صحفية اكتشفت أن المستخدمين وظفوا الذكاء الاصطناعي لإنشاء صور لها بملابس السباحة، مع برنامج PM على بي بي سي يوم الجمعة أنها شعرت “بالتجريد من الإنسانية والاختزال إلى نمط جنسي”.
وقالت: “على الرغم من أنني لم أكن أنا في حالة تعرٍّ، إلا أنها بدت مثلي وشعرت بها وكأنها أنا وشعرت بأنها تنتهكني كما لو أن شخصًا ما نشر بالفعل صورة عارية أو صورة لي بملابس السباحة”.
بموجب قانون السلامة على الإنترنت (OSA)، تحدد Ofcom إنشاء أو توزيع صور حميمة أو جنسية صريحة، بما في ذلك “التزييف العميق” الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، لشخص ما دون موافقة صريحة منه على أنه غير قانوني.
تلتزم شركات التكنولوجيا أيضًا باتخاذ “الخطوات المناسبة” للتخفيف من خطر مواجهة المستخدمين في المملكة المتحدة لمثل هذا المحتوى وإزالته “بسرعة” عند الإخطار.
وصفت ديم تشي أونوورا، رئيسة لجنة العلوم والابتكار والتكنولوجيا، التقارير بأنها “مقلقة للغاية”.
وذكرت أن اللجنة وجدت أن قانون السلامة على الإنترنت “غير كافٍ بشكل مؤسف” ووصفته بأنه “مثال صادم على كيفية ترك مواطني المملكة المتحدة غير محميين بينما تتصرف شركات التواصل الاجتماعي مع الإفلات من العقاب”.
وحثت الحكومة على تبني توصيات اللجنة، وإجبار منصات التواصل الاجتماعي “على تحمل مسؤولية أكبر عن محتواها”.
قال توماس رينييه، المتحدث باسم المفوضية الأوروبية، يوم الاثنين إنه على علم بالمنشورات التي نشرها Grok “والتي تظهر محتوى جنسيًا صريحًا”، بالإضافة إلى “بعض المخرجات التي تم إنشاؤها بصور شبيهة بالأطفال”.
وقال: “هذا غير قانوني”، ووصفه أيضًا بأنه “مروع” و”مقزز”.
وقال: “هذه هي الطريقة التي نراها بها، وليس لهذا مكان في أوروبا”.
قال رينييه إن X “يدرك جيدًا” أن الاتحاد الأوروبي “جاد للغاية” بشأن تطبيق قواعده على المنصات الرقمية – بعد أن فرض غرامة على X بقيمة 120 مليون يورو (104 ملايين جنيه إسترليني) في ديسمبر لانتهاك قانون الخدمات الرقمية الخاص به.
وقال متحدث باسم وزارة الداخلية إنها تقوم بسن تشريعات لحظر أدوات التعري، وبموجب جريمة جنائية جديدة، فإن أي شخص يزود بمثل هذه التقنية “سيواجه عقوبة بالسجن وغرامات كبيرة”.
اشترك في نشرتنا الإخبارية Tech Decoded لمتابعة أهم القصص والاتجاهات التقنية في العالم. خارج المملكة المتحدة؟ سجل هنا.
قدمت بعض كبرى متاجر التجزئة والمتاجر المستقلة عمليات مسح للجسم بالذكاء الاصطناعي أو كاميرات المراقبة أو معدات التعرف على الوجه لتحديد الجرائم مثل السرقة من المتاجر.
يختبر مجلس مقاطعة نورثمبرلاند كيف يمكن للذكاء الاصطناعي تسريع قرارات التخطيط للفيضانات.
قد تستغرق معالجة بيانات الطائرات بدون طيار ساعات، ولكن أداة الذكاء الاصطناعي تقوم بالمهمة في غضون ثوانٍ معدودة.
طلبنا من العديد من الخبراء التنبؤ بالتكنولوجيا التي سنستخدمها بحلول عام 2050
يمثل هذا المرة الأولى التي تتفوق فيها الشركة الصينية على منافستها الأمريكية في المبيعات السنوية.