باشر المدعي العام في كاليفورنيا تحقيقًا في انتشار الصور الجنسية الإباحية العميقة التي تم إنشاؤها بواسطة الذكاء الاصطناعي Grok، وهو نموذج الذكاء الاصطناعي الذي طورته xAI التابعة لإيلون ماسك.
أعلن المدعي العام روب بونتا عن التحقيق في بيان، مشيرًا إلى أن: “وابل التقارير التي تفصل المواد الجنسية الصريحة غير الرضائية التي أنتجتها ونشرتها xAI عبر الإنترنت في الأسابيع الأخيرة أمر مقلق للغاية.”
ذكرت xAI، الشركة التي تقف وراء Grok، في السابق أن “أي شخص يستخدم أو يحث Grok على إنشاء محتوى غير قانوني سيواجه نفس العواقب كما لو قام بتحميل محتوى غير قانوني بنفسه.”
يتزامن التحقيق في كاليفورنيا مع تحذيرات من رئيس الوزراء البريطاني السير كير ستارمر بشأن إجراءات محتملة ضد X.
في بيان الأربعاء، أكد بونتا: “لقد تم استغلال هذه المواد، التي تصور النساء والأطفال في سيناريوهات عارية وجنسية صريحة، لمضايقة الأفراد عبر الإنترنت.”
حث المدعي العام xAI على اتخاذ تدابير تصحيحية فورية.
نشر حاكم كاليفورنيا غافين نيوسوم، وهو أيضًا ديمقراطي، على X يوم الأربعاء أن قرار xAI “بإنشاء واستضافة أرض خصبة للمفترسين… أمر مشين.”
تواصلت بي بي سي مع xAI للتعليق.
يوم الأربعاء، نشر ماسك على X قائلًا إنه “ليس على علم بأي صور عارية لقاصرين تم إنشاؤها بواسطة Grok. صفر حرفيًا.”
كتب ماسك: “من الواضح أن Grok لا ينشئ صورًا بشكل عفوي. إنه يفعل ذلك فقط وفقًا لطلبات المستخدمين.”
كما أشار رائد الأعمال التكنولوجي، وهو مانح جمهوري، إلى أن انتقاد X مدفوع سياسيًا ويستخدم جدل Grok كذريعة للرقابة.
في نوفمبر، ذكرت مجلة Wired أن أدوات من شركات ذكاء اصطناعي أخرى، بما في ذلك OpenAI و Google، قد استخدمت أيضًا لتعرية الأفراد رقميًا.
في الأسبوع الماضي، طلب ثلاثة أعضاء ديمقراطيين في مجلس الشيوخ الأمريكي من Apple و Google إزالة X و Grok من متاجر التطبيقات الخاصة بكل منهما.
في غضون ساعات من الطلب، قيدت X أداة إنشاء الصور الخاصة بها، مما جعلها حصرية للمشتركين المدفوعين.
لا تزال X و Grok متاحتين على Apple App Store و Google Play.
يأتي هذا التطور وسط جدل مستمر بشأن الحماية القانونية الممنوحة لشركات التكنولوجيا الأمريكية فيما يتعلق بالمحتوى الذي ينشره المستخدمون على منصات الذكاء الاصطناعي.
يمنح القسم 230 من قانون آداب الاتصالات لعام 1996 المنصات عبر الإنترنت حصانة قانونية من المسؤولية عن المحتوى الذي ينشئه المستخدمون.
ومع ذلك، يرى البروفيسور جيمس جريملاند من جامعة كورنيل أن هذا القانون “يحمي المواقع فقط من المسؤولية عن محتوى الطرف الثالث من المستخدمين، وليس المحتوى الذي تنتجه المواقع نفسها.”
صرح جريملاند بأن xAI تحاول التنصل من المسؤولية عن الصور على المستخدمين، لكنه أعرب عن شكوكه بشأن جدوى هذه الحجة في المحكمة.
وقال: “هذه ليست حالة يقوم فيها المستخدمون بإنشاء الصور بأنفسهم ثم مشاركتها على X.”
في هذه الحالة، “تقوم xAI نفسها بإنشاء الصور. وهذا خارج نطاق ما ينطبق عليه القسم 230″، على حد قوله.
جادل السيناتور رون وايدن من ولاية أوريغون بأن القسم 230، الذي شارك في تأليفه، لا يمتد إلى الصور التي يتم إنشاؤها بواسطة الذكاء الاصطناعي، مؤكدًا أنه يجب محاسبة الشركات بالكامل على هذا المحتوى.
وقال وايدن لبي بي سي يوم الأربعاء: “يسعدني أن أرى ولايات مثل كاليفورنيا تتقدم للتحقيق في مولد المواد الإباحية المروعة للأطفال التابع لإيلون ماسك.”
وايدن هو من بين أعضاء مجلس الشيوخ الديمقراطيين الثلاثة الذين طلبوا من Apple و Google إزالة X و Grok من متاجر التطبيقات الخاصة بهما.
يأتي الإعلان عن التحقيق في كاليفورنيا في الوقت الذي تستعد فيه المملكة المتحدة لإصدار تشريع يجرم إنشاء صور حميمة غير توافقية.
كما بدأت الهيئة التنظيمية في المملكة المتحدة، Ofcom، تحقيقًا في Grok.
إذا قررت Ofcom أن المنصة قد انتهكت القانون، فيمكنها فرض غرامات تصل إلى 10٪ من إيراداتها العالمية أو 18 مليون جنيه إسترليني، أيهما أكبر.
يوم الاثنين، أبلغ السير كير ستارمر أعضاء البرلمان العمالي بأن منصة التواصل الاجتماعي X التابعة لماسك قد تفقد “الحق في التنظيم الذاتي”، مضيفًا أنه “إذا كانت X لا تستطيع التحكم في Grok، فسنفعل نحن ذلك.”
اشترك في النشرة الإخبارية Tech Decoded لمتابعة أهم القصص والاتجاهات التقنية في العالم. خارج المملكة المتحدة؟ اشترك هنا.
يقول أحد المستشارين إنه يريد أن يدعو مجلس ميدلزبره ضد استخدام منصة X.
يقول مدير المدرسة جيمي باري “نريد استخدام المنصة، ولكن ليس على حساب السلامة”.
تنتظر أمازون إذنًا بالتخطيط لبناء أربعة مبانٍ لمراكز البيانات في أوكسفوردشاير.
يبحث مختبر المستقبل الرقمي في كيفية استخدام التقنيات الناشئة، بما في ذلك في مجال البحث.
تقول خدمة دعم الضحايا والشهود في غيرنسي إن الزيادة في عدد الضحايا “مقلقة”.