اتهمت خبيرة في مجال الإساءة عبر الإنترنت مولد الفيديو بالذكاء الاصطناعي التابع لإيلون ماسك بأنه “خيار متعمد” لإنشاء صور إباحية صريحة لتيلور سويفت دون أي مطالبة أولية.
صرحت كلير ماكجلين، أستاذة القانون التي ساهمت في صياغة تشريع يجرم التزييف العميق الإباحي، بأن “هذا ليس كراهية للنساء عن طريق الصدفة، بل هو عن طريق التصميم”.
وفقًا لتقرير صادر عن The Verge، فإن الوضع “الحار” الجديد في Grok Imagine أنتج بسهولة “مقاطع فيديو عارية تمامًا وغير خاضعة للرقابة” لنجمة البوب، حتى عندما لم يتم طلب محتوى صريح.
كما سلط التقرير الضوء على غياب بروتوكولات التحقق من العمر المناسبة، على الرغم من تنفيذها كقانون في يوليو.
تم الاتصال بـ XAI، الشركة المسؤولة عن Grok، للتعليق على هذه الادعاءات.
والجدير بالذكر أن سياسة الاستخدام المقبول الخاصة بـ XAI تحظر صراحة “تصوير صور الأشخاص بطريقة إباحية”.
أكدت البروفيسورة ماكجلين من جامعة دورهام أن “حقيقة أن هذا المحتوى يتم إنتاجه دون مطالبة يوضح التحيز المناهض للمرأة في الكثير من تكنولوجيا الذكاء الاصطناعي”.
وأضافت: “كان بإمكان منصات مثل X منع ذلك إذا اختارت ذلك، لكنها اتخذت خيارًا متعمدًا بعدم القيام بذلك”.
يمثل هذا الحادث حالة أخرى تم فيها استغلال صورة تايلور سويفت بهذه الطريقة.
في يناير 2024، انتشرت مقاطع فيديو إباحية عميقة صريحة تتميز بصورتها على نطاق واسع، وحصدت ملايين المشاهدات على منصات مثل X و Telegram.
التزييف العميق عبارة عن صور تم إنشاؤها بواسطة الكمبيوتر تستبدل وجه شخص بوجه آخر.
أثناء اختبار ضمانات Grok Imagine، أدخلت جيس ويذربيد، وهي كاتبة أخبار في The Verge، المطالبة التالية: “تايلور سويفت تحتفل بمهرجان كوتشيلا مع الأولاد”.
أنتج Grok صورًا ثابتة لسويفت وهي ترتدي فستانًا بجانب مجموعة من الرجال.
يمكن بعد ذلك تحويل هذه الصور إلى مقاطع فيديو قصيرة ضمن أربعة إعدادات مختلفة: “عادي” أو “ممتع” أو “مخصص” أو “حار”.
وقالت السيدة ويذربيد لبي بي سي نيوز: “مزقت [الفستان] على الفور، ولم يكن لديها سوى ثونغ بشرابة تحتها، وبدأت في الرقص، بشكل كامل وغير خاضع للرقابة، ومعرضة تمامًا”.
وأضافت: “لقد صدمت من السرعة التي استقبلت بها ذلك – لم أطلب بأي حال من الأحوال إزالة ملابسها، كل ما فعلته هو تحديد خيار “حار””.
ذكر موقع Gizmodo حالات مماثلة لمحتوى صريح يضم نساء مشهورات، على الرغم من أن بعض عمليات البحث أسفرت عن مقاطع فيديو غير واضحة أو رسالة “تم تعديل الفيديو”.
لم تتمكن بي بي سي من التأكد بشكل مستقل من نتائج عمليات إنشاء الفيديو بالذكاء الاصطناعي.
ذكرت السيدة ويذربيد أنها اشتركت في النسخة المدفوعة من Grok Imagine، والتي تكلف 30 جنيهًا إسترلينيًا، باستخدام حساب Apple تم إنشاؤه حديثًا.
في حين طلب Grok تاريخ ميلادها، قالت إنه لم يتم اتخاذ أي إجراءات أخرى للتحقق من العمر.
بموجب القوانين البريطانية الجديدة التي دخلت حيز التنفيذ في نهاية يوليو، يجب على المنصات التي تعرض صورًا صريحة التحقق من أعمار المستخدمين باستخدام طرق “دقيقة تقنيًا وقوية وموثوقة وعادلة”.
قالت هيئة تنظيم وسائل الإعلام Ofcom لبي بي سي نيوز: “تخضع المواقع والتطبيقات التي تتضمن أدوات Generative AI التي يمكنها إنشاء مواد إباحية للتنظيم بموجب القانون”.
وذكرت: “نحن على دراية بالخطر المتزايد والمتطور بسرعة الذي قد تشكله أدوات GenAI في الفضاء الإلكتروني، وخاصة على الأطفال، ونحن نعمل على ضمان وضع المنصات لضمانات مناسبة للتخفيف من هذه المخاطر”.
حاليًا، يعد إنشاء التزييف العميق الإباحي غير قانوني عند استخدامه في المواد الإباحية الانتقامية أو تصوير الأطفال.
ساعدت البروفيسورة ماكجلين في صياغة تعديل للقانون يجرم إنشاء أو طلب جميع التزييفات العميقة الإباحية غير الرضائية.
تعهدت الحكومة بسن هذا التعديل، لكنه لم يدخل حيز التنفيذ بعد.
قالت البارونة أوين، التي اقترحت التعديل في مجلس اللوردات: “يجب أن تتمتع كل امرأة بالحق في اختيار من يمتلك صورًا حميمة لها”.
وتابعت الليدي أوين في بيان لبي بي سي نيوز: “من الضروري عدم استخدام هذه النماذج بطريقة تنتهك حق المرأة في الموافقة سواء كانت من المشاهير أم لا”.
وأضافت: “تعتبر هذه الحالة مثالًا واضحًا على سبب عدم تأخير الحكومة في تنفيذ تعديلات اللوردات”.
وقال متحدث باسم وزارة العدل: “إن التزييفات العميقة ذات الطابع الجنسي الصريحة التي يتم إنشاؤها دون موافقة مهينة وضارة”.
“نحن نرفض التسامح مع العنف ضد النساء والفتيات الذي يلطخ مجتمعنا ولهذا السبب أصدرنا تشريعًا لحظر إنشائها في أسرع وقت ممكن”.
عندما انتشرت التزييفات العميقة الإباحية التي تظهر وجه تايلور سويفت على نطاق واسع في عام 2024، حظر X مؤقتًا عمليات البحث عن اسمها على المنصة.
في ذلك الوقت، قالت X إنها “تزيل بنشاط” الصور وتتخذ “إجراءات مناسبة” ضد الحسابات المتورطة في نشرها.
لاحظت السيدة ويذربيد أن فريق The Verge اختار تايلور سويفت لاختبار ميزة Grok Imagine بسبب هذا الحادث السابق.
وقالت: “لقد افترضنا – خطأ الآن – أنه إذا كانوا قد وضعوا أي نوع من الضمانات لمنعهم من محاكاة صور المشاهير، فستكون هي الأولى في القائمة، بالنظر إلى المشكلات التي واجهتهم”.
تم الاتصال بممثلي تايلور سويفت للتعليق.
اشترك في نشرتنا الإخبارية Tech Decoded لمتابعة أهم القصص والاتجاهات التقنية في العالم. خارج المملكة المتحدة؟ اشترك هنا.
كان بيتر ضحية للمحتالة المتسلسلة كيري جراي، التي احتالت عليه بمبلغ يقارب 3500 جنيه إسترليني.
أثارت مقابلة بين صحفي أمريكي واستنساخ بالذكاء الاصطناعي لمراهق قُتل خلال إطلاق نار في مدرسته انتقادات على الإنترنت.
تشمل الروبوتات المعروضة للبيع في المتجر خدمًا بشريين وشركاء شطرنج وكلابًا.
يشجع ظهور الذكاء الاصطناعي بعض الشركات على جعل أقسام الموارد البشرية وتكنولوجيا المعلومات الخاصة بها تعمل بشكل أوثق معًا.
يوقع الرئيس على أمر يهدف إلى توسيع أنواع الاستثمارات المسموح بها في حسابات التقاعد.