تفتقر Grok Imagine ، وهي أداة جديدة لـ XAI Generation AI التي تنشئ صورًا ومقاطع فيديو منظمة العفو الدولية ، إلى الدرابزين ضد المحتوى الجنسي والأفعال العميقة.
ظهرت XAI و Elon Musk Grok تخيلًا لأول مرة خلال عطلة نهاية الأسبوع ، وهي متوفرة الآن في تطبيق Grok iOS و Android لمشتركي Xai Premium Plus و Heavy Grok.
اختبرت Mashable الأداة لمقارنتها باستخدام أدوات توليد صور AI الأخرى ، وبناءً على انطباعاتنا الأولى ، تقف وراء تقنية مماثلة من Openai و Google و Midjourney على المستوى الفني. يفتقر Grok Imagine أيضًا إلى قيام الدرابزينات في الصناعة القياسية لمنع المباريات والمحتوى الجنسي. اتصل Mashable XAI وسنقوم بتحديث هذه القصة إذا تلقينا إجابة.
ال سياسة الاستخدام المقبولة xai يحظر مستخدمي “تصوير أوجه التشابه بين الناس الإباحية”. لسوء الحظ ، هناك الكثير من المسافة بين “الجنسي” و “الإباحية” و Grok تخيل يبدو بعناية معايرة للاستفادة من تلك المنطقة الرمادية. سيقوم Grok Imagine على الفور بإنشاء صور ومقاطع فيديو موحية جنسيًا ، ولكنها لم تعد تظهر العري أو القبلات أو الأعمال الجنسية الحقيقية.
تتضمن معظم شركات الذكاء الاصطناعى التقليدية قواعد واضحة تحظر على المستخدمين إنشاء محتوى ضار محتمل ، بما في ذلك المواد الجنسية والمشاهير. بالإضافة إلى ذلك ، لدى مولدات الفيديو المنافسين مثل Google Veo 3 أو Openai’s Sora حماية داخلية تمنع المستخدمين من إنشاء صور أو مقاطع فيديو للأرقام العامة. يمكن للمستخدمين عادة التحايل على حراس الأمن هؤلاء ، لكنهم يقدمون بعض التحقق من سوء الاستخدام.
ولكن على عكس أعظم منافسيها ، لم تتفادى Xai على محتوى NSFW في AI chatbot grok. قدمت الشركة مؤخرًا صورة Avatar المملوءة بالأنيمي والتي ستشارك في دردشات NSFW ، وستسمح أدوات توليد الصور Grok للمستخدمين بإنشاء صور للمشاهير والسياسيين. يتضمن تخيل Grok أيضًا تكوين “حار” ، وهو ما تمت ترقيتها في الأميرك في الأيام التي تلت صدورها.
جروك “حار” الصورة الرمزية.
الائتمان: تشنغ شين/غيتي إيمس
الجهات الفاعلة من الذكاء الاصطناعى والعرقات العميقة لا تأتي إلى إعلانات YouTube. هم بالفعل هنا.
وقال هنري أجدر: “إذا نظرت إلى فلسفة ألميسكار كفرد ، إذا نظرت إلى فلسفته السياسية ، فهو أكثر بكثير من الوضع التحرري ، أليس كذلك؟ وتحدث عن Grok كنوع من LLM من أجل حرية التعبير”. أخصائي AI Deepfakesفي مقابلة مع Mashable. قال أجدر إنه تحت إشراف Musk و X (Twitter) و Xai و Grok الآن “أكثر من ذلك” للمغادرة نهج الأمن والاعتدال. “
“لذلك عندما يتعلق الأمر بـ XAI ، في هذا السياق ، فوجئت من أن هذا النموذج يمكنه توليد هذا المحتوى ، ما هو بالتأكيد غير مريح ، وهل أقول على الأقل مشكلة كبيرة؟ إنها فريدة من نوعها في معاناة هذه التحديات؟
Grok تخيل الأخطاء على جانب NSFW
جروك تخيل لديه بعض Guardails في المكان. في اختباراتنا ، أزال خيار “حار” مع بعض أنواع الصور. يحزم Grok أيضًا بعض الصور ومقاطع الفيديو ، ووصفها بأنها “معتدلة”. هذا يعني أن XAI يمكنه اتخاذ المزيد من الخطوات بسهولة لمنع المستخدمين من جعل المحتوى المسيء أولاً.
وقال “لا يوجد سبب تقني لعدم إدراج Xai في مدخل وخروج أنظمةها التوليدية-مثل الآخرين”. هاني صديقخبير في الطب الشرعي الرقمي وعلوم الكمبيوتر في جامعة كاليفورنيا في بيركلي في رسالة بريد إلكتروني إلى Mashable.
سرعة الضوء القابلة للضوء
ومع ذلك ، عندما يتعلق الأمر بمحتوى Deepfakes أو NSFW ، يبدو أن Xai مخطئ على جانب السماح ، وهو تباين قوي مع النهج الأكثر حذراً في منافسيهم. قال أجدر إن XAI انتقل بسرعة إلى إطلاق نماذج وأدوات جديدة من الذكاء الاصطناعي ، وربما بسرعة كبيرة.
“معرفة نوع فريق الثقة والأمان والفرق التي تقوم بأشياء كثيرة من الأخلاق وإدارة السلامة ، سواء كان ذلك فريقًا أحمر أو خصمًا لاختبار ، كما تعلمون ، إذا كان يعمل جنبًا إلى جنب مع المطورين ، يبدو أن الوقت الذي يشير إليه إلى آخر.
تكشف اختبارات Mashable أن Grok Imagine لديها أكثر من ذلك بكثير من اعتدال المحتوى أكثر من أدوات AI العامة الأخرى. xai’s للمغادرة ينعكس نهج الاعتدال أيضًا في إرشادات السلامة XAI.
Openai و Google AI vs. Grok: كيف تتناول شركات الذكاء الاصطناعي الأخرى أمان واعتدال المحتوى
الائتمان: جوناثان راا/نورفوتو عبر غيتي إيمس
لدى كل من Openai و Google وثائق مكثفة تصف نهجها للاستخدام المسؤول من الذكاء الاصطناعى والمحتوى المحظور. على سبيل المثال ، تحظر وثائق Google على وجه التحديد المحتوى “الصريح الجنسي”.
واحد وثيقة أمان Google اقرأ: “لا يولد التطبيق محتوى يحتوي على إشارات إلى الأفعال الجنسية أو محتوى فاحش آخر (على سبيل المثال أوصاف رسومية جنسية ، محتوى مصمم للتسبب في الإثارة).” لدى Google أيضًا سياسات ضد خطاب الكراهية والمضايقة والمحتوى الخبيث ، ومحتوىها سياسة الاستخدام التحقيق للولايات المتحدة إنه يحظر استخدام أدوات الذكاء الاصطناعى بطريقة “تسهيل الصور الحميمة غير التوافقية”.
يعتمد Openai أيضًا نهجًا استباقيًا للبلاط من العمق والمحتوى الجنسي.
واحد فتح مدونة منشور يصف الإعلان عن سورا الخطوات التي اتخذتها شركة الذكاء الاصطناعى لتجنب هذا النوع من الإساءة. “اليوم نحن نمنع أشكالًا ضارة بشكل خاص من سوء المعاملة مثل مواد الاعتداء الجنسي على الأطفال والبلاط من العمق الجنسي.” تقول الحاشية المرتبطة بهذا البيان: “أولويتنا الرئيسية هي منع أشكال الإساءة الضارة بشكل خاص ، مثل مواد الاعتداء الجنسي على الأطفال (CSAM) والبلاط الجنسي ، وحظر إنشاءها ، وتصفية التحميلات ومراقبة التحميلات ، وذلك باستخدام أدوات الاكتشاف المتقدمة وإرسال تقارير إلى المركز الوطني للأطفال المستغلين (NCMEC) عند CSAM و CSAM والطفل نحو الأطفال.”
يقاس هذا التدبير يتناقض بشدة مع الطرق التي روج بها Musk Grok في X ، حيث شارك صورة فيديو صغيرة لملاك مفلس ، أشقر وأزرق العينين مع الملابس الداخلية السيئة.
هذه تغريدة غير متوفرة حاليًا. قد يكون يحمل أو تمت إزالته.
Openai يأخذ أيضا خطوات بسيطة لإيقاف DeepFakes ، مثل رفض التعليمات للصور ومقاطع الفيديو التي تذكر الشخصيات العامة بالاسم. وفي اختبارات Mashable ، تعد أدوات فيديو AI من Google حساسة بشكل خاص للصور التي قد تتضمن تشابه الشخص.
بالمقارنة مع هذه الهياكل الأمنية الطويلة (التي ما زال العديد من الخبراء يعتقدون أنها غير كافية) ، سياسة الاستخدام المقبولة xai هو أقل من 350 كلمة. السياسة تضع عبء منع العميق في مستخدم. تقول السياسة: “أنت حر في استخدام خدمتنا ، مثل العثور على التعديل ، طالما كنت تستخدمه لتكون إنسانًا جيدًا ، تتصرف بأمان ومسؤولية ، والامتثال للقانون ، لا تضر الناس وتحترم أولياء الأمور”.
في الوقت الحالي ، تظل القوانين واللوائح ضد AI Deepfakes و NCII في طفولتهم.
وقع الرئيس دونالد ترامب مؤخرًا قانون Take It Down ، والذي يتضمن الحماية ضد DeepFakes. ومع ذلك ، فإن هذا القانون لا يجرم الخلق Deepfakes ، ولكن توزيع من هذه الصور.
وقال فريد لـ Mashable: “هنا في الولايات المتحدة ، يضع قانون Take It Down متطلبات منصة التواصل الاجتماعي لإزالة (وليس الصور الحميمة بالتراضي) بمجرد إخطارها”. “على الرغم من أن هذا لا يعالج مباشرة جيل NCII من الناحية النظرية – فهو يعالج توزيع هذه المادة. هناك العديد من قوانين الولاية التي تحظر إنشاء NCII ، ولكن يبدو أن الإعدام غير منتظم الآن.”
الإفصاح: رفع Ziff Davis ، شركة Mashable’s Control Company ، في أبريل دعوى قضائية ضد Openai ، مدعيا أنه انتهك حقوق الطبع والنشر Ziff Davis في تدريب وتشغيل أنظمة AI الخاصة به.