تحذر الولايات من “المخاوف الخطيرة” المفتوحة المفتوحة مع chatbot

حذرت كاليفورنيا وديلاوير Openai يوم الجمعة من أن “مخاوف خطيرة” حول الممارسات الأمنية الخاصة بـ AI بعد أن كانت العديد من الوفيات الأخيرة مرتبطة بـ ChatGPT.

في رسالة إلى مجلس Openai ، أشار المدعي العام في كاليفورنيا روب بونتا ، ومحامي ديلاوير العام كاثلين جينينغز إلى أنهم التقوا مؤخرًا مع الفريق القانوني للشركة و “ينتقل بالشروط الأقوى بأن الأمن يمثل أولوية غير قابلة للتفاوض ، خاصةً عندما يتعلق الأمر بالأطفال.

تأتي رسالة الثنائي الأخيرة بعد أن رفعت عائلة عائلة تبلغ من العمر 16 عامًا على Openai يوم الثلاثاء الماضي ، مدعيا أن Chatgpt شجعه على أن يأخذ حياته. مجلة وول ستريت ذكرت أيضا في الأسبوع الماضي ، قام Chatbot بتغذية كونيتيكت 56 جنون العظمة قبل قتل نفسه ووالدته في أغسطس.

وكتب بونتا وجينينغز: “الوفيات الأخيرة غير مقبولة”. “لقد هزوا بحق ثقة الجمهور الأمريكي في Openai وفي هذه الصناعة.”

“يجب أن يضمن Openai – وصناعة الذكاء الاصطناعي – بشكل استباقي وشفافي التنفيذ الآمن لمنظمة العفو الدولية”. “القيام بذلك مطلوب من خلال مهمة Openai الخيرية وسيكون ضروريًا وتطبيقه من قبل مكاتبنا.”

أبرز المدعي العام للدولة الحاجة إلى مركزية الأمن ، في حين أن المناقشات مع الشركة حول خطط إعادة الهيكلة الخاصة بها.

وقالت بونتا وجينينغز: “إن رؤيتنا المشتركة هي أن Openai والقطاع بشكل عام ليسوا حيث يجب أن يضمنوا السلامة في تطوير وتنفيذ منتجات الذكاء الاصطناعى”.

وأضافوا “مع مواصلة حوارنا المتعلق بخطة إعادة رسملة Openai ، يجب أن نعمل على تسريع وتوسيع الأمن كقوة حكومية في مستقبل هذه التكنولوجيا القوية”.

كان Openai ، الذي يستند إلى كاليفورنيا ودمجته في ديلاوير ، متورطًا سابقًا مع الزوج في جهوده لتغيير هيكل الشركة للشركة.

في البداية ، أعلنت عن خطط لجعل الانتقال تمامًا إلى شركة غير ربحية دون إشراف غير ربحية في ديسمبر. ومع ذلك ، فقد عاد الدافع ، واتفاق على الحفاظ على المنظمة غير الهادفة للربح ، مستشهدة بالمناقشات مع المدعي العام وغيرهم من القادة.

بعد التقارير الحديثة حول الوفيات التي تربطها ChatGPT ، أعلنت Openai يوم الثلاثاء أنها كانت تعدل كيف يستجيب Chatbots للأشخاص الذين يعانون من الأزمات وإصدار حماية أقوى للمراهقين.

وقال بريت تايلور ، رئيس مجلس إدارة مجلس Openai ، في بيان يوم الجمعة إن الشركة ملتزمة تمامًا بمعالجة المخاوف التي أثارها المدعون العامون العامون.

وقال “إننا نشعر بالحزن على هذه المآسي وأعمق تعاطفنا مع العائلات”. “الأمن هو أعظم أولويتنا ونحن نعمل عن كثب مع صياغات السياسة في جميع أنحاء العالم.”

وأضاف تايلور: “ما زلنا ملتزمون بالتعلم والتصرف بشكل عاجل لضمان أن أدواتنا مفيدة وآمنة للجميع ، وخاصة الشباب”. “لهذا الغرض ، سنستمر في إجراء هذه المناقشات المهمة مع المدعين العامين العامين ، حتى نستفيد من مساهمتهم في المستقبل.”

Openai ليست الشركة الوحيدة لإطلاق النار في الآونة الأخيرة حول AI chatbots. ذكرت رويترز في الشهر الماضي ، كان لدى وثيقة الأهداف السياسية أمثلة تشير إلى أن مفاتيح الدردشة الخاصة بهم يمكن أن تشارك في محادثات “رومانسية أو حسية” مع الأطفال.

وقالت شركة وسائل التواصل الاجتماعي إنها أزالت هذه اللغة. وقال أيضا في وقت لاحق تقوم TechCrunch بتحديث سياساتها لتقييد مواضيع معينة لمستخدمي المراهقين ، بما في ذلك المناقشات حول تشويه الذات أو الانتحار أو التغلب على محادثات رومانسية مضطربة أو غير كافية.

تم تحديثه في الساعة 18:30 بتوقيت شرق الولايات المتحدة