Openai ، meta -stisting chatbot يجيب على أسئلة المراهقين حول الموضوعات الحساسة
سيقوم Openai والهدف بضبط موارد ChatBot للاستجابة بشكل أفضل للمراهقين في الأزمات ، بعد أن تقارير مختلفة من الإبلاغ عن المستخدمين الصغار لإيذاء أنفسهم أو غيرهم ، وفقًا للشركات.
“لقد قدمنا مؤخرًا أ جهاز التوجيه في الوقت الحقيقي كتب Openai في نماذج الدردشة الفعالة ونماذج التفكير بناءً على سياق المحادثة “. يوم الثلاثاء مدونة نشر.
وأضافت الشركة: “سرعان ما سنبدأ في توجيه بعض المحادثات السرية-كما هو الحال عندما يكتشف نظامنا النموذج الحاد من النماذج المنطقية ، مثل GPT-5 ، بحيث يمكنك تقديم إجابات أكثر فائدة ومفيدة ، بغض النظر عن النموذج الذي تم اختياره للمرة الأولى”.
في وقت سابق من هذا العام ، شكل Openai مجلس التجارب على الرعاية الاجتماعية وشبكتنا من الأطباء العالميين لتعزيز التفاعل الصحي مع نماذج اللغة الكبيرة وقال إن 250 طبيبًا من 60 دولة شاركوا مساهماتهم في وظائف الأداء الحالية.
وتأتي التدابير الجديدة بعد 16 عامًا في كاليفورنيا توفي بسبب الانتحار بعد التحدث إلى ChatGPT من Openai. يدعي والديه أن المنصة شجعه على أخذ حياته.
وصف محامي الأسرة يوم الثلاثاء إعلان Openai بأنه “وعود غامضة بالقيام بعمل أفضل” و “لا شيء أكثر من فريق إدارة الأزمات في Openai ، في محاولة لتغيير الموضوع”. وكالة أسوشيتيد برس ذكرت.
لقد طلبوا من المدير التنفيذي سام ألمان أن “يقولون بشكل لا لبس فيه إنهم يعتقدون أن شاتغبت آمن أو يسحبه على الفور من السوق.”
تم الإبلاغ عن حالات مماثلة من الاتجاهات العنيفة التي يتم تشجيعها من قبل chatbots منفصلة في فلوريدا و تكساس.
قال الهدف TechCrunch سيقوم بتحديث سياساتك لتعكس المشاركة الأنسب مع المراهقين بعد عدد من المشكلات. قالت الشركة إنها لن تسمح لمستخدمي المراهقين بعد الآن بمناقشة تشويه الذات أو الانتحار أو الأغذية المضطربة أو غير كافية من الدردشة.
“مع نمو مجتمعنا وتطور التكنولوجيا ، فإننا نتعلم باستمرار كيف يمكن للشباب التفاعل مع هذه الأدوات وتعزيز حمايةنا وفقًا لذلك” ، قال باب ستيفاني أوتاي -أو البارتي.
“مع استمرارنا في تحسين أنظمتنا ، نضيف المزيد من الدرابزين مثل الاحتياطات الخارجة عن طريق تدريب AIS لدينا حتى لا نشارك مع المراهقين في هذه الموضوعات ، ولكن لإرشادهم إلى الموارد المتخصصة والحد من الوصول إلى المراهقين إلى مجموعة مختارة من شخصيات IA الآن ،” استمرت Otway ، ونحن سنستمر في التقدم ، ونحن سوف نستمر في التقدم ، ونحن سوف نستمر في التقدم ، ونحن سوف نستمر في التقدم ، ونحن سوف نستمر في التقدم. تكيف مع نهجنا.
