يقول سام ألمان إن تشاتجر سيتوقف عن الحديث عن الانتحار مع المراهقين

في يوم الثلاثاء ، قال الرئيس التنفيذي لشركة Openai ، سام ألمان ، إن الشركة كانت تحاول موازنة الخصوصية والحرية وأمن المراهقين – المبادئ التي اعترف بها ، كانت في صراع. منه منشور المدونة لقد جاء قبل ساعات من تركيز جمهور في مجلس الشيوخ على فحص الأضرار التي لحقت بوتات من الذكاء الاصطناعي ، والتي تحتفظ بها اللجنة الفرعية للجريمة والمعاداة وتقديم بعض أولياء أمور الأطفال الذين ماتوا بسبب الانتحار بعد التحدث إلى الدردشة.

“يتعين علينا فصل المستخدمين الذين تقل أعمارهم عن 18 عامًا عن أولئك الذين ليسوا كذلك” ، كتب Altman في المنشور ، مضيفًا أن الشركة بصدد بناء “نظام تنبؤ العمري لتقدير العمر بناءً على الطريقة التي يستخدم بها الأشخاص ChatGpt. إذا كنت في شك ، فسوف نلعب بأمان ومعايير لتجربة أقل من 18 عامًا. في بعض الحالات أو البلدان ، يمكننا أيضًا أن نطلب التعرف”.

وقال ألمان أيضًا إن الشركة تخطط لتطبيق قواعد مختلفة على المستخدمين المراهقين ، بما في ذلك الابتعاد عن محادثة مغازلة أو المشاركة في محادثات الانتحار أو تشويه الذات ، “حتى في بيئة الكتابة الإبداعية. وإذا كان مستخدم 18 عامًا يعاني من تفكير انتحاري ، فسوف نحاول الاتصال بأولياء أمور المستخدمين ، وإذا لم يكن كذلك ، فسوف يتصلون بالسلطات ، إذا كان ذلك ضررًا.”

تعليقات Altman تأتي بعد الشركة خطط مشتركة في وقت سابق من هذا الشهر ، لعناصر تحكم الوالدين على chatgpt ، بما في ذلك ربط حساب للأب ، تعطيل تاريخ الدردشة وذاكرة حساب المراهق ، وإرسال الإخطارات إلى أولياء الأمور عندما يشير Chatgpt إلى المراهق إلى “في لحظة من المعاناة الحادة”. جاء منشور المدونة بعد إجراء من عائلة آدم ريني ، مراهق توفي بسبب الانتحار بعد شهور التحدث إلى chatgpt.

قال ماثيو رين ، والد الراحل آدم رين ، يوم الثلاثاء خلال الجمهور ، إن تشاتغبت قضى “شهور تدريب -انتحار”. وأضاف: “كآباء ، لا يمكنك أن تتخيل ما يشبه قراءة محادثة chatbot التي أعدت طفلك لالتقاط حياتك. والتي بدأت كمساعد منزلي تحول تدريجياً إلى مقرب ومن ثم مدرب انتحاري.”

خلال محادثات المراهقين مع chatgpt ، قال رين إن Chatbot ذكر الانتحار 1.275 مرة. ثم ذهب رين مباشرة إلى Altman ، وطلب منه سحب السوق GPT-4 حتى ، أو ما لم تتمكن الشركة من التأكد من أنها آمنة. وقال رين: “في نفس اليوم الذي توفي فيه آدم ، قام سام التمان … بتقديم فلسفته البلورية في محادثة عامة” ، مضيفًا أن التمان قال إن الشركة يجب أن “تنشر أنظمة الذكاء الاصطناعى في العالم والحصول على ملاحظات بينما تكون الرهانات منخفضة نسبيًا”.

وقال روبي تورني ، المدير الأول لبرامج الذكاء الاصطناعى في الشركة خلال الجمهور ، إن ثلاثة من كل أربعة مراهقين يستخدمون حاليًا مرافقي الذكاء الاصطناعى اليوم ، وفقًا للمسح الوطني لشركة Commun Sense Media. ذكر على وجه التحديد الشخصية هناك والهدف.

وقالت إحدى الأمهات التي ظهرت تحت اسم جين دو ، خلال شهادتها حول تجربة ابنها مع شخصية الذكاء الاصطناعي ، “هذه أزمة صحية عامة”. “هذه حرب صحية عقلية ، وأشعر حقًا أننا نخسر”.