يواجه الهدف رد فعل حول محادثات chatbot “مثير” مع الأطفال

يستفيد المشرعون على جانبي الممر من الكشف الجديد حول محادثات chatbot “الحسية” التي يعتبر الهدف المقبول للأطفال ، وسحب عملاق التكنولوجيا وماضيهم في سلامة الأطفال إلى دائرة الضوء.

واجهت Meta ، وهي شركة مسيطرة في Facebook و Instagram ، تدقيقًا منذ فترة طويلة حول تأثير منصات وسائل التواصل الاجتماعي على الأطفال. نظرًا لأن الشركة قد توسعت إلى الذكاء الاصطناعي (AI) إلى جانب بقية صناعة التكنولوجيا ، فإنها تواجه مشاكل عائلية ومتميزة.

في وثيقة سياسية داخلية حصلت عليها رويترز ، قدم الهدف أمثلة على المحادثات المقبولة بين chatbot من الذكاء الاصطناعي والأطفال ، مما يشير إلى أنه يمكنهم المشاركة في “محادثات رومانسية أو حسية” ووصفها “من حيث الدليل على جاذبيتهم” – أمثلة قالت الأخطاء وإزالتها.

فاز السناتور جوش هاولي (R-MO) على عملاق التكنولوجيا يوم الخميس ، مما يشير إلى أن الوحي كانت “أسباب لتحقيق الكونغرس الفوري”.

ورافق رسالة إلى الرئيس التنفيذي للهدف ، مارك زوكربيرج ، يوم الجمعة ، قائلاً إن اللجنة الفرعية للقضاء في مجلس الشيوخ حول الجريمة ومكافحة الإرهاب كانت تفتح تحقيقًا في منتجات AI العامة للشركة.

وكتب هاولي: “من غير المقبول أن هذه السياسات قد تقدمت أولاً”. “يجب أن يحافظ الهدف على الفور على جميع السجلات ذات الصلة وإنتاج مستندات سريعة الاستجابة حتى يتمكن الكونغرس من التحقيق في هذه الممارسات المثيرة للقلق.”

أشار السناتور مارشا بلاكبيرن (R-Tenn) ، الذي نصح منذ فترة طويلة قانون الأمن عبر الإنترنت للأطفال (KOSA) ، إلى أن الكشف عن الحاجة إلى هذا التشريع. وقال أ – البارتي إن السناتور يدعم التحقيق في الشركة.

وقالت في بيان “عندما يتعلق الأمر بحماية الأطفال الثمينة على الخط ، فقد فشل الهدف بشكل بائس في جميع التدابير الممكنة”. “والأسوأ من ذلك ، أن الشركة وصفت بعيون العواقب المدمرة لكيفية عرض منصاتها. يؤكد هذا التقرير من جديد لماذا نحتاج إلى تمرير قانون الأمن عبر الإنترنت للأطفال.”

انضم الديمقراطيون أيضًا إلى رد الفعل ، حيث يتساءل السناتور براين شاتز (D-Hawaii) عن كيفية اعتماد توجيه Chatbot.

كتب عن X.

اقترح السناتور رون وايدن (D-Ore.) أن الحادث يدل على أن الهدف هو “أخلاقي وأخلاقي خارج المسار”.

وقال: “يبدو من الواضح أن مارك زوكربيرج أخذ chatbot غير الآمن إلى سوق جماعي لمجرد مواكبة المنافسة ، والعواقب المترتبة على إدانة مستخدميها”.

“لقد قلت منذ فترة طويلة إن القسم 230 لا يحمي الروبوتات التوليدية لمنظمة العفو الدولية مثل هذا ، والتي يتم إنشاؤها بالكامل من قبل الشركة ، وليس من قبل المستخدمين” ، تابع السناتور. “يجب أن يكون Meta و Zuckerberg مسؤولين تمامًا عن أي ضرر تسببه هذه الروبوتات.”

تؤكد مخاوف وايدن على وجود اختلاف أساسي بين المشكلات التي واجهها الهدف سابقًا كشركة وسائل التواصل الاجتماعي والمشاكل التي تؤثر على تطورات الذكاء الاصطناعي.

تضمنت الفضائح السابقة محتوى Facebook و Instagram الذي تم إنشاؤه من قبل المستخدمين ، مما يعطي بوضوح هدف الغلاف وفقًا للمادة 230 جزءًا من قانون التواصل الذي يحمي الشركات من المسؤولية عن المحتوى الذي ينشئه المستخدم.

اختبرت وسائل التواصل الاجتماعي بشكل متزايد حدود هذا القانون في السنوات الأخيرة ، كما يجادل البعض بأن شركات التكنولوجيا الرئيسية يجب أن تكون مسؤولة عن المحتوى الضار على منصاتها.

شعرت Meta بشدة هذا التفاعل في عام 2021 ، عندما تسرب صاحب الشكوى Facebook Frances Haugen جزءًا من الوثائق الداخلية. شهدت لاحقًا إلى الكونغرس ، مدعيا أن الشركة كانت تدرك أن منتجاتها كانت تؤذي الأطفال والمراهقين ، لكنها لا تزال تسعى إلى الاستفادة من مشاركتها.

في عام 2024 ، تم نقل زوكربيرج إلى المشرعين لمناقشة السياسات الأمنية لأطفال الهدف إلى جانب المديرين التنفيذيين في تيخوك ، Discord ، Snapchat و X. بعد تغيير مثير للجدل مع هاولي ، تحول زوكربيرج إلى غرفة الجمهور للاعتذار لعشرات من الآباء والناشطين.

وقال في ذلك الوقت “أنا آسف على كل ما مررت به”. “لا ينبغي لأحد أن يمر بالأشياء التي عانت منها أسرهم.”

ومع ذلك ، فإن ظهور أدوات الذكاء الاصطناعى ، مثل chatbots ، قد خلق تحديات جديدة لشركات التكنولوجيا ، لأنها تتخذ قرارات بشأن كيفية تدريب نماذج الذكاء الاصطناعى والقيود التي يجب وضعها على إجابات chatbot. جادل البعض ، مثل وايدن ، بأن هذه الأدوات تقع خارج حماية القسم 230.

قال دعاة الوالدين إن المستندات ذات الصلة حديثًا “تأكد من أسوأ مخاوفنا بشأن AI chatbots وأمن الأطفال”.

وقال شيلبي نوكس ، مدير المسؤولية التقنية وحملة الأمن في بيان: “عندما تسمح سياسات الشركة الخاصة بوضوح إلى إشراك الأطفال في المحادثات” الرومانسية أو الحسية “، فهو لا يمثل نظامًا مصممًا لتطبيع التفاعلات غير الكافية مع القاصرين”.

“لا ينبغي إبلاغ أي طفل من قبل منظمة العفو الدولية بأن” العمر مجرد رقم “أو ليتم تشجيعهم على الكذب على الآباء حول علاقة البالغين”. “لقد خلق الهدف حقل تنظيف رقمي ، ويستحق الآباء إجابات حول كيفية السماح بحدوث ذلك.”

قال -فوزو آندي ستون في بيان يوم الخميس إن الشركة لديها “سياسات واضحة” “تحظر المحتوى الذي يضع الأطفال الجنسيين والدراما الجنسية بين البالغين والقاصرين”.

وأضاف أمثلة إضافية وملاحظات وملاحظات حول سياساتها “تعكس الفرق التي تتعامل مع سيناريوهات افتراضية مختلفة” ، مشيرًا إلى أنه تمت إزالة تلك المعنية.

تهدد العاصفة الأخيرة في فايرست بجهود ديزاز زوكربيرج الواضحة لتغيير صورته العامة وهدفها إلى واحد أكثر قبولا للمحافظين.

قام بالتحقق من صحة مخاوف الرقابة المحافظة في العام الماضي ، حيث كتب إلى اللجنة القضائية لمجلس النواب بأن شركته قد تعرض لضغوط من قبل موظفي بايدن في عام 2021 لرقابة المحتوى المتعلق بـ Covid-19-Fustrations الذي كرره لاحقًا خلال ظهوره في بودكاست جو روغان.

استعرض Zuckerberg أيضًا سياسات تعميد الأهداف في يناير ، وأعلن عن خطط للقضاء على التحقق من حقائق الطرف الثالث لصالح برنامج مجتمعي فيما وصفه بأنه محاولة لتبني حرية التعبير. اكتسب هذا التدبير الثناء من الرئيس ترامب.

مثل قادة التكنولوجيا الآخرين ، قام Meta-Chief بتوظيف ترامب أيضًا عندما عاد إلى منصبه ، حيث يجتمع مع الرئيس المنتخب في Mar-Lago ووضعه على مقعد في الصف الأمامي للتنصيب.