اللجنة الفيدرالية للتجارة (FTC) أعلن الخميس وهو يطلق تحقيقًا في chatbots الذكاء الاصطناعي (AI) ، ويطلب معلومات من مختلف شركات التكنولوجيا الرائدة حول كيفية تقييمها والحد من الأضرار المحتملة للأطفال.
تقوم الوكالة بإرسال رسائل إلى Google Control Company و Alphabet و Instagram و Meta و Openai و Snap و Xai و Technologies ، والشركة التي تقف وراء الحرف. AI ، بعد مخاوف متزايدة بشأن كيفية تفاعل AI chatbots وتؤثر على المستخدمين الشباب.
تبحث الرسائل عن معلومات حول كيفية معالجة نماذج AI الخاصة بالشركة مدخلات المستخدم وإنشاء مخرجات ، وكذلك مراقبة وتخفيف الآثار السلبية على المستخدمين ، بما في ذلك الأطفال ، وإبلاغهم بالجمهور المستهدف ومخاطر منتجاتهم.
وقال أندرو فيرغسون رئيس لجنة التجارة الفيدرالية في بيان “مع تطور تقنيات IA ، من المهم النظر في تأثيرات chatbots على الأطفال ، والتأكد من أن الولايات المتحدة تحافظ على دورها كزعيم عالمي في هذا القطاع الجديد والمثير”.
وأضاف “الدراسة التي نطلقها اليوم ستساعدنا على فهم أفضل لكيفية تطوير شركات الذكاء الاصطناعى منتجاتها والخطوات التي تتخذها لحماية الأطفال”.
يتبع التحقيق المخاوف الأخيرة بشأن Meta و Openai chatbots. أشارت وثيقة السياسة الداخلية التي تم نشرها في الشهر الماضي إلى أن الشركة اعتبرت من AI chatbot الانخراط في محادثات “رومانسية أو حسية” مع الأطفال.
منذ ذلك الحين ، تمت إزالة اللغة وأعلن الهدف عن تغييرات في الطريقة التي يقترب بها مستخدمو Chatbot للمراهقين ، مما يحد من المحادثات حول تشويه الذات والانتحار والطعام المضطرب ، بالإضافة إلى مناقشات رومانسية غير كافية.
يواجه Openai دعوى قضائية حول chatbot الخاصة بهم ، والتي تدعي عائلة 16 عامًا من العمر أنه شجعه على أن يأخذ حياته. أعلنت شركة الذكاء الاصطناعى بنفس الطريقة التي ستقوم بإجراء تعديلات على chatbots لإعادة توجيه المحادثات الحساسة لنماذج محددة وتقوية الحماية للمراهقين.
وقال مفوض لجنة التجارة الفيدرالية مارك ميدور في بيان يوم الخميس “الحاجة إلى هذا الفهم لن تنمو فقط بمرور الوقت.” “على الرغم من كل قدرتها الغريبة على محاكاة الإدراك البشري ، فإن هذه الدردشة هي منتجات مثل أي شخص آخر ، وأولئك الذين يتيحونها متاحين يتحملون مسؤولية الامتثال لقوانين حماية المستهلك.”
