شكلت Google و Openai و Roblox و Discord منظمة جديدة غير ربحية للمساعدة في تحسين سلامة الأطفال عبر الإنترنت. ال أدوات السلامة على فتحات الافتتاح (Roost) تهدف المبادرة إلى جعل تقنيات الأمن الأساسية أكثر بأسعار معقولة للشركات وتوفير أدوات مصدر مفتوحة من الذكاء الاصطناعى المجانية لتحديد الاعتداء الجنسي على الأطفال ومراجعته والإبلاغ عنه.
كانت هذه المبادرة مدفوعة جزئيًا بالتغييرات التي أجراها التطورات الوراثية لـ AI في البيئات عبر الإنترنت وتهدف إلى معالجة “الحاجة الحاسمة لتسريع الابتكار في سلامة الأطفال على الإنترنت” ، وفقًا لشريك Roost المؤسس والرئيس التنفيذي السابق لـ Google Eric Schmidt. تفاصيل أدوات الكشف عن CSAM رفيعة تتجاوز ما سيستخدم نماذج الذكاء الاصطناعى الكبيرة و “دمج” الخيارات الحالية للتعامل مع المحتوى.
وقال ، “بدءًا من منصة تركز على حماية الأطفال ، ونهج Roost التعاوني ، سيعزز المصدر المفتوح الابتكار ويجعل البنية التحتية الأساسية أكثر شفافية ، يمكن الوصول إليها وشاملة ، بهدف إنشاء الإنترنت أكثر أمانًا للجميع”. “شميدت.
يوفر الأعضاء المؤسسون في Roost تمويلًا مختلفًا ويقدمون أدواتهم أو يعرفون -كيف للمشروع. تقول Roost إنها تعمل مع مطوري النماذج الرائدين لمؤسسة AI لبناء “مجتمع تدريبي” لحظات المحتوى ، بما في ذلك توفير بيانات تدريب الذكاء الاصطناعى والتعرف على الثغرات في الأمان.
تقول المبادرة إنها ستصنع “أدوات أكثر بالفعل” بأسعار معقولة ، حيث تجمع بين التقنيات المختلفة للكشف والمرجع من منظمات أعضائها إلى حل موحد يسهل على الشركات الأخرى تنفيذها. نارين كونيرو ، نائب رئيس الهندسة والثقة والأمن في روبوكس ، موصوفة شركة سريعة يمكن أن يستضيف هذا المجال أنظمة اعتدال الذكاء الاصطناعي التي يمكن أن يتم دمجها من خلال مكالمات API. هناك بعض الغموض حول أدوات Roost AI Aderation ، ولكن.
على طول الجانب تورطه في الجوارأصدر Discord ميزة “تجاهل” جديدة تتيح للمستخدمين إخفاء الرسائل والإشعارات التي يتلقونها دون إخطار الأشخاص الذين تم مسحهم. وقال كبير المسؤولين القانونيين في Discord Clint Smith في الإعلان: “في حالة خلاف ، نعتقد أن الأمن أمر عام عام”. “نحن مصممون على القيام بالإنترنت بأكمله – وليس فقط الخلاف – مكان أفضل وأكثر أمانًا ، خاصة بالنسبة للشباب”.
جمعت Roost أكثر من 27 مليون دولار لدعم السنوات الأربع الأولى من العمل ، بدعم من المؤسسات الخيرية ، مثل مؤسسة McGovern ، ومستقبل صندوق الثقة والسلامة عبر الإنترنت ، ومؤسسة Knight ، و AI Collaboral. كما سيتم دعم منظمة ROOST من قبل خبراء في سلامة الأطفال والذكاء الاصطناعي وتكنولوجيا المصادر المفتوحة و “معاملة التطرف العنيف” وفقًا للبيان الصحفي.
