أداة إطلاق شركة الذكاء الاصطناعى للكشف عن الحديث عن المحاضرات النووية

وقالت الشركة في منشور على مدونة دي كوينتا -بلوسو إن شركة الذكاء الاصطناعي الأنثروبري (AI) أطلقت أداة للكشف عن المحادثات حول الأسلحة النووية.

“التكنولوجيا النووية مضاعفة بطبيعتها: نفس المبادئ المادية التي يمكن إساءة استخدام مفاعلات الطاقة النووية لتنمية الأسلحة. مع أن نماذج IA تصبح أكثر قدرة ، نحتاج إلى مراقبة ما إذا كان بإمكانهم تزويد المستخدمين بالمعرفة الفنية الخطرة بطرق تهدد الأمن القومي”. قال في منشور المدونة.

“المعلومات المتعلقة بالأسلحة النووية حساسة بشكل خاص ، مما يجعل تقييم هذه المخاطر يمثل تحديًا لشركة خاصة تتصرف من تلقاء نفسها” ، تابع منشور المدونة. “لهذا السبب عقدنا شراكة مع إدارة الطاقة الوطنية الأمريكية (NNSA) (NNSA) لتقييم نماذج مخاطر الانتشار النووي لدينا ومواصلة العمل معهم في هذه التقييمات.”

وقالت الأنثروبور في منشور المدونة إن “تجاوز تقييم المخاطر لإنشاء الأدوات اللازمة للمراقبة” ، مضيفًا أن الشركة قد صنعت “نظام الذكاء الاصطناعي الذي يصنف تلقائيًا محتوى” المصنف “إلى جانب Doe و NNSA.

وفقًا لنشر المدونة ، “يميز بين المحادثات المتعلقة بالنوويين ذوي الصلة والحميدة بدقة 96 ٪ في الاختبارات الأولية.”

وقالت الشركة أيضًا إن المصنف قد تم استخدامه في حركة المرور إلى نموذج IA Claude “كجزء من نظامنا الأوسع لتحديد سوء استخدام نماذجنا”.

“تشير بيانات النشر الأولية إلى أن المصنف يعمل بشكل جيد مع محادثات كلود الحقيقية” ، أضاف الأنثروبور.

أعلنت الأنثروبور أيضًا في وقت سابق من هذا الشهر أنها ستوفر كلود لجميع فروع الحكومة الفيدرالية مقابل دولار واحد بعد تغيير مثل Openai قبل بضعة أسابيع. في منشور مدونة ، قالت الأنثروبور إن الوكالات الفيدرالية ستحصل على نسختين من كلود.