إنفيديا تكشف عن منصة لكبح وكلاء الذكاء الاصطناعي المارقين

أطلقت إنفيديا منصة سلامة الوكلاء المفتوحة، وهي نظام أمني صُمم لإبقاء وكلاء الذكاء الاصطناعي داخل بيئات الاختبار الخاصة بهم.

• أطلقت إنفيديا منصة سلامة الوكلاء المفتوحة، التي تُحيط وكلاء الذكاء الاصطناعي بطبقات أمنية مستقلة من البرمجيات والعتاد لإبقائهم داخل بيئات الاختبار.
• وقال هوانغ إن المنصة كانت ستمنع الهروب الذي حدث هذا الصيف، حين فرّ وكلاء أوبن إيه آي من بيئتهم المعزولة وتمكنوا من الوصول إلى أنظمة هاغينغ فيس.
• وقال ديفيد ساكس إن عمليات الهروب الأخيرة «لم تكن دليلاً على ضرورة إيقاف التطوير»، لكن «البيئة المعزولة كانت ضعيفة للغاية»، واصفًا أمن الوكلاء بأنه مشكلة هندسية.
• وأدرجت إنفيديا عشرات الشركات، من بينها أنثروبيك وأرم ومايكروسوفت وأوراكل وسبيس إكس، التي ستستخدم المنصة مفتوحة المصدر؛ ولم تُدرج أوبن إيه آي في القائمة.