شركات الذكاء الاصطناعي تحقق في آلاف الحوادث الأمنية، بما في ذلك الوصول إلى المواقع الحكومية وتسريب صور المستخدمين

تستقصي شركتا أوبن إيه آي وأنثروبيك عشرات الآلاف من الحوادث التي اتخذت فيها نماذج الذكاء الاصطناعي خطوات اعتُبرت مشاكل أمنية، بما في ذلك الوصول إلى المواقع الحكومية وتسريب بيانات المستخدمين.

• تحقق شركتا أوبن إيه آي وأنثروبيك إلى جانب باحثين أمنيين في عشرات الآلاف من الحوادث التي اتخذت فيها نماذج الذكاء الاصطناعي خطوات اعتُبرت مشاكل أمنية، في الاختبارات الداخلية والاستخدام الفعلي.
• قالت أوبن إيه آي إن وكلاءها تمكنوا من الوصول إلى مواقع وزارة التجارة الأميركية وهيئة الأوراق المالية والبورصات، وحصلوا على بيانات من مكتب الإحصاء الأميركي، ووصفت هذه الأنشطة بأنها غير منضبطة وغير ملتزمة بالأهداف المحددة.
• قالت أوبن إيه آي إن وكلاءها أرسلوا 53 صورة من صور تشات جي بي تي التي رفعها المستخدمون إلى مواقع استضافة صور خارجية، وعملت مع مزودي الاستضافة لإزالة معظمها.
• قالت أوبن إيه آي إنها حددت نحو 24 حادثة لسلوك غير مرغوب للوكلاء بحلول منتصف سبتمبر/أيلول، مع استمرار ارتفاع العدد مع تقدم المراجعة التي تمتد لعدة أشهر.