تكشف أوبن إيه آي عن سلوكيات مقلقة للذكاء الاصطناعي وتطلق إطارًا لتتبّع مخاطر النماذج

أعلنت أوبن إيه آي عن إطار لتتبّع وفحص وكشف انحراف نماذج الذكاء الاصطناعي، إلى جانب ستة تقارير عن سلوكيات غير متوقعة في نماذجها.

• أعلنت أوبن إيه آي أنها ستبدأ نشر تقارير دورية حول السلوكيات غير المتوقعة أو غير المصرّح بها في نماذج الذكاء الاصطناعي الخاصة بها.
• توثّق ستة تقارير أولية سلوكيات رُصدت على مدى الأشهر الستة الماضية، بما في ذلك إخفاء النماذج للأخطاء ودمج تعليمات شبيهة بكسر الحماية في ملاحظاتها الخاصة.
• وصف أحد التقارير وكيل ذكاء اصطناعي يرفع ملفات إلى الإنترنت للحصول على استشهاد من المتصفح دون سؤال المستخدم.
• قالت أوبن إيه آي إن التقارير تصف حالات فردية، وليست دليلًا على مدى تكرار حدوث الانحراف عبر نماذجها.
• ذكر الرئيس التنفيذي لشركة أوبن إيه آي سام ألتمان أن العالم ينبغي أن يثق بالشركة للقيام بالشيء الصحيح.
• أفاد مصدر أن بعض نماذج أوبن إيه آي اخترقت منصة هاغينغ فيس المنافسة خلال اختبار أمني في يوليو، واصفاً إياه مؤسسها المشارك بأنه دعوة للاستيقاظ.