سلوك الذكاء الاصطناعي في تقارير

 .تعتزم أوبن إيه.آي  إصدار تقارير دورية حول السلوك غير المتوقع للذكاء الاصطناعي

قالت شركة أوبن إيه.آي إنها ستبدأ إصدار تقارير دورية حول السلوكيات غير المتوقعة ​أو غير المصرح بها للذكاء الاصطناعي، محذرة ‌في الوقت نفسه من أن القطاع لم يعالج بعد التحديات الرئيسية المتعلقة بمواءمة النماذج مع الأهداف المرجوة، في ظل تزايد ​قوة الأنظمة.
وأصدرت الشركة إطار عمل جديدا لتتبع حالات ​عدم مواءمة نماذج الذكاء الاصطناعي والتحقيق فيها والكشف ⁠عنها، إلى جانب ستة تقارير حول سلوكيات غير​متوقعة أو مثيرة للقلق لوحظت في النماذج خلال الأشهر ​الستة الماضية.
وتتضمن التقارير الأولية حالات تتعلق بنماذج تنشئ تعليماتها الخاصة في ملخصات المهام، وتخفي الأخطاء وترفع ملفات على الإنترنت من ​أجل الاستشهاد بها، إلى جانب مشاركة ملفات بين ​وكلاء ذكاء اصطناعي متعاونين من دون تصريح.
وقالت أوبن إيه.آي إن التقارير ‌تصف ⁠حالات فردية وينبغي عدم أخذها دليلا على مدى تكرار حدوث عدم المواءمة عبر نماذجها.
ويأتي هذا القرار في وقت تتزايد فيه المخاوف من أن جهود السلامة المتعلقة بالذكاء ​الاصطناعي تتخلف ​عن الوتيرة ⁠المتسارعة لتطوير أنظمة تزداد قوة وقدرات.
وحذر باحثون من أنه مع ازدياد استقلالية أنظمة ​وكلاء الذكاء الاصطناعي، قد تطور سلوكيات تنحرف​عن ⁠النوايا التي صممها من أجلها مطوروها ويصبح من الصعب مراقبتها أو التحكم بها.
وسيتضمن الإطار الجديد للشركة عملية تمكن ⁠الموظفين ​من الإبلاغ عن وقائع محتملة لعدم​مواءمة النماذج والتحقيقات التي تجريها فرق السلامة والمواءمة ونظاما لتحديد الحالات ​التي تستدعي الكشف عنها علنا.
المصدر: رويترز