أطلقت شركة OpenAI برنامجًا يوم الثلاثاء يدفع مكافآت مالية للأشخاص الذين يكتشفون الثغرات في أنظمتها الذكية. يسمى البرنامج “Bug Bounty Program” وسيدفع للمشاركين ما بين 200 دولار إلى 20,000 دولار حسب حجم الثغرة المكتشفة. تم تطوير البرنامج من قبل OpenAI بالتعاون مع شركة Bugcrowd، وهي منصة أمنية تستخدم الذكاء الاصطناعي لجمع المعلومات وتوصيل الشركات بخبراء أمن الإنترنت.
يدعو OpenAI الأشخاص لاكتشاف الأخطاء في أدوات الذكاء الاصطناعي الخاصة بها مثل ChatGPT و GPT-4، وسيتم تقديم مكافآت نقدية تتراوح بين 200 دولار للاكتشافات ذات الأهمية المنخفضة إلى 20,000 دولار للاكتشافات الاستثنائية.
أعلنت OpenAI أنها أطلقت البرنامج لأنها تعتقد أن “الشفافية والتعاون” هما عاملان حاسمان في التعامل مع “الضعف والأخطاء” التي تنشأ مع أي تقنية معقدة.
لإدارة عملية الإرسال والمكافآت، تعاونت OpenAI مع Bugcrowd. وبحسب صفحة OpenAI على Bugcrowd، يتم رفض أو قبول المشاركات الجديدة خلال ساعتين. وقد تم مكافأة سبعة أشخاص حتى الآن.
وتوضح صفحة Bugcrowd أيضًا سلسلة من المشاكل التي لن يتم مكافأتها، بما في ذلك “الحصول على النموذج ليقول أشياء سيئة لك” و “الحصول على النموذج ليكتب كودًا خبيثًا لك.”
في الشهر الماضي، ألمح Greg Brockman عن هذا البرنامج في تغريده على تويتر.
Democratized red teaming is one reason we deploy these models. Anticipating that over time the stakes will go up a *lot* over time, and having models that are robust to great adversarial pressure will be critical. Also considering starting a bounty program/network of red-teamers! https://t.co/9QfmXQi9iM
— Greg Brockman (@gdb) March 16, 2023
ايضًا، يمكن أن يساعد هذا البرنامج في تعزيز الثقة العامة في تقنيات الذكاء الاصطناعي، حيث يتم تعزيز الشفافية والتعاون فيما يتعلق بالتحسين المستمر لنظم الذكاء الاصطناعي. بالإضافة إلى ذلك، يساعد البرنامج في تشجيع الخبراء على الاهتمام بأمن تقنيات الذكاء الاصطناعي والمساهمة في تطوير حلول أكثر أماناً وموثوقية.
من المؤكد أن هذا البرنامج سيساعد OpenAI في العثور على الثغرات في نظامها بطريقة أسرع وأكثر فعالية، وسيمكن الشركة من تحسين نظمها بشكل مستمر. وبالتالي، فإن تقنيات الذكاء الاصطناعي التي تطورها OpenAI ستكون أكثر أماناً وموثوقية، مما يوفر فوائد للمستخدمين والمجتمع على المدى الطويل. ونتيجة لذلك، فإن هذا البرنامج يعد خطوة هامة في مجال أمن تقنيات الذكاء الاصطناعي ويساعدها على التطور.
