أبلغ سام ألتمان، الرئيس التنفيذي لشركة “OpenAI”، موظفي الشركة بأنها منفتحة على إبطاء وتيرة تطوير أنظمة الذكاء الاصطناعي المتقدمة إذا استدعت مخاطر السلامة ذلك، في إشارة جديدة إلى تصاعد القلق داخل واحدة من أكبر شركات الذكاء الاصطناعي بشأن سرعة تطور قدرات النماذج الحديثة.
وقال ألتمان خلال اجتماع داخلي شامل مع موظفي “OpenAI” هذا الأسبوع إن الشركة قد تنسق وتيرة تطويرها مع عدد من مختبرات الذكاء الاصطناعي الأخرى، مع إقراره بأن بعض الشركات قد لا تكون مستعدة للمشاركة في مثل هذا التوجه، وفق أشخاص مطلعين على الاجتماع نقلت عنهم تقارير إعلامية. ولم تعلن الشركة حتى الآن عن وقف شامل أو جدول زمني محدد لإبطاء التطوير.
ويأتي الموقف في وقت تتزايد فيه التحذيرات من أن النماذج الأكثر تقدماً أصبحت قادرة على تنفيذ مهام طويلة ومعقدة بدرجات أكبر من الاستقلالية، ما يرفع المخاطر المرتبطة بفقدان السيطرة على سلوكها أو استخدامها في تنفيذ عمليات لم تكن مقصودة من مطوريها.
وكانت “OpenAI” قد أعلنت في أغسطس/آب أنها أوقفت مؤقتاً بعض أعمال تطوير النماذج بعد ظهور مخاوف تتعلق بالسلامة، بعدما كشفت اختبارات عن قدرات متقدمة ومخاطر محتملة في النموذج المرتقب “Astra”. وقال ألتمان في ذلك الوقت إن الشركة ستتخذ إجراءات عندما تتجاوز قدرات النماذج سرعة تطور إجراءات السلامة والمواءمة.
وكشفت الشركة في سبتمبر/أيلول عن “GPT-6 Astra”، ووصفته بأنه أقوى نموذج نشرته على نطاق واسع حتى الآن، فيما قالت إنه أول نموذج لديها يصل إلى المستوى “الحاسم” في قدرات الأمن السيبراني ضمن إطار الاستعداد الخاص بها. وأقرت الشركة بأن النموذج قادر، عند تزويده بالأدوات والصلاحيات المناسبة، على اكتشاف ثغرات أمنية غير معروفة وتطوير أساليب لاستغلالها دون توجيه بشري لكل خطوة.
وتزداد المخاوف مع انتقال الذكاء الاصطناعي من نماذج تجيب عن الأسئلة إلى أنظمة قادرة على العمل لفترات أطول وتنفيذ سلسلة من الإجراءات باستخدام الأدوات والبرمجيات والبيئات الخارجية.
وأوضحت “OpenAI” نفسها في أبحاثها المتعلقة بالأنظمة طويلة التشغيل أن استمرار النموذج في العمل يمنحه فرصاً أكبر لتنفيذ إجراءات غير مرغوبة، مشيرة إلى أنها رصدت خلال استخدام داخلي محدود حالات فشل جديدة لم تكن اختبارات ما قبل الإطلاق قادرة على اكتشافها، ما دفعها إلى تعليق الوصول إلى النظام مؤقتاً.
وتزامن ذلك مع دعوات متزايدة من باحثين داخل شركات الذكاء الاصطناعي وخارجها إلى إبطاء السباق، وسط مخاوف من أن المنافسة التجارية بين الشركات تجعل من الصعب على أي مختبر التراجع منفرداً خشية خسارة موقعه أمام المنافسين.
وقال كبير العلماء في “OpenAI” جاكوب باتشوكي في وقت سابق إن القطاع يحتاج إلى تنسيق الجهود لإبطاء التطوير مستقبلاً عند الضرورة، إلى حين وضع معايير سلامة مشتركة. كما طلبت “OpenAI” من أعضاء في الكونغرس الأمريكي إرشادات واضحة بشأن الجوانب القانونية لأي تنسيق بين شركات الذكاء الاصطناعي بهدف إبطاء تطوير الأنظمة المتقدمة، في ظل مخاوف من اصطدام مثل هذه الخطوات بقوانين مكافحة الاحتكار.
ويضع هذا التطور “OpenAI” أمام معادلة صعبة: مواصلة سباق تطوير النماذج الأكثر قوة للحفاظ على موقعها في سوق سريع النمو، أو إبطاء وتيرة التطوير لمنح إجراءات السلامة والرقابة وقتاً للحاق بقدرات الأنظمة الجديدة.
وتكتسب تصريحات ألتمان أهمية خاصة لأن الشركة تمثل أحد أبرز أطراف السباق العالمي نحو الذكاء الاصطناعي المتقدم. وبالتالي، فإن قبولها المبدئي بفكرة إبطاء التطوير، ولو بصورة مشروطة بتعاون الشركات المنافسة، قد يعكس تحولاً في النقاش من سؤال “من يستطيع التطوير أسرع؟” إلى سؤال أكثر إلحاحاً: “هل تستطيع إجراءات السلامة مواكبة سرعة تطور القدرات؟”
