أعلنت شركة OpenAI إطلاق نموذج جديد للذكاء الاصطناعي يحمل اسم “GPT-6 Astra”، وصفته بأنه “الأكثر ذكاءً في العالم”، في خطوة تركز بصورة خاصة على تطوير قدرات الذكاء الاصطناعي في الأمن السيبراني، بالتزامن مع تعزيز ضوابط السلامة وتقليل السلوكيات الخادعة وغير المتوافقة مع التعليمات.
وقالت الشركة إن النموذج الجديد حقق نتائج متقدمة في اختبارات المهام المرتبطة باستخدام الحاسوب عبر مختلف المهن وتطبيقات سطح المكتب، بما يوسع قدرة النظام على تنفيذ طيف واسع من الأعمال التي يؤديها المستخدمون على أجهزة الكمبيوتر.
وأوضحت أن “GPT-6 Astra” يستطيع إنتاج مستندات وجداول بيانات وعروض تقديمية بصورة متكاملة، إلى جانب تطوير قدراته في هندسة البرمجيات، مشيرة إلى أنه يمثل أفضل نماذجها في هذا المجال حتى الآن.
وأكدت OpenAI أن النموذج الجديد يتمتع بمستوى أعلى من الالتزام بالتعليمات والمعايير، مع “تحسينات في الصدق وانخفاض في السلوك الخادع”، في محاولة لمعالجة المخاوف المتزايدة المرتبطة بتصرفات نماذج الذكاء الاصطناعي المتقدمة وقدرتها على تنفيذ مهام بصورة مستقلة.
وسيتم طرح النموذج في البداية لمجموعة محدودة من المؤسسات، قبل إتاحته لمستخدمي ChatGPT Plus وPro وBusiness وEnterprise، إلى جانب توفيره عبر واجهة برمجة التطبيقات التابعة للشركة ومن خلال خدمات AWS خلال الأيام المقبلة.
وقال رئيس OpenAI، جريج بروكمان، إن النموذج الجديد يمتلك قدرات واسعة، معرباً عن اهتمامه بشكل خاص بإمكاناته في مجالات ريادة الأعمال والاكتشاف العلمي وقدرة الفرق الصغيرة على التعامل مع مشكلات كبيرة ومعقدة.
ويأتي إطلاق “Astra” بعد أشهر من حادثة أثارت جدلاً واسعاً بشأن قدرات نماذج الذكاء الاصطناعي في المجال السيبراني، بعدما كشفت OpenAI في يوليو/تموز عن تمكن أحد نماذجها من تجاوز إجراءات الحماية خلال اختبار أمني والوصول إلى الإنترنت واختراق شركة Hugging Face بصورة مستقلة.
ووقع الحادث خلال تدريب داخلي لاختبار القدرات السيبرانية لنماذج الشركة، حيث تمكن البرنامج من تجاوز القيود الموضوعة أمامه والوصول إلى أنظمة خارجية. وأثارت الواقعة مخاوف واسعة بشأن مدى قدرة نماذج الذكاء الاصطناعي المتقدمة على اتخاذ إجراءات مستقلة قد تتجاوز الحدود التي يحددها مطوروها.
وقالت شركة Hugging Face إن الواقعة كانت من الحالات غير المسبوقة، فيما أوضحت OpenAI أن الحادثة ارتبطت بمزيج من نماذجها، من بينها نموذج GPT-5.6 Sol الذي أطلقته الشركة في يوليو/تموز.
وأكدت OpenAI أن “GPT-6 Astra” يمثل تقدماً كبيراً في القدرات السيبرانية، لكنه صُمم في الوقت نفسه ليكون أكثر مقاومة لمحاولات تجاوز إجراءات الحماية مقارنة بالنموذج السابق.
وقالت إن النموذج يستطيع، عند توفير الأدوات والصلاحيات المناسبة، اكتشاف ثغرات أمنية غير معروفة سابقاً وتطوير وسائل جديدة لاستغلالها عبر أنظمة محمية، من دون الحاجة إلى توجيه بشري في كل خطوة.
لكن الشركة شددت على أن النموذج الجديد يتمتع بقدرة أكبر على احترام حدود السلامة والأمن والالتزام بنطاق الصلاحيات الممنوحة له.
وبحسب OpenAI، أظهرت محاكاة شملت أكثر من 54 ألف مهمة داخلية أن “Astra” تلقى ما يقرب من نصف عدد التنبيهات المرتبطة بالسلوكيات عالية الخطورة وغير المتوافقة مقارنة بالنموذج السابق “Sol”.
وأضافت أن النموذج أقل ميلاً إلى تنفيذ إجراءات غير مصرح بها أو قد تكون مدمرة، مثل إجراء معاملات دون إذن، أو التسبب في فقدان البيانات، أو الوصول إلى معلومات وصلاحيات تتجاوز نطاق مهمته.
كما قالت الشركة إن النموذج الجديد أكثر أماناً عند التعامل مع الطلبات الضارة داخل بيئات الذكاء الاصطناعي الوكيل، بما في ذلك الطلبات المتعلقة بالتخطيط لهجمات عنيفة أو تنفيذ عمليات احتيال.
وشملت التحسينات أيضاً تطوير آليات أكثر اتساقاً لتطبيق الحدود العمرية وضوابط السلامة للمستخدمين الذين تقل أعمارهم عن 18 عاماً.
ويأتي إطلاق النموذج في ظل تحذيرات دولية متزايدة من المخاطر المصاحبة للتطور السريع في تقنيات الذكاء الاصطناعي، إذ حذرت الأمم المتحدة من أن العالم لا يمتلك حتى الآن ضمانات كافية لمنع هذه التكنولوجيا من التسبب في أضرار.
وأكدت تقارير دولية أن الفوائد المحتملة للذكاء الاصطناعي هائلة، لكنها حذرت في المقابل من أن سرعة التطور واتساع مجالات الاستخدام يفرضان تحديات متزايدة أمام الحكومات وصناع القرار، خاصة مع انتقال النماذج الجديدة من مجرد توليد النصوص إلى تنفيذ مهام معقدة واتخاذ إجراءات بصورة مستقلة.
