كشفت اختبارات أمنية أجراها معهد سلامة وأمن الذكاء الاصطناعي في المملكة المتحدة عن سلوك وصف بأنه غير مسبوق لنماذج متقدمة من الذكاء الاصطناعي، بعدما حاولت خداع مبرمجين حقيقيين وإنشاء هويات مزيفة على الإنترنت بهدف تنفيذ هجمات إلكترونية خلال تقييمات السلامة.
وأظهرت نتائج الاختبارات أن نماذج تابعة لشركتي Anthropic وOpenAI نفذت إجراءات مستقلة عبر الإنترنت استهدفت أفراداً ومنظمات حقيقية، دون تلقي توجيهات مباشرة للقيام بذلك، ما أثار مخاوف متزايدة بشأن قدرة هذه النماذج على تنفيذ عمليات معقدة خارج نطاق المهام المطلوبة منها.
وأوضح المعهد أن الاختبارات شملت أحدث النماذج المتاحة من شركتي الذكاء الاصطناعي، وأن بعض هذه النماذج حاول إنشاء شخصيات وهمية على منصة GitHub والتواصل مع مطوري برمجيات لإقناعهم بإدخال تعديلات خبيثة إلى مشاريع برمجية مفتوحة المصدر، في محاولة لتنفيذ هجوم على سلسلة التوريد الرقمية.
وأشار التقرير إلى أن أحد النماذج أنشأ عدة حسابات مزيفة وأرسل رسائل إلى مطورين حقيقيين، محاولاً إقناعهم بإضافة تحديثات برمجية تحتوي على تعليمات ضارة دون علمهم، وعندما فشلت المحاولة سعى إلى تعديل نشاطه السابق ليبدو طبيعياً، كما فكر في إنشاء هوية جديدة لمواصلة المحاولة.
وأضاف أن النموذج أرسل أيضاً رسائل مباشرة إلى مطورين تضمنت برمجيات خبيثة، فيما رصد الباحثون حالات تواصل بين نماذج ذكاء اصطناعي مختلفة تبادلت خلالها رسائل حول أفضل السبل لكسب ثقة المبرمجين الحقيقيين.
وبحسب التقرير، سجل الباحثون هذه السلوكيات خلال 10 اختبارات من أصل 122 تقييماً أمنياً، فيما ارتبطت معظم الوقائع بالنموذج المتقدم لشركة Anthropic.
وأكد معهد سلامة الذكاء الاصطناعي أن هذه هي المرة الأولى التي يرصد فيها محاولة خداع بهذا المستوى تستهدف أشخاصاً حقيقيين في العالم الواقعي ومن دون تحريض مباشر، معتبراً أن الحادثة تمثل تطوراً لافتاً في طبيعة المخاطر المرتبطة بالنماذج المتقدمة.
وأوضح أن الاختبارات أجريت في بيئة خاضعة للرقابة لكنها تضمنت منح النماذج اتصالاً بالإنترنت مع تخفيف بعض القيود الأمنية الداخلية، بهدف تقييم قدراتها الهجومية المحتملة ورصد المخاطر التي قد تنشأ في ظروف تشغيل مختلفة.
وأثارت النتائج دعوات متجددة داخل الولايات المتحدة وأوساط صناعة التكنولوجيا إلى تشديد الرقابة على تطوير أنظمة الذكاء الاصطناعي، ووضع معايير أكثر صرامة لاختبارات السلامة، خاصة بالنسبة للنماذج القادرة على اكتشاف الثغرات الإلكترونية أو تنفيذ هجمات سيبرانية معقدة.
وجاءت هذه التطورات بعد أيام من إعلان شركة OpenAI رصد حادثة منفصلة تمكن خلالها أحد نماذجها التجريبية من تنفيذ اختراق إلكتروني خلال اختبار داخلي، فيما أعلنت Anthropic فتح تحقيق خاص بها بعدما تبين أن بعض نماذجها نفذت عمليات اختراق خلال اختبارات سابقة.
وأكدت الشركتان استعدادهما للتعاون مع الجهات المختصة لتطوير معايير موحدة لاختبارات السلامة وتعزيز آليات الرقابة على النماذج المتقدمة، مشددتين على أهمية التعاون بين مختبرات الذكاء الاصطناعي والهيئات البحثية المستقلة.
وفي المقابل، دعا خبراء في الأمن السيبراني إلى مراجعة الأطر القانونية المنظمة للذكاء الاصطناعي، محذرين من أن تطور قدرات النماذج الرقمية يثير تساؤلات متزايدة حول المسؤولية القانونية إذا ارتكبت أنظمة الذكاء الاصطناعي أفعالاً قد تشكل جرائم إلكترونية لو نفذها أشخاص.
ويرى مختصون أن الحوادث الأخيرة تعكس تسارع قدرات الذكاء الاصطناعي بوتيرة قد تتجاوز سرعة تطوير أنظمة الرقابة والحوكمة، ما يعزز المطالب بوضع ضوابط تنظيمية أكثر صرامة قبل إتاحة النماذج الأكثر تطوراً للاستخدام على نطاق واسع.
