كشفت شركة أنثروبيك أن جهات مرتبطة بحكومات في مالي والصين وإيران استخدمت نماذج الذكاء الاصطناعي “كلود” لتوسيع وأتمتة عمليات المراقبة وجمع المعلومات، في تطور يعكس انتقال الذكاء الاصطناعي من أداة تجريبية إلى جزء من البيروقراطية اليومية لأجهزة الأمن والاستخبارات.
وأوضحت الشركة في تقرير للتهديدات أن استخدام الحكومات لهذه النماذج يخفض الحواجز أمام مراقبة المعارضين والسياسيين والصحفيين والناشطين الحقوقيين، بعدما أصبح بإمكان موظفين حكوميين أو متعاقدين تنفيذ مهام كانت تتطلب في السابق فرقاً كاملة من المحللين.
وقالت أنثروبيك إن أشخاصاً مرتبطين بحكومات في مالي والصين وإيران استخدموا إصدارات مختلفة من “كلود” لتبسيط عمليات جمع البيانات وتحليلها، وبناء ملفات تعريفية للأفراد، وتحديد أهداف محتملة للمراقبة.
وفي مالي، استخدم مستشار يعمل لدى سلطات الأمن القومي “كلود” لإنشاء نظام يجمع البيانات من مشغلي شبكات الهاتف المحمول في البلاد، ثم يستخدمها لبناء ملفات تعريفية عن أشخاص محددين، وفق التقرير.
وكشفت الشركة عن حالة أخرى استخدم فيها فاعلون إيرانيون “كلود” لبناء ونشر إضافة خبيثة لمتصفح “فايرفوكس”، صُممت لاستخراج هويات المستخدمين من شبكات التواصل الاجتماعي.
أما في الصين، فقالت أنثروبيك إن مكتباً للاستخبارات المرتبطة بالشؤون الدينية تمكن من تقليص عملياته من فرق متعددة من المحللين إلى مكتب واحد يستخدم مساعداً للذكاء الاصطناعي لإجراء آلاف التحقيقات شهرياً.
ولم يقتصر الاستخدام على جمع البيانات، إذ استخدمت الجهات الحكومية النماذج لتحليل المعلومات وتحديد الأشخاص الذين يمكن أن يصبحوا أهدافاً لعمليات المراقبة، بحسب التقرير.
وأشارت أنثروبيك إلى أن الحكومة الصينية استخدمت “كلود” لتحليل منشورات على وسائل التواصل الاجتماعي وتحديد مدى حساسيتها سياسياً، ثم اختيار أهداف محتملة لما وصفته بـ”السيطرة”، وهي إجراءات يمكن أن تشمل الاستجواب القسري أو المراقبة المكثفة لتحركات الأشخاص واتصالاتهم.
وكشفت الشركة في يونيو/حزيران أيضاً عن حساب استخدم “كلود” لبناء منصة مراقبة تجارية تستهدف أشخاصاً في إيران ومنطقة الخليج العربي، قبل أن تتمكن الشركة من رصد النشاط وحظره قبل تشغيل المنصة.
وتظهر هذه الحالات، وفق أنثروبيك، تحول الذكاء الاصطناعي إلى أداة تشغيلية داخل أجهزة الدولة، بعدما بدأت حكومات بإدخاله في إجراءات المراقبة اليومية بدلاً من استخدامه بصورة تجريبية أو محدودة.
وأشارت الشركة إلى أن أحد مكاتب أمن الدولة في الصين أنشأ دليلاً داخلياً يشرح كيفية استخدام الذكاء الاصطناعي في عمليات المراقبة، فيما استخدم مسؤولون آخرون “كلود” لأتمتة إعداد التقارير الاستخباراتية اليومية والاستعلام عن قواعد بيانات المراقبة الحكومية.
وقال جاكوب كلاين، رئيس قسم استخبارات التهديدات في أنثروبيك، إن الذكاء الاصطناعي لا يغير بالضرورة طبيعة الأشخاص الذين تستهدفهم الحكومات، لكنه يجعل عمليات المراقبة المدعومة من الدولة أرخص وأكثر كفاءة.
وأضاف أن موظفين حكوميين أو متعاقدين أصبح بإمكانهم أتمتة أعمال كانت تتطلب في السابق فرقاً من المحللين، معتبراً أن ما يحدث هو “أتمتة أجزاء من العمل داخل جهاز الاستخبارات”.
ويثير هذا التطور مخاوف متزايدة بشأن قدرة الحكومات على معالجة كميات ضخمة من البيانات الشخصية وتحويلها بسرعة إلى ملفات أمنية واستخباراتية قابلة للاستخدام.
ولا يتطلب توسيع هذه العمليات الوصول إلى أحدث وأقوى نماذج الذكاء الاصطناعي، إذ قالت أنثروبيك إن جميع حالات المراقبة التي تناولها تقريرها استخدمت نماذج “Claude Haiku” أو “Claude Sonnet” أو “Claude Opus”، وليس النماذج الأحدث التي تطورها الشركة.
وأكدت أنثروبيك أنها حظرت جميع الحسابات المرتبطة بعمليات المراقبة التي اكتشفتها، وعززت إجراءات الحماية استناداً إلى النتائج التي توصلت إليها.
لكن حظر الوصول إلى “كلود” لا يعني بالضرورة توقف عمليات المراقبة نفسها، إذ أوضح كلاين أن بعض الجهات انتقلت إلى نماذج مفتوحة المصدر بعدما أصبحت إجراءات الحماية التي تفرضها الشركات التجارية عائقاً أمام استخدامها.
وفي حالة مالي، اتجهت الحكومة في نهاية المطاف إلى نشر منصة مراقبة محلية باستخدام نماذج أخرى، ما يكشف محدودية قدرة شركات الذكاء الاصطناعي على منع استخدام التكنولوجيا لأغراض أمنية بمجرد حظر حسابات محددة.
وتحذر أنثروبيك من أن هذه الظاهرة مرشحة للتوسع مع استمرار تطور قدرات الذكاء الاصطناعي، بعدما انتقل استخدامه في عمليات المراقبة من سيناريو محتمل إلى ممارسة فعلية.
وقال كلاين إن الدول الاستبدادية تستخدم الذكاء الاصطناعي بالفعل في عمليات المراقبة والقمع والتأثير، مؤكداً أن الأمر “لم يعد مجرد فرضية”.
