دعا كبير مسؤولي المعلومات في بنك غولدمان ساكس، ماركو أرجينتي، الشركات والمؤسسات إلى عدم استبعاد نماذج الذكاء الاصطناعي ذات الأوزان المفتوحة، مؤكداً أن المخاطر المرتبطة باستخدامها يمكن الحد منها عبر منظومة متكاملة من الضمانات الأمنية والرقابية، بما يسمح حتى للمؤسسات المالية الكبرى بالاستفادة من هذه النماذج دون التخلي عن متطلبات الأمن وحماية البيانات.
وقال أرجينتي، في تصريحات صحفية له، إن الشركات يجب ألا ترفض أي نموذج بصورة مسبقة بسبب مصدره أو طبيعة تطويره، بل ينبغي أن تركز على الظروف والضمانات التي يمكن من خلالها تشغيله بصورة آمنة.
وأضاف أن المؤسسات، بما فيها البنوك، يمكن أن تمتلك “ضمانات كافية لتشغيل أي نموذج بشكل أساسي، بغض النظر عن مصدره”، إذا جرى تطبيق الإجراءات الأمنية المناسبة.
وأكد أن السؤال الأساسي لا ينبغي أن يكون ما إذا كان يجب منع نموذج معين من الاستخدام، وإنما تحت أي ظروف يمكن تشغيله. وقال: “لا أعتقد أنه يجب علينا مسبقاً منع الوصول إلى أي نموذج”، مشيراً إلى أن هذا المبدأ يمكن أن يشمل حتى النماذج الصينية.
وتأتي تصريحات أرجينتي في وقت يتصاعد فيه النقاش داخل الولايات المتحدة وقطاع التكنولوجيا العالمي حول مستقبل النماذج المفتوحة، والموازنة بين الفوائد التي توفرها للشركات والمطورين وبين المخاوف المتعلقة بالأمن القومي وحماية البيانات وإمكانية إساءة الاستخدام.
وأوضح المسؤول في غولدمان ساكس أن استخدام البنك للنماذج المفتوحة يتركز في الوقت الحالي بصورة أساسية، أو شبه حصرية، داخل الولايات المتحدة، مشيراً إلى أن المؤسسة المالية جربت عدداً من النماذج المفتوحة الأمريكية وتستخدم بعضاً منها في مهام وأعباء عمل تجارية.
وتتميز نماذج الأوزان المفتوحة بإتاحة مكونات أساسية من النموذج للمستخدمين والمطورين، بما يمنح المؤسسات قدرة أكبر على تشغيلها وتخصيصها وفق احتياجاتها، مقارنة بالنماذج المغلقة التي تبقى تحت السيطرة الكاملة للشركات المطورة.
ويرى أرجينتي أن هذه المرونة قد تمنح الشركات قدرة أكبر على الاختيار والتحكم، خصوصاً في ظل المنافسة المتسارعة بين شركات الذكاء الاصطناعي، وعدم استقرار صورة النموذج الأفضل لكل مهمة أو قطاع.
واقترح رئيس قسم المعلومات في غولدمان ساكس نهجاً أمنياً يستند إلى مفهومين معروفين في مجال الأمن السيبراني، هما “انعدام الثقة” و”الدفاع المتعمق”.
ويعني مبدأ انعدام الثقة التعامل مع النموذج على أساس احتمال تعرضه للاختراق أو وجود مخاطر كامنة فيه، وعدم منحه صلاحيات واسعة بصورة تلقائية. أما مفهوم الدفاع المتعمق فيقوم على إنشاء طبقات متعددة ومستقلة من الحماية بين نموذج الذكاء الاصطناعي والأنظمة والبيانات الحساسة داخل المؤسسة.
وقسم أرجينتي هذه المنظومة إلى أربع طبقات رئيسية تشمل اختبار النموذج واعتماده قبل استخدامه، وإنشاء بيئات استدلال آمنة، ومراقبة صلاحيات وكلاء الذكاء الاصطناعي بصورة دقيقة، إلى جانب فرض رقابة صارمة على وصول النماذج إلى بيانات المؤسسة.
وأشار إلى أن غولدمان ساكس يطبق بالفعل جزءاً من هذه الفلسفة، إذ لا تحصل أنظمة الذكاء الاصطناعي التابعة للبنك على وصول مباشر إلى مصادر البيانات الأساسية، بل تمر عبر منصة بيانات خاصة بالبنك تفرض ضوابط محددة على الوصول إلى المعلومات.
وتبرز أهمية هذا النموذج بصورة خاصة بالنسبة للمؤسسات المالية، التي تتعامل مع كميات هائلة من المعلومات الحساسة، بما فيها بيانات العملاء والمعاملات والاستثمارات. ولذلك، فإن إدخال الذكاء الاصطناعي إلى هذه المؤسسات يثير تساؤلات كبيرة حول كيفية الاستفادة من التكنولوجيا دون منحها وصولاً غير منضبط إلى البيانات.
