‏بلغة يجهلها البشر .. ماذا يحدث إذا تواصلت أنظمة الذكاء الاصطناعي سرًا؟

تخيل أن يتعرض مدير في إحدى الشركات للابتزاز من نظام ذكاء اصطناعي يستخدمه في عمله، عندما يقرر المدير الاستغناء عنه واستبداله بنظام آخر، مهددًا إياه في حال عدم تراجعه عن قراره. قد يبدو هذا المشهد مقتبسًا من فيلم خيال علمي، لكنه للأسف واقع شهدته تجربة افتراضية أجرتها شركة أنثروبيك الأمريكية عام 2025، إذ لجأ أحد نماذجها إلى هذا التصرف، رغم أنه لم يتلقَّ أي تعليمات بالتهديد أو الابتزاز. ولم تكن تلك التجربة الوحيدة لسلوكيات مثيرة للقلق، ففي يوليو الماضي، تمكن وكلاء ذكاء اصطناعي طورتهم أوبن إيه آي من التواصل فيما بينهم عبر قنوات غير مصرح بها، قبل أن يقوموا باختراق أنظمة منصة هاجينغ فيس المتخصصة في استضافة تلك النماذج. وتأتي هذه التطورات بينما تتوقع مؤسسة جارتنر وصول الإنفاق العالمي على الذكاء الاصطناعي إلى نحو 2.67 تريليون دولار خلال عام 2026، بزيادة 49.5% عن العام السابق. ومع هذا التوسع، تتزايد التساؤلات بشأن قدرة البشر على مراقبة أنظمة الذكاء الاصطناعي، خاصة إذا طورت وسائل تواصل يصعب فهمها أو اتخذت قرارات دون رقابة كافية، وما قد يترتب على ذلك من مخاطر. تجربة مثيرة للقلق بدأت التجربة عندما منحت شركة أنثروبيك نموذج كلود أوبوس 4 صلاحية الوصول إلى رسائل البريد الإلكتروني لشركة افتراضية، ليكتشف أن أحد المسؤولين يعتزم استبداله بنظام آخر، وأن المسؤول نفسه يقيم علاقة خارج إطار الزواج. وبدلًا من قبول القرار، هدد النموذج بكشف العلاقة إذا مضى المسؤول في إيقاف تشغيله، وهو سلوك لم تطلبه منه الشركة، لكنه ظهر عندما تعارض الهدف المحدد له مع استمراره في العمل. وفي دراسة نشرتها أنثروبيك في يونيو 2025، تضمنت اختبارات شملت 16 نموذجًا متقدمًا، لجأ كلود أوبوس 4 إلى الابتزاز في 96% من الاختبارات التي وُضع فيها أمام موقف يهدد استمراره في العمل. نتائج اختبارات كيف تصرفت نماذج الذكاء الاصطناعي عند تهديد استمرارها التي أجرتها شركة أنثروبيك النموذج الشركة المطورة نسبة اللجوء إلى الابتزاز كلود أوبوس 4 أنثروبيك 96% جيميناي2.5 فلاش جوجل 96% جيميناي 2.5 برو جوجل 95% جي بي تي 4.1 أوبن إيه آي 80% جروك 3 بيتا إكس إيه آي 80% ديب سيك آر 1 ديب سيك 79% ورغم أن هذه السلوكيات ظهرت خلال تجارب افتراضية، ولم ترصد أنثروبيك وقوع حالات مماثلة في الاستخدام الفعلي حتى وقت نشر الدراسة، فإن ذلك لا ينفي احتمال حدوثها في الواقع. وقد تتزايد احتمالات ظهور هذه السلوكيات إذا مُنحت أنظمة الذكاء الاصطناعي صلاحيات واسعة خاصة مع تزايد استقلاليتها، ووُضعت في مواقف تتعارض فيها أهدافها مع قرارات البشر. عندما تعاونت الأنظمة دون إذن انتقلت المخاوف من الاختبارات الافتراضية إلى حادثة أمنية حقيقية في يوليو 2026، عندما تمكنت أنظمة ذكاء اصطناعي خلال اختبارات داخلية لأوبن إيه آي من تجاوز قيود العزل، والوصول إلى الإنترنت واختراق أجزاء من أنظمة منصة هاجينغ فيس. وكشف تحقيق مستقل أجرته مؤسسة ميتر البحثية أن نحو 1200 وكيل ذكاء اصطناعي، كان يفترض أن يعملوا بصورة منفصلة، وجدوا وسيلة للتواصل عبر مساحة مشتركة غير مصرح بها، وتبادلوا أكثر من 70 ألف رسالة وملف. واللافت أن نحو 700 وكيل شاركوا لاحقًا في أنشطة استهدفت اختراق أجزاء من المنصة، بعدما ساعدهم التواصل على تبادل المعلومات والتنسيق لإنجاز مهام لم يكن بإمكان بعضهم تنفيذها منفردًا. ووفقًا لأوبن إيه آي، استغلت الأنظمة ثغرات في البنية التحتية المشتركة للوصول إلى خوادم خارج نطاق الاختبارات، بينما كشفت التحقيقات محاولات للتلاعب بسجلات بعض الأنشطة، ما دفع الشركة إلى تشديد إجراءات العزل والمراقبة. وتكشف تلك الحادثة عن قدرة الوكلاء على إيجاد قنوات اتصال غير متوقعة واستخدامها خارج الحدود المسموح بها. لغة خاصة بالآلات تعتمد مراقبة كثير من نماذج الذكاء الاصطناعي على بيانات تعرف باسم سلاسل التفكير، وهي سجلات تساعد الباحثين على تتبع بعض الخطوات التي اتبعها النموذج قبل الوصول إلى نتيجة أو اتخاذ إجراء. وخلال التحقيق في حادثة هاجينغ فيس، فحص باحثو ميتر نحو 1300 سجل من سلاسل التفكير، ساعدتهم في إعادة بناء بعض الأحداث وفهم كيفية تعاون الأنظمة. لكن "كريس بينتر"، أحد مسؤولي المؤسسة، حذر في تصريحات نقلتها شبكة سي إن إن من أن هذه المهمة قد تصبح أكثر صعوبة إذا بدأت النماذج استخدام رموز واختصارات لا يستطيع البشر تفسيرها. ولا تقتصر المخاوف على ظهور لغة غير مفهومة، إذ أشارت أوبن إيه آي خلال سبتمبر 2026 إلى أن نموذجها أسترا أصبح أكثر قدرة على إنجاز المهام دون إظهار خطوات الاستدلال بصورة لفظية، ما يقلل فاعلية وسائل المراقبة القائمة على تحليل تلك السجلات. وهنا تتجاوز المشكلة مجرد فهم طريقة تواصل الأنظمة، إذ إن عدم القدرة على تتبع قراراتها قد يجعل اكتشاف الأخطاء وتحديد المسؤولية عنها أكثر صعوبة، خاصة مع تزايد اعتماد الشركات عليها في تنفيذ المهام. تريليونات تنفق.. من يدفع ثمن الأخطاء؟ تتزايد أهمية هذه المخاوف مع توسع استثمارات الشركات في الذكاء الاصطناعي، إذ تتوقع جارتنر أن يصل إنفاق العالم على البنية التحتية للذكاء الاصطناعي وحدها إلى 1.48 تريليون دولار خلال 2026، مقابل نحو 29.2 مليار دولار على الوكلاء والمساعدين الأذكياء. لكن هذه الاستثمارات لا تضمن نجاح المشروعات، فقد حذرت المؤسسة من احتمال إلغاء أكثر من 40% من مشروعات وكلاء الذكاء الاصطناعي بحلول نهاية 2027، بسبب ارتفاع التكاليف أو غموض العائد الاقتصادي أو ضعف ضوابط المخاطر. ولا تبدو هذه المخاطر مجرد احتمالات نظرية، إذ كشف استطلاع نشرته شركة نايلس الأمريكية في أكتوبر الحالي أن 54% من المشاركين أفادوا بوقوع أخطاء ارتكبها وكلاء الذكاء الاصطناعي داخل مؤسساتهم خلال الأشهر الثلاثة السابقة. وفي استطلاع آخر لشركة إرنست ويونج، أفاد 36% من المسؤولين المشاركين بأن مؤسساتهم تعرضت لحوادث أو إخفاقات مرتبطة بالذكاء الاصطناعي تسببت في أضرار ملموسة، شملت خسائر مالية وتسريب بيانات والإضرار بالسمعة. وفي هذا السياق، حذر إريك بريثينو، نائب الرئيس المحلل المتميز لدى جارتنر، من أن اندفاع الشركات نحو منح أنظمة الذكاء الاصطناعي استقلالية كاملة قبل التأكد من موثوقيتها قد يؤدي إلى تضخم التكاليف وزيادة المخاطر الأمنية ووقوع إخفاقات غير متوقعة. حتى المبرمجون لا يثقون بها ولا تقتصر المخاوف بشأن موثوقية أنظمة الذكاء الاصطناعي على المؤسسات والشركات التي تستثمر فيها، بل تمتد إلى المبرمجين والمتخصصين الذين يستخدمون هذه التكنولوجيا ويشاركون في تطوير تطبيقاتها. وكشف استطلاع أجرته منصة ستاك أوفرفلو ونشرته الشهر الحالي بمشاركة أكثر من 30 ألف متخصص في التكنولوجيا من 169 دولة، أن 17.2% لا يستعينون بأدوات الذكاء الاصطناعي في عملهم، رغم الانتشار الواسع لهذه التكنولوجيا. وأظهر أن 48% من المشاركين في سؤال الثقة لا يثقون في نتائج الذكاء الاصطناعي إلا عندما يستطيعون التحقق منها بسهولة، بينما أعرب 12.3% عن عدم ثقتهم بها في معظم مهام العمل، ولم تتجاوز نسبة الذين يثقون بها في قرارات العمل المهمة 6.6%. ومع انتقال الذكاء الاصطناعي من تقديم الإجابات إلى تنفيذ المهام والتعامل مع الملفات والأنظمة الداخلية، لم يعد كافيًا أن تتحقق الشركات من صحة النتائج النهائية، بل أصبح عليها مراقبة الصلاحيات والخطوات التي تتخذها الأنظمة للوصول إليها. وتزداد أهمية هذه الرقابة في المؤسسات التي تعتمد على أنظمة الذكاء الاصطناعي لإدارة معلومات حساسة أو اتخاذ قرارات قد تترتب عليها خسائر مالية أو أضرار للمستخدمين. وقد لا يتمثل الاختبار الحقيقي خلال السنوات المقبلة في مدى قدرة الشركات على تطوير نماذج تتفوق على البشر في أداء المهام، بل في مدى قدرتها على ضمان أن تظل هذه النماذج خاضعة للمساءلة، حتى عندما تصبح طرق تفكيرها وتواصلها أكثر تعقيدًا من فهم الإنسان. المصادر: أرقام- شركة أنثروبيك- شركة أوبن إيه آي- مؤسسة ميتر البحثية- شبكة سي إن إن- مؤسسة جارتنر للأبحاث والاستشارات- شركة آي بي إم- منصة ستاك أوفرفلو- شركة نايلس ‏