La plupart des outils d'IA ne sont pas réglementés : les entreprises sont exposées à des risques.

حذرت دراسة جديدة من أن نشر أدوات الذكاء الاصطناعي دون مراقبة يشكل خطرًا أمنيًا ويعرض البيانات للخطر.

اعتمد تقرير Reco على معلومات مستقاة من الثغرات الأمنية المعلنة، وتحليل 500 خادم لبروتوكول سياق النموذج (Model Context Protocol)، وبيانات القياس عن بعد (telemetry) الخاصة بمنصة Reco. وقد كشف التقرير أن أربعة من كل خمسة أدوات intelligence artificielle (80%) تعمل دون إشراف أقسام تقنية المعلومات.

يثير حجم تطبيقات الذكاء الاصطناعي المستخدمة قلقًا خاصًا. ففي الشركات الصغيرة، تُستخدم 414 أداة ذكاء اصطناعي لكل 1000 موظف دون موافقة قسم تقنية المعلومات، ويبدو أن هذه الأدوات هي مزيج من إضافات المتصفحات وسير العمل التي تتجاوز عملية المراجعة والموافقة المعتادة.

مخاطر البيانات من الذكاء الاصطناعي غير المراقب

قد يؤدي تزويد الموظفين بأدوات الذكاء الاصطناعي إلى تعزيز الإنتاجية، لكن استخدامها يجب أن يكون معتمدًا. هذه هي الخلاصة الرئيسية من Rapport، الذي يسلط الضوء على بعض الأرقام المقلقة في مجال الأمن السيبراني. على سبيل المثال، قام التقرير بتقييم 500 أداة وكيل ووجد أن “62% منها يمكنها قراءة البيانات المحلية والوصول إلى الإنترنت”. وهذا يمثل فرصة لسرقة البيانات (data exfiltration). هذه المخاطر تستدعي التفكير في آليات التحكم، مثل آلية إيقاف الطوارئ التي تعمل عليها OpenAI.

وفي سياق متصل، تم تحديد 637 ثغرة أمنية مرتبطة بوكلاء الذكاء الاصطناعي في التقرير.

يتجاوز تبني الذكاء الاصطناعي مجرد استخدام تطبيق SaaS محدد ou زيارة ChatGPT. فقد اكتشفت Reco أن وكلاء الذكاء الاصطناعي يعملون ضمن أدوات أخرى، ويرثون صلاحيات المستخدمين. إن تداعيات هذا الأمر واضحة. لفهم أعمق لكيفية تقديم هذه الأدوات، يمكن الاطلاع على مفهوم L'intelligence artificielle en tant que service.

risques opérationnels

يكشف تحليل بيانات القياس عن بعد (telemetry) – التي جُمعت من 62 شركة كبرى في قطاعات الخدمات المالية والرعاية الصحية والتجزئة والاتصالات بين 1 يناير و1 أغسطس 2026 – عن موقف يتسم باللامبالاة تجاه تبني الذكاء الاصطناعي. فبينما قد تكون لدى الشركات سياسات وإجراءات مطبقة وعمليات لتقييم ومراجعة واعتماد أدوات الذكاء الاصطناعي الجديدة، يتم تجاوز هذه الإجراءات عند استخدام التطبيقات ذات المستوى المنخفض.

تُطبق القواعد على الإشراف على شراء حلول SaaS، ولكنها لا تنطبق على إضافات المتصفحات، والنتيجة هي “مخاطر تشغيلية”.

علق أوفر كلاين، الرئيس التنفيذي لشركة Reco، قائلاً: “لقد انتقل وكلاء الذكاء الاصطناعي من مرحلة التجريب إلى سير العمل اليومي في الشركات، لكن نتائجنا تظهر أن 20% فقط من أدوات الذكاء الاصطناعي في بيئات الشركات تخضع حاليًا لإشراف تقنية المعلومات”.

وأضاف: “هذا يترك المؤسسات عرضة لفئة جديدة من المخاطر التشغيلية. فالوكلاء المدمجون في التطبيقات يمكنهم العمل من خلال الصلاحيات الموجودة، ومنح OAuth، والوصول إلى سير العمل، مما يخلق تركيبات خطيرة تعرض البيانات للخطر وتطلق إجراءات تتجاوز ما وافق عليه أي مالك”.

يتعين على المؤسسات تزويد فرق تقنية المعلومات بالموارد اللازمة لإدارة وتقييد استخدام أدوات الذكاء الاصطناعي غير المصرح بها. فالبديل عن ذلك يعني ترك الباب مشرعًا أمام مخاطر تسرب البيانات.