وكلاء الذكاء الاصطناعي يهددون بياناتك.. كيف تحمي نفسك من هجمات حقن التعليمات؟

السبت، 04 يوليو 2026 10:45 ص

مع التوسع السريع في تقنيات الذكاء الاصطناعي، بدأ جيل جديد من الأنظمة يُعرف باسم "وكلاء الذكاء الاصطناعي" (AI Agents)، وهي أدوات لا تقتصر على الإجابة عن الأسئلة، بل يمكنها تنفيذ مهام عملية نيابة عن المستخدم، مثل تصفح الإنترنت، وإدارة الملفات، وإرسال البريد الإلكتروني، وتشغيل البرامج، بل وإجراء بعض المعاملات بعد الحصول على الصلاحيات اللازمة.

خبراء الأمن السيبراني يحذرون من منح الصلاحيات

ومع هذا التطور، يحذر خبراء الأمن السيبراني من أن منح هذه الأنظمة صلاحيات واسعة قد يرفع من حجم المخاطر الأمنية إذا لم تُستخدم ضمن ضوابط صارمة، خاصة مع تصاعد ما يُعرف بهجمات "حقن التعليمات" (Prompt Injection)، التي تستهدف خداع أنظمة الذكاء الاصطناعي لتنفيذ أوامر لم يكن المقصود تنفيذها.

ما هو وكيل الذكاء الاصطناعي؟

يختلف وكيل الذكاء الاصطناعي عن روبوتات المحادثة التقليدية، إذ يستطيع تنفيذ مهام متعددة بعد منحه الأذونات المناسبة، مثل الوصول إلى مجلدات محددة، أو استخدام المتصفح، أو التعامل مع تطبيقات مختلفة نيابة عن المستخدم.

وتوفر بعض المنصات إمكانات تسمح للوكلاء بالتفاعل مع جهاز المستخدم أو مع تطبيقات خارجية، لكن ذلك يتم – في الأنظمة المصممة بصورة سليمة – بعد موافقات صريحة من المستخدم وضمن صلاحيات محددة.

ما هي هجمات "حقن التعليمات"؟

وتعد هجمات Prompt Injection من أبرز التحديات الأمنية التي تواجه تطبيقات الذكاء الاصطناعي الحديثة، وتعتمد على إدخال تعليمات خبيثة تدفع النموذج إلى تنفيذ سلوك غير مقصود أو تجاوز التعليمات الأصلية.

وتنقسم هذه الهجمات إلى نوعين رئيسيين:
حقن مباشر: يتم فيه إدخال أوامر خبيثة مباشرة داخل المحادثة لمحاولة تغيير سلوك النظام.
حقن غير مباشر: يعتمد على إخفاء تعليمات داخل صفحات ويب أو رسائل بريد إلكتروني أو ملفات مثل PDF أو مستندات نصية، بحيث يعالجها وكيل الذكاء الاصطناعي لاحقًا إذا كان يمتلك صلاحية قراءة هذه المصادر.

ويرى خبراء الأمن أن هذا النوع الأخير يمثل تحديًا أكبر مع انتشار الوكلاء القادرين على قراءة المحتوى الخارجي واتخاذ إجراءات بناءً عليه.

لماذا تمثل الوكلاء المستقلة خطورة؟

تزداد المخاطر عندما يمتلك وكيل الذكاء الاصطناعي صلاحيات واسعة، مثل الوصول إلى التخزين السحابي أو البريد الإلكتروني أو المستندات الحساسة أو أدوات العمل داخل الشركات.

وفي حال تعرض الوكيل لهجوم ناجح أو تنفيذه تعليمات خبيثة، فقد يؤدي ذلك إلى الوصول إلى ملفات خاصة، أو مشاركة بيانات دون قصد، أو تنفيذ إجراءات غير مرغوب فيها إذا لم تكن هناك طبقات حماية وموافقات بشرية.

ولهذا السبب، ينصح خبراء الأمن بعدم منح أي وكيل صلاحيات أوسع من الحاجة الفعلية، والاعتماد على مبدأ "أقل قدر من الامتيازات" عند استخدام هذه الأدوات.

كيف تحمي بياناتك؟

يوصي متخصصون في الأمن السيبراني باتباع مجموعة من الإجراءات لتقليل المخاطر، أبرزها:

استخدام جهاز أو بيئة عمل منفصلة عند تجربة وكلاء الذكاء الاصطناعي الذين يحتاجون إلى صلاحيات مرتفعة.
عدم منح أي تطبيق إمكانية الوصول إلى جميع الملفات إلا عند الضرورة القصوى.
مراجعة الملفات والإعدادات وأوامر التهيئة التي يتم تنزيلها من الإنترنت قبل استخدامها، وعدم الوثوق بالملفات الجاهزة من مصادر غير معروفة.
استخدام كلمات مرور مختلفة لكل خدمة، وعدم إعادة استخدام كلمة المرور الخاصة بالحسابات الحساسة.
تفعيل المصادقة متعددة العوامل (MFA) للحسابات المهمة.
إنشاء بريد إلكتروني مخصص للتسجيل في الخدمات والتجارب التقنية، بعيدًا عن البريد المستخدم في الأعمال أو الحسابات الشخصية.
مراجعة الأذونات الممنوحة للتطبيقات بشكل دوري وإلغاؤها عند عدم الحاجة إليها.

ورغم التطور الكبير الذي تشهده تقنيات وكلاء الذكاء الاصطناعي، يؤكد خبراء الأمن أن الاستفادة منها تتطلب وعيًا بالمخاطر المحتملة، والالتزام بمبادئ الأمن الرقمي، وعدم منح أي نظام صلاحيات واسعة دون فهم كامل لما يمكنه الوصول إليه وما يستطيع تنفيذه.

تابع موقع الأيام المصرية عبر تطبيق (تويتر) اضغط هــــــــنا

موقع الأيام المصرية، يهتم موقعنا بتقديم خدمة صحفية متميزة للقارئ، ونقدم لكم خدمة ومتابعة شاملة ومجموعة كبيرة من الأخبار داخل الأقسام التالية، أخبار، رياضة، فن، خارجي، اقتصاد، الأيامTV، حوادث، خدمات مثل: سعر الدولار، سعر الذهب، أخبار مصر، سعر اليورو، سعر العملات ، جميع الدوريات.