هجمات “تسميم البيانات” : خطر جديد يهدد ChatGPT والذكاء الاصطناعي

هل تعلم أن نماذج الذكاء الاصطناعي، مثل ChatGPT وGemini، قد تواجه خطر التلاعب لتنتج معلومات مضللة أو منحازة دون أن تدرك ذلك؟ تخيّل أن النظام الذي يعتمد عليه الملايين في الكتابة والتحليل يمكن أن يُصاب بما يشبه “العدوى الرقمية” نتيجة إدخال بيانات مشوّهة أثناء تدريبه. هذه التهديدات الجديدة لا تستهدف الأجهزة أو البرمجيات فقط، بل يستهدف العقل الاصطناعي نفسه، ويثير قلق الباحثين في مراكز بحثية مثل مركز آلان ومعهد الأمن السيبراني.

باحثون يحذرون: يمكن "تسميم" ChatGPT ونماذج الذكاء الاصطناعي!

في هذا السياق، وقد حذّر باحثون من مركز آلان ومعهد ETH Zürich من إمكانية حدوث اختراقات أمنية عبر إدخال كود خفي داخل بيانات التدريب نماذج الذكاء الاصطناعي. وهي واحدة من أخطر الهجمات التي تهدد موثوقية الأنظمة الذكية الحديثة. إذ يمكن للبيانات المسمومة أن تغيّر طريقة تفكير النموذج وتوجه إجاباته بشكل خفي، مما يفتح الباب أمام مخاطر كبيرة في المجالات التي تعتمد على الذكاء الاصطناعي، من الأمن السيبراني إلى الطب والإعلام، وحتى في نتائج الأبحاث المنشورة في مجلات بحثية متخصصة.

🧬 ما المقصود بتسميم نماذج الذكاء الاصطناعي؟

🧩 تعريف تسميم نماذج الذكاء الاصطناعي"؟

تسميم نماذج الذكاء الاصطناعي هو نوع من الهجمات التي تستهدف مرحلة تدريب الأنظمة الذكية، حيث يتم إدخال بيانات مضللة أو مشوّهة لتغيير سلوك النموذج. الهدف من ذلك هو التأثير على طريقة تفكيره ونتائجه دون أن يظهر أي خلل واضح للمستخدم، مما يهدد إمكانية الاعتماد عليه في المهام الحساسة التي تواجه المؤسسات والشركات.

🎯  أهداف المهاجمين من تسميم النماذج

يسعى المهاجمون إلى تسميم نماذج الذكاء الاصطناعي لتحقيق أهداف متعددة تتجاوز مجرد إفساد النتائج. أحد أبرز هذه الأهداف هو زرع انحيازات خفية داخل النماذج مثل ChatGPT وGemini، بحيث تُظهر ميلًا غير مبرر نحو أفكار أو توجهات معينة عند إدخال بيانات ملوثة. كما يهدف بعض المهاجمين إلى إضعاف موثوقية النماذج، مما يؤدي إلى فقدان الثقة في نتائج الذكاء الاصطناعي، خاصة في المجالات الحساسة مثل الطب، الأمن، أو الإعلام.

🔒 تأثير التسميم على موثوقية الذكاء الاصطناعي

تسميم النماذج لا يقتصر على الخطأ في النتائج فحسب، بل يمتد إلى فقدان الثقة في الذكاء الاصطناعي نفسه. فعندما يتم خداع النماذج، تصبح قدرتها على اتخاذ القرارات أو تقديم التوصيات معرضة للتشويه، وهو ما يمثل خطرًا على الشركات ومراكز الأبحاث التي تعتمد عليها في مهامها الحساسة. وقد حذّر باحثون من إمكانية استخدام هذه الهجمات لاختراق الأنظمة أو نشر محتوى مضلل عبر منصات تعتمد على الذكاء الاصطناعي.

⚙️ كيف يحدث “تسميم البيانات” أثناء تدريب ChatGPT؟

تسميم البيانات هو عملية خفية يتم فيها إدخال معلومات مضللة أو متعمدة التأثير في مرحلة تدريب نماذج الذكاء الاصطناعي، مثل ChatGPT وGemini، مما يؤدي إلى تغيير طريقة استجابتها وتحليلها للمحتوى.

كيف يحدث “تسميم البيانات” أثناء تدريب ChatGPT؟

وقد نشرت مجلات بحثية أوراق جديدة بشأن هذه الظاهرة، مشيرة إلى أن إدخال كود خبيث أو حقن تعليمات غير مرئية قد يؤدي إلى نتائج غير متوقعة.

أبرز أساليب تسميم البيانات:

💡 ملاحظة: خطورة تسميم البيانات تكمن في صعوبة اكتشافه؛ إذ تمتزج البيانات السليمة بالمسمومة بسلاسة، مما يجعل من الضروري مراقبة مصادر التدريب بدقة وتصفية المحتوى قبل استخدامه، خاصة في النماذج التي تواجه تحديات أمنية متزايدة.

🧠 أنواع هجمات التسميم في أنظمة الذكاء الاصطناعي

تشمل هجمات تسميم نماذج الذكاء الاصطناعي عدة أساليب مختلفة تهدف جميعها إلى التأثير على طريقة تعلم الأنظمة الذكية واستجاباتها، سواء لتضليلها عمدًا أو لإضعاف دقتها أثناء الأداء الفعلي:

• 🎯 التسميم المستهدف: تحريف استجابة النموذج لحالات أو أسئلة محددة.
• 🌪️ التسميم العشوائي: تدهور الأداء العام عبر ضخّ كميات كبيرة من البيانات المضللة.
• 🧬 التسميم عبر التكرار: تكرار نفس المعلومة الخاطئة عبر مصادر متعددة.
• 🕵️‍♂️ التسميم الخفي: تشويهات دقيقة داخل محتوى يبدو طبيعيًا.
• 🔐 تسميم بالملصق النظيف: بيانات تبدو موسومة بشكل صحيح لكنها موجهة.
• 🪪 تسميم البوابة الخلفية: زرع محفّز خفي داخل بيانات التدريب.
• 🤝 تسميم في التعلم الفدرالي: استغلال مشاركين خبيثين لحقن تحديثات ملوثة.
• 🔗 تسميم سلسلة توريد البيانات: عبر مورد خارجي أو جهة طرف ثالث.
• 📊 تسميم التقييم والمقاييس: تلاعب في مجموعات الاختبار أو معايير القياس.
• 🧮 تسميم التدرجات: تعديل التدرجات أو أوزان النموذج خلال التدريب.
• 💬 حقن البرومبت عند الاستدلال: إدخال تعليمات خبيثة أثناء الاستخدام الفعلي.

💡 ملاحظة: تختلف خطورة هذه الأنواع حسب درجة التلاعب ومصدره، لذلك تعتمد حماية النماذج على أنظمة مراقبة دقيقة تكتشف أي نمط تعلم غير طبيعي منذ مراحله الأولى.

🧾 أمثلة بحثية لهجمات تسميم البيانات في نماذج الذكاء الاصطناعي

فيما يلي جدول منسق يلخّص أبرز الأمثلة البحثية لهجمات تسميم البيانات (Data Poisoning / Backdoor) التي استهدفت نماذج الذكاء الاصطناعي، بما في ذلك ChatGPT وGemini، مع وصف موجز لكل حالة ومرجع بحثي موثوق. هذه الأمثلة توضح إمكانية التلاعب بالنماذج الكبيرة للغة عبر إدخال بيانات ملوثة أو كود خفي، وهي موثقة في أوراق بحثية نُشرت في مجلات علمية مرموقة، ويستفيد منها الباحثون في مراكز مثل مركز آلان ومعهد الأمن السيبراني.