الذكاء الاصطناعي والمحتوى الإرهابي خيارات السياسة الأوروبية وضمانات الدقة في العربية

الملخص التنفيذي

تقترح هذه الورقة أن تجعل أوروبا دقة القرار في المحتوى العربي جزءاً من قدرتها على مكافحة الإرهاب، وأن تستخدم الذكاء الاصطناعي للمساعدة في الفرز والتحليل تحت مسؤولية بشرية واضحة. الأولوية هي تنفيذ القانون على المحتوى الإرهابي المحدد، مع حماية الصحافة والبحث والتعبير الديني والسياسي المشروع. وتوصي باختبارات مستقلة للسياق واللهجات، ومسار سريع لتصحيح الإزالة الخاطئة، وتقارير تبين أخطاء الإزالة وأخطاء الإبقاء معاً. لا تعتبر الورقة ظهور الدعاية المولدة آلياً دليلاً على فعالية مستقلة في التجنيد أو تنفيذ الهجمات؛ فذلك يحتاج أدلة سببية لا توفرها مراجعتها المكتبية.

EOSP-2026-168 · ورقة سياسات · 4 أكتوبر 2026 · عام للنشر

تقديم ناصر زهير — المستشار الدبلوماسي والاقتصادي

Read this policy paper in English

الحكم التنفيذي

توصي الورقة بتمويل تحسين دقة القرارات بشأن المحتوى العربي والمراجعة البشرية والتصحيح إلى جانب الكشف الآلي. يُطبق القانون على المحتوى الإرهابي المحدد، مع حماية المحتوى المشروع وإتاحة مسار اعتراض واضح بالعربية. ويُقاس النجاح بأخطاء الإزالة والإبقاء وسرعة التصحيح؛ فوجود الدعاية المولدة وحده لا يثبت أثراً سببياً على التجنيد أو الهجمات.

النتائج الرئيسية

• أجندة فبراير 2026 تطرح مراجعة محتملة للائحة ولا تمثل تعديلاً تشريعياً نافذاً [1]
• يوروبول يرصد إساءة استخدام التوليد الآلي مع وجود مواد مشروعة ضمن المحتوى المولد [2]
• مهلة الإزالة في اللائحة تبدأ من تلقي الأمر مع حماية الأغراض المشروعة المحددة [3]
• تقرير الحقوق الأساسية يقدم أدلة نوعية عن أثر الإشراف على الناطقين بالعربية لا معيار دقة شاملاً [5]

الحكم التنفيذي والدقة بوصفها قدرة أمنية

قدمت المفوضية الأوروبية في 26 فبراير 2026 أجندة جديدة لمنع الإرهاب ومكافحته. وأعلنت، ضمن حماية الناس على الإنترنت، النظر في مراجعة لائحة المحتوى الإرهابي على أساس تقييمها في 2026، وإنفاذ قانون الخدمات الرقمية، وتقوية التعاون مع المنصات والاستجابة للأزمات. هذه اتجاهات معلنة للسياسة؛ ولا يُعد الإعلان عن مراجعة محتملة تعديلاً تشريعياً نافذاً. [1]

ترى الورقة أن الأولوية العملية هي تمويل القدرة على اتخاذ قرار صحيح يمكن تسبيبُه ومراجعته. تستطيع الأداة الآلية ترتيب المواد بحسب أولوية الفحص، لكن تحديد التحريض أو التجنيد أو الغرض الصحفي يجب أن يبقى تحت مسؤولية جهة مختصة. ومع كل زيادة في سرعة المعالجة، ينبغي فحص ما إذا تحسنت القدرة على تحديد المحتوى الإرهابي، وما إذا ازداد أيضاً حذف النقاش المشروع.

يتعين أن تدير السياسة خطأين متوازيين: بقاء مادة إرهابية ضارة، وإزالة مادة مشروعة. ترك أحدهما خارج القياس يعطي صورة مضللة عن النجاح. وقد تجعل الإزالة الخاطئة الصحفي أو الباحث أو المستخدم العربي أقل قدرة على توثيق تهديد، بينما يؤدي الإبقاء الخاطئ إلى تعريض الجمهور له. لذلك تقترح الورقة ميزانية مشتركة للكشف والتحقق والتصحيح، ومساءلة الإدارة عن المراحل الثلاث؛ ولا يكفي شراء أداة جديدة أو مضاعفة عدد التنبيهات.

حدود المفاهيم وحدود الأدلة

يجب الفصل بين الإسلام بوصفه ديناً، والإسلام السياسي بوصفه تسمية تحليلية لتيارات ومشروعات سياسية متباينة، والتطرف العنيف، والإرهاب. لا تستنتج الجريمة من التدين أو الهوية أو المطالبة السياسية. ويجمع تعريف الجرائم الإرهابية في التوجيه الأوروبي 2017/541 بين أفعال محددة وشروط تتعلق بخطورتها وغرضها؛ كما يرتبط تجريم التحريض العلني بالقصد وخطر ارتكاب جرائم إرهابية.[7] أما وصف موقف بالتشدد، فلا يعوض إثبات عناصر المخالفة المنطبقة.

يرصد تقرير يوروبول TE-SAT 2026، المنشور في 13 يوليو والمغطي لعام 2025، استعمال أدوات توليد الصور والصوت والفيديو في صناعة الدعاية وتعديلها، وإساءة استخدام المحادثات الآلية. ويلاحظ أن جانباً كبيراً من المواد المولدة كان خطاب كراهية أو محتوى منفراً لكنه مشروع، لا محتوى إرهابياً صريحاً.[2] وهذا يبرر الاستعداد والتمييز الدقيق؛ فلا يكفي وصف المادة بأنها مولدة بالذكاء الاصطناعي لإصدار حكم قانوني عليها.

يمكن منطقياً أن يخفض التوليد الآلي كلفة إنتاج الرسائل وأن يوسع خيارات عرضها؛ وهذه آلية محتملة، لا تقدير مثبت لحجم التأثير. إثبات زيادة التجنيد أو الهجمات بسبب الأداة يحتاج تتبع التعرض والسلوك، ومعالجة العوامل الأخرى، ومقارنة مناسبة. ولا تسمح أمثلة الاستعمال أو أعداد الروابط بالإجابة وحدها. يجب أن تقول التقارير ما لوحظ، ثم تميز عنه ما يُرجح وما لا يزال مجهولاً، وألا تحول ارتباطاً زمنياً إلى علاقة سببية.

تظل هوية المصدر وغرض النشر والسياق ومعنى الرسالة عناصر القرار. قد تنقل مادة حقيقية دعوة إرهابية، وقد تستخدم مادة اصطناعية في تعليم أو نقد مشروع. كذلك فإن الشك في أصالة تسجيل لا يثبت قصد ناشره. تقترح الورقة فصل فحص أصالة الوسائط عن فحص قانونية المحتوى، ثم جمع النتيجتين في ملف القرار؛ حتى لا يتحول ادعاء تقني غير متحقق إلى أساس لعقوبة أو اتهام.

الإطار القانوني والاختصاص الواضح والضمانات العملية

تلزم لائحة 2021/784 مزود الاستضافة بإزالة المحتوى المحدد أو تعطيل الوصول إليه خلال ساعة من تلقي أمر الإزالة، وتحمي الأغراض الصحفية والتعليمية والبحثية والفنية ومكافحة الإرهاب. وتتضمن ضمانات للتحقق البشري في التدابير التقنية، وسبل تظلم، ولا تفرض استخدام أدوات آلية أو مراقبة عامة.[3] مهلة الساعة مرتبطة بالأمر؛ وليست ترخيصاً لحذف كل محتوى عربي يثير تنبيهاً آلياً.

يوفر قانون الخدمات الرقمية 2022/2065، وفق نطاق الالتزامات المنطبق، بيان أسباب التقييد وشكاوى داخلية تُحسم تحت إشراف موظفين مؤهلين، وتقييم المخاطر وتخفيفها وتدقيقاً مستقلاً للمنصات ومحركات البحث الكبيرة جداً.[4] وهذه أدوات مختلفة الوظيفة: إزالة مادة محددة، ومراجعة قرار فردي، ومعالجة خطر ناتج عن تصميم خدمة. لا ينبغي دمجها في مسار غامض يحرم المستخدم معرفة الجهة التي قررت والأساس الذي استخدمته.

تقترح الورقة أن يسجل كل تدخل ما إذا كان أمراً قانونياً ملزماً، أو إحالة لفحص المنصة، أو تطبيقاً لشروط الخدمة. وتوضح الجهة المنفذة طريق الاعتراض المناسب، مع مراعاة القيود القانونية المبررة على الإفصاح. يجب أيضاً تحديد الخدمة والولاية القانونية قبل تطبيق واجب الاستضافة على منتج للذكاء الاصطناعي؛ فلا يصح افتراض أن جميع المطورين وجميع وظائف منتجاتهم تخضع للأحكام نفسها. وعند الرغبة في التزام جديد، يُعرض بوصفه اقتراحاً تشريعياً أو ترتيباً طوعياً محدداً.

العربية واختبار السياق قبل الحكم

حذر تقرير وكالة الاتحاد الأوروبي للحقوق الأساسية الصادر في 22 يناير 2026 من أثر غير متناسب على المسلمين والناطقين بالعربية، ومن حدود المراجعة الآلية والبشرية. يعتمد على مقابلات مع 62 خبيراً وممارساً، أجريت بين يوليو 2024 ويناير 2025؛ فهو دليل نوعي على مشكلات تستحق الفحص، وليس اختباراً يقيس نسبة الخطأ الحالية في كل منصة أو لهجة. [5]

يوضح رأي مجلس الإشراف الصادر في 26 مارس 2024 بشأن لفظ «شهيد» أن افتراض المخالفة من اللفظ وحده يمكن أن يقيّد التعبير المشروع، وأن المعنى يحتاج قراءة سياقية.[6] هذا رأي في سياسة ميتا، وليس قاعدة أوروبية ملزمة أو نتيجة تختصر أداء القطاع كله. قيمته هنا أنه يقدم حالة محددة لاختبار قدرة النظام على التفريق بين نقل خبر وتمجيد عنف، من دون اختزال العربية في قاموس مشتبه به.

تقترح الورقة اختباراً من طبقتين: صحة التصنيف، وصحة تفسير السياق. تشمل العينة نصوصاً مشروعة وأخرى مخالفة، بالفصحى ولهجات مختلفة وبصيغ تجمع العربية ولغة أخرى، ومحتوى صحفياً وبحثياً ودينياً. يراجع مقيمان مؤهلان الحالات المختلف عليها وتوثق أسباب الاتفاق أو الخلاف. هذه مواصفات لاختبار مقترح؛ لم تنفذ المنظمة تدقيقاً تقنياً أو مقابلات أصلية لهذه الورقة، ولا تقدم الورقة نتائج أداء مقاسة.

ويُختبر انتقال القرار بين الترجمة والفرز والمراجعة. ففي مثال افتراضي، قد يقتبس خبر عبارة عنيفة لينقدها، ثم تختزلها ترجمة في صيغة تبدو تأييداً. يجب أن يرى المراجع الأصل والنص المحيط والغرض المعلن، وأن يستطيع طلب خبرة لهجية. ولا تكفي معرفة العربية العامة لكل سياق. تُحمّل الإدارة مسؤولية توفير الوقت والتدريب والدعم للمراجعين؛ لأن توقيعاً بشرياً على نتيجة لم تُقرأ ليس ضمانة فعلية.

معايير القرار ومسار تصحيح الخطأ

تقترح الورقة خمسة معايير مترابطة قبل اختيار الإجراء: النص القانوني أو قاعدة الخدمة المنطبقة؛ معنى المادة في سياقها وغرض نشرها؛ جدية الضرر واستعجاله؛ مدى الثقة في الأدلة المتاحة؛ والقدرة على تفسير القرار ومراجعته. تسجل الجهة ما تعرفه وما ينقصها. ولا تثبت درجة ثقة النموذج القصد، ولا تحل محل التسبيب القانوني؛ فالدرجة تصف أداة ضمن شروط اختبارها، ولا تحمل وحدها معنى المخالفة.

عند تلقي أمر إزالة صحيح، ينفذ المزود الالتزام ضمن مهلته، مع تفعيل الضمانات ومسار المراجعة المنطبق؛ ولا تستخدم هذه المقترحات ذريعة لتعطيل التنفيذ. ويجب إعداد الفرق ونقاط الاتصال مسبقاً، خصوصاً عند الأزمة. أما المادة الملتبسة التي لم يحدد أمر قانوني مصيرها، فتوجّه إلى مراجع مؤهل قبل تقييد واسع. وإذا استلزم خطر عاجل إجراءً مؤقتاً ذا أساس مشروع، يحدد المسؤول نطاقه ومبرره وموعد مراجعته، ولا يتركه قائماً بلا متابعة.

يُعطى المستخدم تفسيراً مفهوماً بالعربية ومسار اعتراض يسهل استعماله، حيث يسمح القانون بالإفصاح. تتولى جهة مراجعة مؤهلة الاعتراض، وتفحص حجته والأصل والسياق، ولا تكرر نتيجة النظام الأول آلياً. وعند ثبوت الخطأ، يُعاد المحتوى وتُعالج الآثار المرتبطة بالقرار، مثل القيود على الحساب، بحسب طبيعة الحالة. ويجب أن يصل التصحيح إلى الأنظمة التي ورثت التصنيف الخاطئ، حتى لا تتكرر الإزالة بسبب سجل لم يُحدّث.

توصي الورقة بأن تعتمد المنصات هدفاً داخلياً للاستجابة الأولية للاعتراضات العاجلة خلال يوم عمل، مع إعلان القدرة الفعلية وما يتطلب فحصاً أطول. هذا هدف خدمة مقترح، لا مهلة قانونية جديدة. وتستحق شكاوى الصحافة والبحث التي يتوقف نفعها على التوقيت فحصاً سريعاً على أساس الوظيفة والأثر، مع إبقاء الطريق متاحاً للمستخدم الفرد؛ فلا تُربط إمكانية التصحيح بالشهرة أو القدرة على دفع أتعاب تمثيل.

الشفافية وقياس القرار وما بعده

عدد المواد المحذوفة يقيس نشاطاً، لكنه لا يثبت نجاح الوقاية. تقترح الورقة نشر حجم العينة ومنهجها ونسبة المواد المخالفة التي التقطت، ونسبة المواد المشروعة التي قيّدت خطأ، ووقت المراجعة والتصحيح. يجب عرض أعداد الأساس إلى جانب النسب والتمييز بين نتائج اختبار مضبوط وقرارات الاستخدام الفعلي. كما لا يقيس معدل قبول الطعون وحده كل الأخطاء؛ إذ قد لا يعترض المستخدم، أو يتعذر عليه الوصول إلى المسار.

تفصل المادة 42 من قانون الخدمات الرقمية بعض الإفصاحات اللغوية بحسب اللغات الرسمية للدول الأعضاء؛ ولا ينبغي تقديم ذلك باعتباره التزاماً مماثلاً قائماً للإفصاح عن العربية.[4] تقترح الورقة أن تضيف المنصات، طوعاً أو عبر أداة قانونية مناسبة، بيانات عربية مفيدة عن الخبرة البشرية والأخطاء والتصحيح، مع تقسيم اللهجات فقط عندما تكفي العينة وتحمي الخصوصية. لا يبرر هدف الشفافية نشر بيانات شخصية أو تفاصيل تكشف ثغرات قابلة للاستغلال.

يجب أن تربط الإدارة بين الإخفاق والإصلاح: إذا تكرر خطأ في سياق صحفي أو لهجة، تحدد الفريق المسؤول وإجراء المعالجة واختبار المتابعة. وإذا تحسن منع المخالفة بينما ازداد تقييد المحتوى المشروع، يعاد ضبط التدخل وتوزيع الموارد. معيار القبول هو تحسن يمكن تفسيره على الجانبين، ضمن مستوى خطأ معلن ومبرر؛ ولا تقترح الورقة نسبة موحدة للقطاع في غياب بيانات تسمح بتحديدها.

توصيات موزعة على الجهات ومراجعة بعد ستة أشهر

للمفوضية الأوروبية: خلال ثلاثة أشهر من اعتماد برنامج العمل المقترح، إعداد إرشادات تطبيقية تميز الأمر الملزم والإحالة وشروط الخدمة، وتضم حالات عربية مشروعة ومخالفة بمراجعة قانونية ولغوية. وتُستخدم نتائج تقييم اللائحة لتحديد فجوات الإنفاذ والضمانات قبل اقتراح توسيع الالتزامات. ويُربط تمويل الاختبارات بوضوح المنهج واستقلال المراجعة وإمكان إعادة الفحص، مع مشاركة مؤسسات صغيرة تحتاج إلى موارد عملية.

للدول الأعضاء والسلطات المختصة: خلال اثني عشر أسبوعاً، تحديد فرق متاحة للاستجابة للأوامر والأزمات، ومسار تصعيد إلى خبرة عربية وقانونية، وفحص دوري لتسبيب القرارات. وللمنصات: خلال ثلاثة أشهر، مراجعة تدريب المقيمين وإتاحة الاعتراض بالعربية وربط التصحيح بقيود الحساب والتصنيفات الموروثة. ويُكلف مسؤول إداري بميزانية التنفيذ؛ لأن توزيع المسؤولية على مورد خارجي لا يغني عن مساءلة الجهة التي تتخذ القرار.

لمطوري النماذج: اختبار إساءة الاستخدام والقرارات المساعدة في العربية ضمن وظائف المنتجات الفعلية، وتوثيق الحدود، وتقديم قناة لإبلاغ الخطأ ومتابعته، مع تجنب الوعد بدقة لم تُقَس. وللباحثين والمجتمع المدني والجهات الرقابية: تصميم مراجعة مستقلة بعد ستة أشهر من بدء البرنامج، تقارن التقاط المخالفة وحماية المحتوى المشروع وسرعة التصحيح، وتحمي البيانات. وتشارك أصوات عربية ومراجعون ذوو خبرة دينية وسياسية وصحفية من دون تحويل أي جماعة إلى ممثل وحيد للغة.

هذه توصيات تحليلية تستند إلى مراجعة مصادر أولية متاحة حتى 4 أكتوبر 2026. ليست نتائج تجربة على نماذج أو تقييم حالة قضائية، ولا تقديراً لعدد المجندين أو الهجمات الناتجة عن الذكاء الاصطناعي. وتحدد الورقة ثلاث أولويات تنفيذية: تطبيق القانون على المادة المحددة، وتمويل قابل للتدقيق لتحسين دقة القرارات بشأن المحتوى العربي، ومسار تصحيح يستطيع المستخدم الوصول إليه.

التوصيات التنفيذية

1. تعد المفوضية الأوروبية، خلال ثلاثة أشهر من اعتماد البرنامج، إرشادات تميز الأوامر والإحالات وشروط الخدمة، مع أمثلة عربية خضعت لمراجعة قانونية ولغوية.
2. تحدد الدول الأعضاء، خلال اثني عشر أسبوعاً من بدء البرنامج، فرق استجابة ومسار تصعيد إلى خبرة عربية وقانونية، وتفحص تسبيب القرارات.
3. تراجع المنصات، خلال ثلاثة أشهر من بدء البرنامج، تدريب المقيمين، وتتيح الاعتراض بالعربية، وتربط التصحيح بقيود الحساب والتصنيفات الموروثة.
4. يختبر مطورو النماذج إساءة الاستخدام والقرارات المساعدة ضمن وظائف المنتج الفعلية، ويوثقون الحدود ويتيحون الإبلاغ عن الأخطاء ومتابعتها.
5. يجري الباحثون والمجتمع المدني والجهات الرقابية، بعد ستة أشهر من بدء البرنامج، مراجعة مستقلة لرصد المخالفات وحماية المحتوى المشروع وسرعة التصحيح.

مؤشرات المتابعة

• نسبة المواد المخالفة الملتقطة مع حجم العينة ومنهجها
• نسبة المحتوى المشروع المقيد خطأ مع أعداد الأساس
• وقت المراجعة والتصحيح في الاختبار والاستخدام الفعلي
• تكرار الخطأ بعد المعالجة ونتائج اختبار المتابعة

المنهج وحدود الأدلة

مراجعة مكتبية لمصادر أولية متاحة حتى 4 أكتوبر 2026 تشمل التشريعات والمفوضية ويوروبول ووكالة الحقوق الأساسية ومجلس الإشراف. تفصل الورقة الملاحظة عن الاستنتاج والتوصية. لم تُجر مقابلات أصلية أو تدقيقات تقنية أو دراسة سببية ولا تمثل أهداف التنفيذ نتائج مقاسة.

المصادر والمراجع

1. المفوضية الأوروبية، حماية الاتحاد الأوروبي، المفوضية تعرض أجندة جديدة لمكافحة الإرهاب — 26 فبراير 2026
2. يوروبول، تقرير وضع الإرهاب واتجاهاته في الاتحاد الأوروبي لعام 2026، الصفحتان 5 و12 — 13 يوليو 2026
3. لائحة الاتحاد الأوروبي رقم 2021/784 بشأن التصدي لنشر المحتوى الإرهابي عبر الإنترنت، المواد 1 ومن 3 إلى 5 ومن 9 إلى 11 — 29 أبريل 2021
4. لائحة الاتحاد الأوروبي رقم 2022/2065، قانون الخدمات الرقمية، المواد 17 ومن 19 إلى 20 ومن 34 إلى 35 و37 و42 — 19 أكتوبر 2022
5. وكالة الاتحاد الأوروبي للحقوق الأساسية، تنظيم المحتوى الإرهابي عبر الإنترنت والموازنة بين السلامة العامة والحقوق الأساسية، القسم 3.1 وملحق المنهجية — 22 يناير 2026
6. مجلس الإشراف، استخدام لفظ «شهيد» في الإشارة إلى أفراد مصنفين على أنهم خطرون، رأي استشاري بشأن السياسات — 26 مارس 2024
7. توجيه الاتحاد الأوروبي رقم 2017/541 بشأن مكافحة الإرهاب، المادتان 3 و5 — 15 مارس 2017

النسخ المعتمدة

• فتح النسخة المعتمدة بصيغة PDF
• النسخة المعتمدة بصيغة Word

أوراق ذات صلة

• اختبار حوكمة الذكاء الاصطناعي في أوروبا: من وضع القواعد إلى التطبيق الموثوق
• جميع الأوراق والتقارير