مع الأخبار الأخيرة التي تفيد بأن الارهابيين المرتبطين بداعش كانوا يخططون لشن هجوم إرهابي ضد حفل تايلور سويفت في فيينا، النمسا، فقد تبين أيضًا أن بعض الجناة المتورطين في المؤامرة تطرفوا عبر الإنترنت . وفي حين لا يزال من غير المعروف ما إذا كان التطرف قد حدث عبر TikTok أو على منصة أخرى، فمن الواضح أن تنظيم داعش وشبكته العالمية من الشركات التابعة له يواصلون تطرف وتجنيد وتحريض الأتباع والمؤيدين على شن هجمات إرهابية في الغرب. قاد تنظيم داعش في خراسان حملة لا هوادة فيها لتوسيع واحتراف نهجه في العمليات الدعائية والإعلامية. اعتمد تنظيم داعش في خراسان على تطبيقات ومنصات مراسلة مختلفة للتواصل مع مختلف الجاليات في الغرب - من البلقان والقوقاز وآسيا الوسطى - وإقناع مؤيديه بمهاجمة مجموعة من الأهداف السهلة، بما في ذلك أماكن الحفلات الموسيقية والمتنزهات الترفيهية ودور العبادة.
في أعقاب هجمات حماس في السابع من أكتوبر والعمليات العسكرية الإسرائيلية اللاحقة في غزة، شهدت أوروبا ارتفاعًا مقلقًا في الاعتقالات المتعلقة بالإرهاب، حيث كان ما يقرب من ثلثي المعتقلين بين أكتوبر 2023 ويونيو 2024 من المراهقين. ويؤكد هذا التحول المثير للقلق في التركيبة السكانية، إلى جانب تحذيرات من علماء الجريمة مثل آلان باور، الذين لاحظوا أن العديد من القاصرين الذين تم اعتقالهم في فرنسا بتهمة التخطيط لهجمات إرهابية لم يكونوا معروفين من قبل لأجهزة الأمن، على تحول كبير في السرعة والطريقة التي يتم بها تطرف الأفراد الشباب نحو الإيديولوجية الجهادية والتخطيط لاحقًا لهجمات عنيفة.
ورغم أن منصات التواصل الاجتماعي مثل تيك توك وتطبيقات المراسلة مثل تيليجرام ليست تقنيات جديدة أو ناشئة، فإن استغلالها المتطور بشكل متزايد من قبل المجندين والمنظمين الجهاديين يشير إلى أن إمكانية إساءة الاستخدام لا تزال تتطور وأن الشباب قد يكونون عرضة للخطر بشكل خاص. كما يشير ذلك في الوقت نفسه إلى أنه على الرغم من أن القطاعين العام والخاص حاولا اتخاذ إجراءات صارمة ضد استخدام المنصات لنشر المعلومات المضللة والمحتوى المتطرف، إلا أنها تظل الخيار الأساسي للجهاديين لتجنيد ونشر رسالتهم بكفاءة، والذين يتكيفون ويستغلون قدرات جديدة مثل الذكاء الاصطناعي التوليدي للمساعدة في جهودهم.
في أوائل عام 2023، سلطت مؤامرة فاشلة على مسيرة فخر LGBTQ + في النمسا الضوء على كيفية إلهام مراهقين ونمساوي يبلغ من العمر 20 عامًا من أصل شيشاني وبوسني وتطرفهم من خلال TikTok. في حين أن TikTok لديها سياسة قائمة لإزالة المحتوى المتطرف، تُظهر الدراسات مدى الدعاية العنيفة المتاحة على المنصة القائمة على الفيديو. تعرض الشباب النمساويون لمقاطع فيديو أنشأها مؤثرون إسلاميون على TikTok تمجد الجهاد، مما أدى من خلال المشاركة إلى تعرضهم لمزيد من المحتوى المماثل. بعد ذلك، نظم أصغرهم، البالغ من العمر 14 عامًا فقط، قناة Telegram مع الجهاديين من جميع أنحاء أوروبا لتبادل المعلومات حول التخطيط للهجمات وجمع الأموال للأسلحة. الآن، مع إمكانية الوصول إلى الذكاء الاصطناعي، يمكن تعزيز جهود التجنيد على هذه المنصات من خلال إنشاء المزيد من المحتوى بشكل مصطنع، واختبار المحتوى الذي يعمل بشكل جيد عبر الإنترنت، وبالتالي تكرار الرسائل بكفاءة.
إن أحد التحديات المهمة المرتبطة باتخاذ إجراءات صارمة ضد المحتوى المتطرف الذي يدفع الناس إلى التطرف في أعمال العنف هو أنه لا يقضي على الظاهرة الأساسية أو يقلل الطلب عليها. وبدلاً من ذلك، يمكن أن يؤدي ذلك إلى نزوح المتطرفين إلى منصات أخرى أقل تنظيماً أو تلك التي يصعب مراقبتها. وقد لوحظت هذه الظاهرة، المعروفة باسم "هجرة المنصة"، عبر مجتمعات متطرفة مختلفة على الإنترنت. ومن الأمثلة البارزة على ذلك حركة العزوبة غير المتزوجين . فبعد حظرها من Reddit في عام 2017 بسبب جهود المنصة للحد من خطاب الكراهية والأيديولوجيات العنيفة، تفرق أعضاء مجتمع العزوبة غير المتزوجين إلى مساحات أكثر غموضًا وأقل تنظيماً على الإنترنت، بما في ذلك المنتديات المتخصصة وتطبيقات المراسلة المشفرة ومنصات التواصل الاجتماعي البديلة مثل 4chan و8kun ومواقع الويب المختلفة الخاصة بالعزوبة غير المتزوجين. ويؤكد هذا النمط من الهجرة على قضية أوسع في مكافحة التطرف عبر الإنترنت: في حين أن إلغاء المنصات يمكن أن يعطل رؤية الجماعات المتطرفة ووصولها، فقد يؤدي عن غير قصد إلى توحيدها في مساحات أكثر انعزالاً وتطرفًا. وعلاوة على ذلك، وبما أن هذه الحركات تظل مرنة من الناحية التكنولوجية وتصبح أكثر عزلة، فإن جهود المراقبة والتعطيل قد تصبح أكثر تحديًا للممارسين ومسؤولي إنفاذ القانون.
وقد حدثت ظاهرة هجرة المنصات أيضًا في الحركة الجهادية العالمية. كان تنظيم داعش نشطًا للغاية على تويتر في أوائل العقد الأول من القرن الحادي والعشرين، حيث استخدم المنصة لتجنيد الأعضاء ونشر الدعاية وتنسيق الهجمات. ومع ذلك، عندما بدأ تويتر في اتخاذ إجراءات صارمة ضد الحسابات المرتبطة بداعش من خلال تعليق الآلاف منها، هاجر أعضاء داعش إلى منصات أخرى. أحدها هو تيليجرام، وهي خدمة مراسلة مشفرة توفر المزيد من الخصوصية وكانت أقل تنظيمًا في ذلك الوقت. على تيليجرام، يمكن لمؤيدي داعش إنشاء قنوات ومجموعات حيث استمروا في مشاركة الدعاية والتواصل بشكل آمن وتنظيم هجماتهم.
إن استخدام وسائل التواصل الاجتماعي لتجنيد وتطرف الأفراد يتناسب مع اتجاه قائم منذ فترة طويلة: فقد اعتاد الإرهابيون الجهاديون تاريخيا على تكييف والاستفادة من التقنيات الجديدة والناشئة لأغراض التجنيد والعمليات - من الاستخدام المبكر للمدونات من قبل الإسلاميين إلى الاستفادة من الطائرات بدون طيار لمقاطع الفيديو الدعائية. وفي حين ناقش المحللون إلى أي مدى قد يستخدم الجهات الخبيثة الذكاء الاصطناعي من حيث نشر المحتوى المتطرف، فقد استخدم تنظيم داعش بالفعل تطبيقات الذكاء الاصطناعي التوليدية لإنشاء المحتوى وبث مزاعم الهجمات. في عام 2024، أطلق أنصار تنظيم داعش برنامجًا تم إنشاؤه بواسطة الذكاء الاصطناعي يسمى News Harvest لنشر مقاطع الفيديو الدعائية. بالإضافة إلى ذلك، لاحظت دراسة نُشرت في CTC Sentinel في يناير 2024 لاختبار قوة منصات الذكاء الاصطناعي ضد سوء الاستخدام معدل نجاح مرتفع في منصات الذكاء الاصطناعي التي تستجيب للمطالبات المتعلقة بالأنشطة المتطرفة، حتى في غياب كسر الحماية - على سبيل المثال، عملية تجاوز ميزات الأمان المضمنة في روبوت الدردشة بالذكاء الاصطناعي. بالإضافة إلى ذلك، لاحظوا أن بعض المنصات كانت أكثر عرضة لتقديم معلومات ضارة من غيرها. أثبتت المطالبات غير المباشرة أو الافتراضية فعاليتها في استنباط استجابات ضارة من نماذج الذكاء الاصطناعي. من المحتمل أن يتم استغلال مثل هذه الحلول البديلة.