تبنى الأفكار الجهادية في فترة مبكرة من حياته، ثم انضم إلى تنظيم القاعدة عام 1980، وسافر إلى أفغانستان في 1990م ليرتبط بعلاقة وطيدة مع أسامة بن لادن زعيم تنظيم القاعدة ليعود إلى ليبيا مرة أخرى، وفي عام 2004م سافر إلى بريطانيا هارباً من ليبيا، وفي 7 يوليو 2005، تم اعتقاله واحتجز لمدة 9 أشهر ونصف في سجن بيلمارش شديد الحراسة، قبل أن يطلق سراحه بكفالة وأخلي سبيله، لكن الشرطة البريطانية سرعان ما اعتقلته في شهر مايو  عام 2006 من منزله في مانشستر ضمن 10 ليبيين متهمين بتفجيرات المواصلات العامة، إلا أنه لم يمكث في السجن طويلاً ثم أخلي سبيله مرة أخرى، وكان اعتقاله في إطار ما سمي بنظام "المراقبة"، وهي الآلية المستخدمة لاحتجاز المشتبه في أنهم إرهابيون، عادة تحت الإقامة الجبرية في منازلهم، من دون توجيه اتهامات إليهم وتمكن بعد اعتقاله بفترة قصيرة من مغادرة بريطانيا في عام 2009، متجهًا إلى باكستان؛ قبل أن تصنفه الولايات المتحدة كأحد أخطر العناصر الإرهابية في العالم. 

وعقب اندلاع الثورة الليبية في 17 فبراير عام 2011م ضد الرئيس الراحل معمر القذافي كلفه أيمن الظواهري، بالتوجه إلى ليبيا للإشراف على فرع تنظيم القاعدة بها، وشكل نواة للتنظيم من 200 إلى 300 مسلح تحت قيادته شاركوا في المواجهات ضد نظام القذافي في البريقه، واتخذ من مدينة درنة مقرا له، وأصبح المسئول عن استقبال مجموعات مقاتلة من أفغانستان إلى ليبيا، ونشرت مكتبة الكونجرس الأمريكي في تقرير لها حول الإرهاب في ليبيا أن عبدالباسط عزوز يقود مجموعة يصل تعدادها إلى 300 شخص، إضافة إلى معسكر للتدريب، وكان قد أرسل بعضاً من رجاله إلى برقة من أجل التواصل مع المسلحين هناك والتنسيق معهم، خاصة وأن أخيه عبدالقادر عزوز، وكامل عزوز، من القيادات الجهادية في ليبيا إضافة إلى جلال عزوز الجهادي القاعدي الذي ينشط في مالي ويعتبر عزوز متخصصاً في صنع القنابل والمتفجرات. 

واعتمد عزوز على استراتيجية محددة لعمل تنظيم القاعدة في ليبيا ترتكز على ما يلي:

1- التشديد على آليات عمل التنظيم داخل ليبيا منعًا للانشقاق. 

2- عقد تحالفات متنوعة مع القبائل الليبية. 

3- الاستيلاء على أكبر عدد من مخازن السلاح التي تركها الجيش الليبي عقب انهيار نظام القذافي. 

4- منع إمدادات النفط عن الغرب.

5- تكوين معسكرات للقاعدة تكون لديها قدرة على الحركة وتنفيذ أكبر قدر من العمليات الإرهابية. 

6- تكوين شبكة تحالفات جهادية تكون أساسًا لما يسمى "إمارة الصحراء الإسلامية" لتنظيم القاعدة، تمتد من جنوب ليبيا لتصل إلى ساحل المحيط الأطلنطي.

أعد عزوز وشارك في العديد من العمليات الإرهابية، وهو ما جعل الإدارة الأمريكية، ممثلة في وزارة الخزانة الأمريكية تضعه ضمن القائمة السوداء الخاصة  للإرهابيين الـ 11 حول العالم، ومن أهم هذه العمليات ما يلي:  

1- الهجوم على القنصلية الأمريكية في بنغازي في 11 سبتمبر 2012م ، وقتل السفير الأمريكي كريس ستيفنز وثلاثة دبلوماسيين معه وهو ثالث متهم ليبي في هذه القضية تنجح واشنطن في القبض عليه.

2- التورط في الهجوم على مقر السفارة الفرنسية في العاصمة طرابلس رغم نفيه ذلك في مايو 2013م قائلا: لا أعرف الشيخ الحسن الرشيد الوارد اسمه بالبيان كمحرض على القيام بمثل هذه الهجمات، وإن المخابرات الإنجليزية حققت معي أكثر من عشرين مرة وتعرف من هو عبد الباسط عزوز، الذي اختار لنفسه الدعوة فقط لا غير، وليس له علاقة بمثل هذه الأمور. 

 الأولى: أنه تم اعتقاله من قبل الاستخبارات التركية بعدما أبلغتها المخابرات الأمريكية الـ"سي آي آي" بوصوله إلى اسطنبول بجواز سفر مزور باسم "عواد عبدالله" وتمكن الأمن التركي من توقيفه لدى مغادرته منزلاً في مدينة يالوفا في 13 نوفمبر 2014م، وضبط في حوزته جهاز كمبيوتر، وأبعد إلى الأردن، حيث استلمه عملاء "سي أي آي" لدى وصوله بطائرة من أسطنبول في 24 نوفمبر 2013م. 

الثانية: أنه اعتقل في بلد لم يكشف عنه، وهو في طريقه إلى ليبيا من المنطقة الحدودية بين أفغانستان وباكستان.