تعود جذور فكرة الاتحاد المغاربي إلى ما قبل الاستقلال، فقد تبلورت في أول مؤتمر للأحزاب المغاربية الذي عقد في مدينة طنجة في المغرب في الثالث من ابريل/نيسان 1958، والذي ضم ممثلين عن حزب الاستقلال المغربي والحزب الدستوري التونسي وجبهة التحرير الوطني الجزائرية. وبعد الاستقلال كانت هناك محاولات نحو فكرة تعاون وتكامل دول المغرب العربي خصوصًا المغرب، الجزائر وتونس، مثل إنشاء اللجنة الاستشارية للمغرب العربي عام 1964 لتنشيط الروابط الاقتصادية بين دول المغرب العربي، وبيان جربة الوحدوي بين ليبيا وتونس عام 1974, ومعاهدة مستغانم بين ليبيا والجزائر, ومعاهدة الإخاء والوفاق بين الجزائر وتونس وموريتانيا عام 1983.