يرتبط تاريخ بناء مسجد «الجامع العتيق» بتاريخ بناء الرافقة التي أمر بتشييدها الخليفة أبي جعفر المنصور سنة 772م واعتمد في نظام عمارتها المخطط الدائري لمدينة دار السلام في بغداد وتم لذلك تحديد موقع المسجد الجامع وقصر الإمارة وسط تلك الدائرة.

أنشئ المسجد، فيما عدا المئذنة في عصر المنصور، وفي عصر نور الدين محمود بن زنكي تم ترميم المسجد وتم بناء المئذنة بإشراف أخيه حاكم الرقة ويعتبر المسجد من المباني العباسية التي تمَّ بناؤها في الفترة العباسية الأولى، فهي تخضع لسمات العمارة العباسية، حيث المساجد كانت تبنى بشكل قلاع أو حصون، أي أنها تبنى منعزلة، والذي بقي منه اليوم ما هو إلا جزء من المسقط الحقيقي للمسجد.

وشيد المسجد على غرار مسجد دمشق الذي يأخذ الشكل المستطيل، ويتكون من صحن وحرم ومحوط بجدارين من اللبن المغلف بالآجر المدعم بأبراج نصف دائرية، وفي كل زاوية برج مستدير، حيث بلغ مجموعها 20 برجاً، وفي الصحن تنهض المئذنة مستقلة والتي أنشئت في القرن الثاني عشر.

في الجهة الجنوبية من الجامع يقوم الحرم المحمول على صفين من الأعمدة، أما واجهته المشيدة من الآجر المشوي والمطلة على الصحن فهي مؤلفة من (11) فتحة مقوسة وهي موحدة الفتحات والأقواس في الواجهة، وتحاط بصيوان بارز ذي قوس أو حنيات في أعلاه أو شكل مفصص،في أسفل العضادات ينفتح محراب صغير، ويختلف شكل العضادتين الجانبيتين تماماً عن غيرها.

كانت أرضية الصحن مغطاة ببلاطات آجرية مشوية، وقد أحيط بأروقة من جهاته الثلاث عدا الجهة الجنوبية القبلية المتاخمة للحرم، وأقيمت عضادات الأروقة على أساسات لها شكل أخاديد متوازية لكل رواق، واصطفت الأروقة المزدوجة المؤلفة من بلاطتين بجانب العضادات الحاملة للغطاء، وقد حلت محل الأعمدة التي لم تكن مستعملة في المسجد، وهي تشابه تلك التي كانت قائمة في الحرم، كانت أرضية الحرم مفروشة بالآجر المشوي وتبين أن الآجر المكتشف يعود إلى عصر نور الدين، أما الأرضية الأصلية فهي منخفضة عن المكتشفة بـ 25سم.

كما تم الكشف في طرفي الحرم عن دكتين، يبلغ ارتفاع إحداها في الركن الشرقي للحرم 60 سم، تقابل الرواق الشرقي من خلال قنطرتيه المتصلتين بالحرم، ولها مصعدان صغيران من أرض الحرم مؤلفان من ثلاث درجات.