این مسجد یکی از بناهای تاریخی و از قدیمیترین مساجدی است که در سدههای نخستین اسلامی بنا شده است .
برخی این مسجد را آتشکده دانسته و گفته اند که در دوره ساسانیان ، آتش مقدس را از آتشکده کاریان به آنجا می آوردند .
در اینکه در نیریز آتشکده بوده تردیدی نیست ، اما اینکه این مسجد در مکان آتشکده بنا گردیده جای تردید است .
این مسجد زیبا برای اولین بار بوسیله " آندره گدار " مدیر کل سابق باستانشناسی ایران مورد بررسی قرار گرفت و کتیبههای محراب آن خوانده شده در کتاب آثار ایران از نشریات اداره کل عتیقات ترجمه آقای سید محمد مصطفوی در صفحه 100 مطالب کوتاهی راجع به مسجد جامع نیریز درج گردیده و چنین توضیح داده شده که ایوان اصلی مسجد به شیوه بناهای ایوان دار بنا گشته و بقیه مضافات بنای فعلی مسجد جامع بتدریج در قرون متمادی احداث گردیده است و قدیمیترین قسمت مسجد ایوان است که در قسمت جنوبی به چشم می خورد .
بناهای پیرامون آن الحاقی است .
ایوان اصلی دارای طاقی ساده ، گاهواره ای شکل بوده و ضلع پیشین ایوان سر تا سر باز و ضلع عقب ایوان را دیوار ضخیمی مسدود نموده که محراب قدیمی در همین دیوار احداث گردیده است ، اضلاع شرقی و غربی ایوان هر یک دارای پنج طاق نمای عمیق است که فعلاً از صورت طاق نمایی خارج گردیده اند .
تاریخهای تغییرات و تعمیرات مسجد بر سردر ورودی و قدیمیترین تاریخها در محراب ایوان به چشم می خورد و قدیمیترین تاریخ را که در مسجد جامع نیریزمی توان یافت سال 363 سال بنای محراب ایوان جنوبی است.
ولی امکان دارد تاریخ قدیمیتر از آن نیز در مسجد وجود داشته باشد که از میان رفته است .
محراب دارای تاریخهای متعددی است :
تاریخ اول : چنین خوانده میشود : فی سنه ثلث و ستین و ثلث مائه 363
تاریخ دوم : فی سنه ستین و اربعماً 460
تاریخ سوم : فی سنه ستین و خمساله السقف 560
تاریخ چهارم : چنین خوانده میشود : امرالموبی عماد الملک و الدوله و عزه نصره فی جمادی الثانیه دراین تاریخ عدد خوانده نمی شود و چون نوشته آن مجاور زمین بوده هنگام تعمیر صدمه دیده و به جای آن نقوش هندی ترسیم گردیده اند .
کتیبههای محراب مذکور از نمونههای جالب گچ بری و کتیبه ای به خط ثلث بر دور محراب نصب شده که اسامی دوازده امام را با زیبایی خاص بر دور آن گچ بری نموده اند .
دور محراب دارای گچ بریهای بسیار زیبا است و آیات قرآنی در بین تزیینات گچ بری با خط کوفی دیده میشود .
این کتیبه مربوط به تعمیراتی است که در دوره شاه طهماسب صفوی در مسجد صورت گرفته است .
تاریخهای محراب که در بالا از آن سخن داشتیم به ادوار زیر تعلق دارند :
تاریخ 363 مربوط به تعمیراتی است که در دوره عضدالدوله دیلمی در مسجد مذکور امجام شده و تاریخ 460 مربوط میشود به تعمیرات در دوره سلجوقیان دوره سلطنت آلب ارسلان سلجوقی .
سال 560 مربوط میشود به تعمیرات مسجد در دوره خوارزمشاهیان و دوره سلطنت سلطان ایل ارسلان خوارزمشاهی .
در سمت چپ دیوار محراب نیز کتیبه هایی گچ بری شده است . که متأسفانه تاریخ ندارد .
به پیشانی سردر ورودی مسجد نیز سه کتیبه مربوط به تعمیرات مسجد باقی است که تاریخ یکی از آنها 1300 هجری و مربوط به تعمیرات دوره قاجاریه است .
معلم دانشمند مرحوم حاج محمد طاهری در یادداشتهای خود چنین آورده است که نیریز دارای یک مسجد جامع کبیر ( غیر از مسجد جامع کبیر فعلی ) در جنوب بقعه خواجه احمد انصاری که فعلاً بصورت تل خاکی درآمده و آثار مسجد هنوز دیده میشود .
در نزدیک یکصد سال پیش مسجد نامبرده و بقعه خواجه احمد انصاری در اثر سیلاب نابود و مرحوم حاجی زین العابدین خان حاکم این شهر تصمیم گرفت که هر دو را تعمیر کند .
پس از آنکه بقعه را تعمیر کرد ، او را در حمام به قتل رساندند و موفق به تعمیر مسجد نشد .
به روایت دیگر مسجد جامع کبیر کنونی در قرون گذشته بر اثر سیل آسیب فراوان دیده که بعداً از طرف شخصی به نام میرزا نظام که بزرگ عشایر بود تعمیر گردیده و سنگ تعمیر آن در بالای سر درب مسجد مزبور است که این اشعار روی آن نوشته شده است :
زبده اولاد حیدر وارث خیرالانام باعث تعمیر مسجد حضرت میرزا نظام خواست چون تاریخ این تعمیر عقل پیر گفت مسجد الاقصی بود این باب یا بیت الحرام.