این مکان در ابتدا خانقاه سعدی بوده که وی اواخر عمرش را در آنجا می‌گذرانده و سپس در همان‌جا دفن شده‌است. برای اولین بار در قرن هفتم توسط شمس‌الدین محمد صاحب‌دیوانی وزیر معروف اباقاخان، مقبره‌ای بر فراز قبر سعدی ساخته شد. بنا به گزارش ابن بطوطه، (که حدوداً سی و پنج سال پس از درگذشت سعدی نوشته شده و قدیمی‌ترین گزارش موجود از آرامگاه سعدی است) مردم بازدیدکننده از مزار سعدی، جامه خود را در حوضچه‌هایی مرمرین می‌شستند به باور مردم شیراز (که از قبل از سعدی و شاید قبل از اسلام وجود داشته)، شستشو در این آب، شفابخش بوده‌است در سال ۹۹۸ به حکم یعقوب ذوالقدر، حکمران فارس، خانقاه شیخ ویران گردید و اثری از آن باقی نماند. در سال ۱۱۸۷ ه‍.ق. به دستور کریمخان زند، بنایی معروف به عمارتی ملوکانه از گچ و آجر بر بالای مزار سعدی بنا گردید. طبقهٔ پایین دارای راهرویی بود که پلکان طبقه دوم از آنجا شروع می‌شد. در دو طرف راهرو دو اتاق کرسی دار ساخته شده بود. در اتاقی که سمت شرق راهرو بود، قبر سعدی قرار داشت و معجری چوبی آن را احاطه کرده بود. قسمت غربی راهرو نیز موازی قسمت شرقی، شامل دو اتاق می‌شد، که بعدها شوریده شیرازی (فصیح الملک) شاعر نابینای شیرازی در اتاق غربی این قسمت دفن شد. طبقهٔ بالای ساختمان نیز مانند طبقه زیرین بود، با این تفاوت که بر روی اتاق شرقی که مزار سعدی در آنجا بود، به احترام شیخ اتاقی ساخته نشده بود و سقف آن به اندازهٔ دو طبقه ارتفاع داشت بر اساس روایت محمدتقی بهروزی در اوایل دوران قاجار، یکی از علمای شیراز به دلیل انتساب سعدی به مذهب اهل تسنن، دستور تخریب و شکستن سنگ مزار او را می‌دهد و این سبب می‌شود که مدتی بعد علی‌اکبرخان قوام‌الملک شیرازی نسبت به تهیه و نصب سنگ کنونی اقدام کند، و بخشی از اشعار سعدی برگرفته از بوستان را که در ستایش پیامبر اسلام سروده شده‌اند، با اندکی تغییر روی آن حک کند. این سنگ در بنای ساخته‌ شده توسط کریم‌خان زند تا زمان آغاز ساخت آرامگاه کنونی وجود داشت این بنا در دورهٔ قاجاریه (سال ۱۳۰۱) توسط فتحعلی‌خان صاحب‌دیوان مرمت شد و چند سال بعد نیز حبیب‌الله‌خان قوام‌الملک دستور تعمیر و ترمیم قسمتی از بنا را صادر کرد. سپس تولیت آن به «کربلایی سید زین العابدین چینی (حسینی نیک)» سپرده شد و ایشان در سال ۱۳۲۱ ه‍.ش. در گذشت سال ۱۳۲۴ شعبۀ انجمن آثار ملی در شیراز با عضویت و دبیری استاد علی سامی تشکیل شد که یکی از ایده‌های اولیۀ آن، احیای مجموعۀ سعدیه بود. سال ۱۳۲۵ بر اساس مصوبۀ دولت مقرر شد از فروش قند و شکر آزاد کارخانۀ قند مرودشت، کیلویی دو ریال برای ساختمان آرامگاه سعدی هزینه شود؛ اما اقدامات عملی و جدی از سال ۱۳۲۷ یعنی زمانی که علی‌اصغرخان حکمت، رییسانجمن آثار ملی کشور و دبیرکل یونسکو در ایران بود و علی سامی نیز به عنوان دبیر انجمن آثار ملی در شیراز فعالیت می‌کرد، آغاز ‌شد بنایی که در زمان کریمخان ساخته شده بود تا سال ۱۳۲۷ ه‍.ش. برپا بود. در سال ۱۳۲۷ پس از کسب موافقت اولیه برای احیای مجموعۀ سعدیه، از مسیو گدار که در آن زمان مدیر باستان‌شناسی ایران بود دعوت شد به شیراز بیاید و نظر خود را بیان کند؛ ولی پس از بحث و بررسی‌های گوناگون و بر اساس گزارش انجمن آثار ملی، در سال ۱۳۲۸ قرارداد طراحی آرامگاه سعدی با یک شرکت ساختمانی بسته ‌شد و مهندس محسن فروغی و مهندس علی‌ صادق به عنوان طراحان سعدیه آغاز به کار ‌کردند. به این ترتیب در اسفندماه ۱۳۳۰ ساخت بنای آرامگاه سعدی که طراحان آن ایرانی و معماران و کارگران آن نیز شیرازی بودند، با اقتباس از کاخ چهل ستون و تلفیقی از معماری قدیم و جدید ایرانی در باغی به مساحت ۷۰۰ ۷ مترمربع به پایان ‌رسید. در بعدازظهر یازدهم اردیبهشت‌ماه ۱۳۳۱ آرامگاه سعدی با حضور دکتر محمود حسابی که در آن زمان وزیر فرهنگ بود و علی‌اصغرخان حکمت و تعداد زیادی از شاعران، نویسندگان، بازرگانان و صاحب منصبان افتتاح ‌شد. همزمان با افتتاح سعدیه، در صبح‌‌ همان روز از مجسمۀ سعدی که در دروازۀ اصفهان نصب شده بود پرده‌برداری شد. این مجسمه توسط هنرمند برجستۀ ایرانی، استاد ابوالحسن صدیقی ساخته شد و بر اساس گزارش مالی انجمن آثار ملی، برای ساخت آن ۱۴ هزار و ۵۰۰ تومان به استاد پرداخت شد؛ البته کل هزینۀ ساخت سعدیه در آن سال، ۹۸۰هزار تومان بود.