بنای ابتدایی این آرامگاه در زمان قاجاریه ساخته شد. در سال ۱۳۳۰ انجمن آثار ملی ایران به مناسبت هزارمین سالروز تولد ابوعلی سینا تصمیم به تجدید بنای آن گرفت. طرح ونقشه بنای فعلی توسط مهندس هوشنگ سیحون به سبک معماری قرنی که بوعلی سینا در آن می زیسته از روی قدیمیترین بنای تاریخ دار اسلامی یعنی برج گنبد قابوس در شهر گنبد کاووس اقتباس شده است.
بنای آرامگاه تلفیقی از دو سبک معماری
ایران باستان و ایران بعد از اسلام است. در طراحی این مجموعه از عناصری از
هنرمعماری سنتی ایرانی استفاده شده است. عناصری مانند برج، الهام گرفته از
برج گنبد قابوس، باغچهها متاثر از باغهای ایرانی، آب نماها الهام گرفته از
حوض خانههای سنتی و نمائی با روکار سنگهای حجیم و خشن خارا که با سنگ
گرانیت کوهستان الوند آراسته شده و نمودار کاخهای باستانی ایرانیان است.