در انتهای خیابان علوی و در نزدیکی های آثار دیگری همچون خانه های بروجردی و طباطبائی و بقعه سلطان امیر احمد (ع)، در طرفین خیابان، دو دیوار بلند کاهگلی به چشم می خورد که از بقایای حصار معروف عهد سلجوقی است. این دژ تسخیر ناپذیر آن دوران در اواسط قرن پنجم هجری به همت یکی ازرجال نامدار و سخاوتمند در دولت سلجوقیان به نام خواجه مجدالدین ابوالقاسم کاشانی ساخته شده است و اسناد معتبر تاریخی نشان می دهد که این دژ بلند، مستحکم و حصین چند بار اهالی کاشان را از دست حملات سخت لشگریان مهاجم و از قتل عام های وحشیانه و غارت عمومی نجات داده است.
در کنار این دژ، قلعه ای عظیم خود نمائی می کند که به دستور سلطان جلال الدین ملک شاه سلجوقی (جلوس 465 ق) ساخته شده است. این بنای عظیم خشت و گلی مدتها از اهالی کاشان حراست می نموده است و مدتی هم ارگ و مرکز حکومتی کاشان بوده است.
در داخل و خارج قلعه دو بنای گنبدی شکل وجود دارد که موسوم است به «یخچال»، بدین صورت که با نگهداری یخهای زمستانی در این یخچالها، جوابگوی نیاز اهالی در تابستان گرم کویر بوده است.