قبر حضرت علی علیه السلام از ترس خوارج تا زمان هارون الرشید مخفی بود، روزی هارون از کوفه جهت شکار بیرون آمد، در راه آهوانی دید، بازها و سگان آن ها را دنبال کردند، آهوان به پشته پناه بردند و سگان و بازها برگشتند. رشید خیلی تعجب کرد، گفت: بروید به جانب کسی که عمرش از همه بیشتر است، او را حاضر کنید. پیرمردی را آوردند، رشید گفت: خبر بده مرا که این پشته چیست؟ پیرمرد گفت: خبر داد به من پدرم از پدرانش که در این پشته قبر حضرت علی بن ابی طالب است. خداوند او را حرم قرار داد. هیچ چیز به او پناه نمی بَرَد مگر در امانست و من با حضرت صادق علیه السلام به زیارت این مکان آمدیم.
پس هارون فرود آمد و وضو گرفت و نماز کرد و دعا کرد و گریست و خود را به خاک مالید و امر کرد قبه ای در آنجا بنا کنند که چهار در داشته باشد.