آخرین اقدام جنگی و تجاوز کارانه محمود، لشکرکشی وی به ولایات جبال و فتح ری بود که با این پیروزی، قلمرو محمود از جانب غرب تا ری و اصفهان توسعه پیدا کرد و در عین حال رضایت خلیفه بغداد را هم جلب کرد.
سلطان که از مدتها پیش، به فتح ری و قزوین چشم دوخته بود، در واپسین سالهای عمر، از عف آل بویه استفاده کرد و به بهانه آن که مجدالدوله دیلمی - داماد و سلطان محمود - را از سرکشی و آزار مخالفانش نجات دهد و همچنین به عنوان پاسخ به درخواست مجدالدوله که از سلطان محمود ، توقع امداد داشت، لشکری به ری فرستاد «420 ق / 1029 م».
مجدالدوله که در آن ایام و پس از وفات مادرش سیده خاتون، بیشتر اوقات خویش را به مطالعه کتاب صرف میکرد از لشکر سلطان، به گمان آن که به یاری وی میآید، در بیرون از ری استقبال کرد. اما به موجب حکمی که محمود به فرمانده این سپاه داده بود، سپاه غزنه مجدالدوله و پسرش ابودلف را دستگیر کردند «ربیع الثانی 420 ق / آوریل 1029 م».
محمود که خود بعد از توقیف مجدالدوله از حدود جرجان عازم ری شد، خزاین آل بویه را که در ری شامل میلیونها اموال، نفایس و جواهر میشد به تصرف خود درآورد. این طرز تسلط خدعه آمیز محمود، که شیوه ناجوانمردانه ایلک خان در تسخیر بخارا و برانداختن آل سامان را به یاد میآورد، نزد خود سلطان نیز به نوعی سوء استفاده آگاهانه از اعتماد خصم محسوب میشد .
در ری وقتی مجدالدوله را به حضور سلطان بردند، محمود از او سؤال کرد که هیچ شاهنامه و کتاب طبری را که تاریخ مسلمین است خواندهای? چون مرد دیلم پاسخ داد که خواندهام، گفت حال تو به حال آن کس که این کتابها را خوانده باشد، نمیماند. آن گاه پرسید که هرگز شطرنج باختهای? گفت آری. پرسید هیچ دیدهای شاه به خانه شاه درآید? جواب داد ندیدهام. پس سلطان گفت، تو را چه چیز بر آن داشت تا خود را بدان کسی که از تو قویتر است تسلیم داری? بعد از آن حکم کرد تا او را همچنان در بند به خراسان برند.
به هر حال اگر این گفت و شنید، درست باشد، توجه سلطان را در تأمل و غور در حوادث تاریخی و همچنین آشنایی او را با شاهنامه که چندان علاقهای به سراینده آن نشان نمیداد، معلوم میکند.
محمود پس از فتح ری به غارت خزاین و به ویژه کتابخانه نفیس مجدالدوله پرداخت. او پس از سوزاندن بسیاری از کتب بقیه را به خراسان منتقل کرد و همچنین به دار آویختن علما و بزرگان قوم را به عنوان پیروزی بر اهل معتزله یعنی کسانی که خلیفه بغداد آنها را اهل رافضه میخواند قلمداد کرد.
امیر غزنه به دنبال فتح ری بر قزوین و قلاع اطراف آن، به ساوه و آوه هم دست یافت. پس از آن ری را به پسر خود مسعود سپرد. مسعود نیز زنجان، ابهر و اصفهان را تسخیر کرد و به این ترتیب به قلمرو غزنه افزود.