كاخ اسود از نظر كيفيت از بهترين ساختمان هاي سعدآباد است. اين کاخ در اين اواخر در مقابل كاخ سفيد که در همين مجموعه واقع است به كاخ سياه شهرت يافت. کاخ سياه در اصل براي وزارت دربار ساخته شده بود و وجه تسميه اين ساختمان به خاطر سنگ هاي مرمر سياه رنگ نماي آن است. اين سنگ ها از معدن ولي آباد چالوس استخراج شده است. در سال 1359 اين كاخ تبديل به نگارخانه اي از آثار هنرمندان ايراني و خارجي شد كه در سال 1361 گشايش يافت. امروزه از اين کاخ به عنوان موزه هنرهاي زيبا نام برده مي شود .