Terdapat dua tangga yang melengkung sisi kiri kanan bangunan.
Seiring dengan perjalanan waktu dan dinamika sejarah yang terjadi di Kota Palembang, fungsi bangunan ini telah silih berganti, mulai dari markas Jepang pada masa pendudukan, Teritorium II Kodam Sriwijaaya di awal kemerdekaan yang kemudian berpindah pengelolaan ke Pemerintah Kota Palembang sebelum akhirnya menjadi Museum.
Meski telah mengalami renovasi, bentuk asli bangunan tidak berubah.
Perubahan hanya dilakukan pada bagian dalam bangunan dengan menambah sekat-sekat dan penutupan pintu-pintu penghubung.
Berbeda dengan bangunan yang didirikan pada masa Kesultanan Palembang Darussalam yang umumnya memakai bahan kayu, Museum Sultan Mahmud Badaruddin II memakai bahan bata.
Pengadaan koleksi Museum Sultan Mahmud Badaruddin II diawali sekitar tahun 1984, bersamaan dengan dipindahkannya Museum Rumah Bari ke Museum Balaputera Dewa di Jalan Srijaya 1, KM 5.5 Palembang.
Museum Rumah Bari yang awalnya dikelola Pemerintah Kota Palembang, untuk kepentingan yang lebih besar dipindahkan ke Museum Provinsi Sumatera Selatan.
Namun pemindahan tersebut tidak beserta koleksinya.
Koleksi peninggalan Museum Bari-lah yang menjadi cikal-bakal koleksi Museum Sultan Mahmud Badaruddin II, selain koleksi Arca Buddha Siguntang yang terlebih dahulu berada di halaman Museum SMB II.
Meja dan kursi tamu Palembang yang terinspirasi sejak kedatangan Belanda ke Bumi Sriwijaya. (Sriwijaya Post/Yandi Triansyah)
Museum ini meyimpan arca-arca kuno diantaranya Ganesha, Amarawati dan Udha di era Sriwijaya, berbagai macam perabotan tradisional kesultanan Palembang serta sketsa yang menggambarkan perjuangan rakyat Palembang dalam usahanya mengusir penjajah Belanda.
Di dalam museum terdiri dari tujuh ruangan. Tiap-tiap ruangan menyimpan koleksinya sendiri.
Di ruangan pertama, pengunjung akan disuguhkan beberapa prasasti, seperti prasasti kedukan bukit, Boom Baru.
Namun bukan prasati aslinya melainkan miniaturnya.
Ruangan kedua, beberapa koleksi pakaian Sultan Mahmud Badaruddin II, songket, dan miniatur Masjid Agung.