Bagian keempat adalah bagian induk masjid yang dibagi dalam dua bagian, yakni bagunan utama (liwan) dan bagian kedua adalah ruang pada sisi selatan liwan yang dinamakan pawestren yang menjadi ruang khusus bagi jemaah perempuan. Dan yang terakhir adalah tempat wudhu yang ada di bagian utara dan selatan masjid.

Pada masa pembangunannya masjid ini mengalami dua tahap pembanguan. Tahap pertama berupa pembangunan ruang inti masjid yang dibangun oleh Panembahan Senopati, dan pembangunan serambi masjid yang dilkukan oleh Sultan Agung. Selain membangun serambi Sultan Agung juga membangun kolam atau “jagang.”

Di depan masjid terdapat gapura bercorak Hindu. Selain untuk menghormati warga sekitar yang pada saat itu masih menganut Hindu, keberadaan gapura tersebut juga untuk menarik warga sekitar agar berkunjung ke masjid.

Selain pada depan masjid, gapura paduraksa juga berada pada sisi utara dan selatan masjid. Di halaman masjid terdapat dua bangsal pecaosan dengan atap berbentuk limasan pada sisi utara dan selatan masjid.

Di komplek Masjid Gede Kotagede juga terdapat komplek makam pendiri kerajaan Mataram Islam. Bangunan makam terdiri dari tiga bagian yaitu bagian depan disebut Prabayaksa, bagian tengah (witana), dan bagian belakang (tajug). Bangunan ini dikelola oleh keraton Surakarta dan Yogyakarta.

Bangunan Prabayaksa dikelola oleh keraton Surakarta, dan bangunan witana dan tajug dikelola oleh keraton Yogyakarta. Di dalam bangunan Prabayaksa terdapat 64 makam di antaranya makam Sultan Sedo ing Krapyak.

Di dalam bangunan Witanan terdapat 15 makam di antaranya makam Kiai dan Nyai Ageng Pemanahan yang merupakan cikal bakal kerajaan Mataram Islam, makam Panembahan Senopati, dan makam Ki Juru Mertani. Di dalam bangunan Tajug hanya terdapat tiga buah makam yaitu makam Nyai Ageng Enis, makam Pangeran Joyoprono, dan makam Datuk Palembang.