Dikutip dari laman Balai Pelestarian Cagar Budaya Provinsi D.I. Yogyakarta, perkembangan sejarah Masjid Syuhada tidak dapat dilepaskan dari sejarah perjuangaan para pejuang Indonesia melawan tentara pendudukan Jepang. Peristiwa tersebut telah memakan korban 21 orang pejuang yang saat ini namanya diabadikan menjadi nama jalan di kawasan Kotabaru.
Pembangunan masjid ini pada awalnya bertujuan sebagai monumen sejarah para syuhada yang gugur pada peristiwa tersebut. Akan tetapi, seiring dengan kebutuhan akan tempat peribadatan maka masjid ini digunakan sebagai tempat ibadah masyarakat muslim di Kotabaru. Istilah syuhada sudah familiar di tengah masyarakat, artinya orang-orang yang mati syahid atau gugur di jalan Allah. Masjid ini memiliki nama lengkap Masjid Peringatan Syuhada. Mengingat terlampau panjang, masyarakat sering menyebutnya dengan nama Masjid Syuhada saja.
Pembangunan Masjid Syuhada dimulai dengan pembentukan panitia pada tanggal 14 Oktober 1949. Masjid Syuhada dibangun selama dua tahun yaitu pada 1950-1952. Peletakan batu pertama dilakukan tanggal 23 September 1950 dan diresmikan pada 1 Muharram 1372 hijriah bertepatan dengan 20 September 1952. Tanggal peresmian tersebut pada akhirnya ditetapkan sebagai tanggal kelahiran (milad) Masjid Syuhada.
Tanah yang akan dibangun masjid merupakan pemberian dari Sultan Hamengku Buwono IX. Berlokasi di sebelah timur Kali Code, tanah ini berada di antara dua jembatan yaitu Jembatan Kridonggo (Kewek) dan Jembatan Gondolayu. Adapun panitia pembangunan masjid diketuai oleh Mr. Assaat, dan wakil ketua B.P.H. Prabuningrat, Ki Moesa Machfoeld sebagai pemimpin pembangunan, Supono sebagai ketua kepala pelaksana dan penasihat teknik Ir. R. Feenstra. Panitia tersebut dilantik pada 14 Oktober 1949 oleh menteri agama K.H. Masjkur. Kemudian, pada tanggal 17 Agustus 1950 ditetapkan garis kiblat oleh K.H. Badawi dan 23 September 1950 ditetapkan sebagai peletakan batu pertama oleh Sri Sultan Hamengkubuwono IX.
Masjid Syuhada memiliki arsitektur yang megah dan tampak asri dengan aksen cat berwarna hijau. Struktur masjid dibangun terdiri dari 3 lantai. Bagian atas merupakan atap masjid sebagai puncak masjid terdapat kupel (mustoko) besar sebagai kubah masjid. Sementara bagian tengah merupakan ruangan untuk shalat dan bagian bawah berupa ruangan yang digunakan sebagai kantor dan perpustakaan masjid.
Masjid Syuhadale dikenal kental dengan simbol nasionalisme. Ditandai dengan adanya 17 anak tangga di bagian depan, tiang gapura berbentuk segi delapan, empat kupel (mustoko) bawah, dan lima kupel atas. Simbol-simbol ini menunjukkan tanggal paling penting bagi bangsa Indonesia yaitu kemerdekaan.
Selain menjadi tempat ibadah, Masjid Syuhada juga dapat digunakan untuk berbagai macam kegiatan rohani. Adapun lembaga pendidikan di sekitar Masjid Syuhada, yakni TK Masjid Syuhada, Sekolah Tinggi Agama Islam Masjid Syuhada, SD Masjid Syuhada, dan SMP IT Masjid Syuhada.