Sejak berdiri hingga sekarang SMA Negeri 3 Yogyakarta mengalami pergantian nama dan kepala sekolah. Setelah pada tahun 1942 namanya diubah dari AMS B menjadi SMT Bagian A dan B, pada tahun 1948 nama sekolah ini diubah menjadi SMA Bagian B. Tahun 1956 bernama SMA III-B. Pada tahun 1964 nama sekolah ini adalah SMA Negeri 3 Yogyakarta. Sejalan dengan pembaruan pendidikan dan kurikulum, pada tahun 1994, sekolah ini diubah menjadi SMU Negeri 3 Yogyakarta, dan mulai tahun 2004 kembali bernama SMA Negeri 3 Yogyakarta, seiring dengan digunakannya Kurikulum SMA 2004.
Sejak tahun 1942 sampai sekarang, sekolah ini telah mengalami 19 kali pergantian kepala sekolah. Nama-nama kepala sekolah sejak tahun 1942 adalah sebagai berikut: (1) 1942 – 1945: R. Katamsi, (2) 1945 – 1946: Prof. Dr. Soegarda Poerbokawotjo, (3) 1946 – 1947: Prof. Dr. Priyono, (4) 1947 – 1950: Ir. Marsito, (5) 1950 – 1951: Drg. Nasir Alwi, (6) 1951 – 1956: Muh. Sjahlan, (7) 1956 – 1963: R. Soecipto, (8) 1963 – 1971: Moedjono Probopranowo, S.H., (9) 1971 – 1976: Utoyo Darmabrata, (10) 1976 – 1981: Haji Muh. Solihin, (11) 1981 – 1985: Drs. Oetoro, (12) 1985 – 1987: Drs. Wahyuntana, (13) 1987 – 1991: Ariento Sukotjo, (14) 1991 – 1993: Drs. Mashari Subagijono, (15) 1993 – 1997: Drs. Soenarto, (16) 1997 – 2002: Drs. Nursisto, (17) 2002 - 2004: Drs. H. Mashadi AR., (18) 2004 - 2005: Dra. Hj. Sri Ruspita Murni, dan (19) 2005 - 2007: Drs. Bambang Supriyono, M.M., (20) 2007 – 2009: Drs. H. Bashori Muhammad, M.M., (21) 2009 – sekarang: Dra. Dwi Rini Wulandari, M.M.