臺灣總督府高等學校於1922年創立，設立初期暫用臺北第一中學校（現建國中學）校舍，1926年4月校舍落成後轉移至古亭町（現國立臺灣師範大學校本部），1927年正式將校名訂為「臺灣總督府立臺北高等學校」（以下簡稱臺北高校）。
臺北高校是戰前全日本僅有的38所高校（舊制）之一，畢業後原則上可以免試升上全國僅有的9所帝國大學（包括臺北帝國大學）。臺北高校是7年制高校，含尋常科（等同中學校）4年、高等科（等同高中）3年，入學競爭相當激烈。高等科每年預定招生的160個名額中，每年錄取臺灣人不到30名；尋常科招收40 個名額，平均一年僅錄取4名臺灣人，被認為是全臺灣升學的最大難關。
由於臺北高校具有帝大預科性質，畢業生幾乎全員進入有國家社會領導者培養皿之稱的帝國大學，課程上注重英、德語等外語能力，每週至少15小時，亦重視文學、哲學、辯論、音樂、體育、美術等通識能力。再者，以優秀的教師陣容教育少數學子，學生住在學校的「寮」（宿舍），在「自由與自治」生活中，有同儕共同切磋琢磨而培育的友情。如此良好的學習環境，稱臺北高校學生是「菁英中的菁英」並不為過。自1926年起，臺北高校就取代了總督府國語學校與醫學校，成為全臺灣頂尖菁英的養成所，而這些菁英也成為臺灣戰前與戰後社會領導階層最重要的來源之一。
1942 年，因應戰時中等學校師資短缺之急需，該校奉令於校園內附設臨時教員養成所，招收數學、物理學科學生各15名。
1945年10月中華民國接收臺灣，臺北高校隨之改名為臺灣省立臺北高級中學（以下簡稱臺北高級中學），高等科應屆畢業生由末任校長下川履信發給臨時畢業證書，並規定必須持續在校就學至1946年3月證書始得有效，餘者由臺北高級中學承接相關教育工作。
