上海市曹楊第二中學創建于1954年。1979年被認定為上海市重點中學，實現了學校的第一次飛躍。
江澤民同志1989年為學校題詞“勤奮進取，求實創新”，成為激勵二中人的學校精神。2005年被評為上海市首批實驗性示范性高中，首批上海市普教系統名校長培養基地，學校在“文理相通，人文引領”的辦學理念指引下，實現了學校的第二次飛躍。2011年12月，學校榮獲全國文明單位稱號。學校先后十四次被評為上海市文明單位，獲全國首批綠色學校、國家體育傳統項目學校、聯合國教科文組織可持續教育（ESD）項目示范校、國際生態學校、全國學校藝術教育先進單位、全國女職工建功立業標兵崗、上海市德育先進集體、上海市中小學行為規范示范標兵學校等90多項榮譽稱號。目前是上海市與教育部合作的“創新素養培育實驗項目”學校。
近年來學校不斷弘揚“文理相通、人文引領”的辦學理念；努力辦“上海市最對得起學生的學校”；將“博雅君子”作為學生培養目標；尋求“助工薪子弟登國際舞臺”的國際合作辦學模式。2013年，穩步推進第三次飛躍，學校改革得到了教育部領導的充分肯定。向國內外著名大學（德國卡爾斯魯厄、清華、北大、復旦、交大等）輸送優秀人才的力度不斷加大，進入德國大學學生人數和質量全國第一，清華北大復旦交大錄取數、高考一本率再創新高，達到歷史最高水平。學校同時成為“清華大學新百年領軍人才計劃生源基地”，2014年清華北大自主招生名額上海前六，2014年復旦博雅體驗營人數全國第一，成為同濟大學苗圃基地樣板校、上外“國際經濟計劃”首批試點校。2014年將和德國洪堡大學進行戰略合作，成為德國洪堡大學教育碩士實習基地。
