1967年，江青突然感覺身體不舒服，於是便要求黨中央為自己指派一位保健醫生，黨中央在經過一番深思熟慮後，決定將這個艱巨的任務交給吳階平同誌。吳階平自幼便有「神童」之名，他5歲開始識字，6歲便能流利閱讀四大名著，7歲時，他被送入西式學堂學習天文地理、數學英文等課程。
13歲那年，他以優異的成績考入天津某重點中學，三年後他參加了燕京大學（今北京大學）的自主招生考試，並順利被醫學院錄取。在校期間，吳階平沈醉於學業，每天除了吃飯、睡覺就是學習，1937年，他以總分第一的成績順利從燕大畢業，隨後又進入協和醫學院攻讀碩士、博士學位。
1943年，他完成了學業，隨即被北大附屬醫院聘為醫師，次年，他又被北大聘為講師，專門為本科生、碩士生傳授臨床外科知識。數十年的勤奮苦學讓吳階平積累了深厚的學識，可當他真的走上醫療崗位，開始為病患們治病時，卻又突然發現自己對醫學的認知還存在不小的欠缺，自己仍需繼續在學海泛舟，探索最尖端的醫療技術。
1947年，在博導的推薦下，他遠赴美國某大學深造。該大學的教授非常喜歡吳階平，將自己畢生所學全部教授給他，同時還熱情邀請他留在美國工作，與自己一同開展尖端醫學研究，沖擊諾貝爾獎。但吳階平心懷報國之誌，他只想回國參加社會主義建設，並不想拿什麽獎，因此婉言謝絕了對方，毅然背起行囊回國。
1951年，吳階平主動報名參加抗美援朝誌願團，與諸多醫生一起奔赴哈爾濱，挽救從前線送下來的重傷患者，從死神手中搶回了數百條人命。抗美援朝戰爭結束後，他重新回到原單位工作，並透過實驗和探索，開發了好幾種前衛的醫療手段，巧妙化解了一些臨床上的難題。1962年，他更是被黨中央派往印尼，為該國領導人治療泌尿系統疾病，此舉有效加深了中國與印尼的關系，拓寬了中國的外交渠道，打破了美蘇對中國的封鎖。
1967年，他受黨中央指派，擔任江青的保健醫生。吳階平對於江青素有耳聞，他覺得這個「第一夫人」喜怒無常、很難相處，因此遲遲不願赴任。後來，在周總理的勸說下，他這才硬著頭皮到中南海報道。江青這個人生性多疑，她經常向吳階平提出各種無理的要求，若是放在以前，吳階平肯定會毫不猶豫的拒絕，可眼下局勢敏感，而江青又正得勢，因此吳階平根本不敢和她唱反調，只能一味的順從江青。
1972年，吳階平又被調到周總理身邊當保健醫生，他曾先後兩次親自主刀為周總理做手術，有效的延長了周總理的生命，替總理緩解了不少病痛。1976年初，周總理的病情突然失控，吳階平等人連忙采取緊急措施，想要做最後一搏，將總理從生死線上挽救回來。但可惜的是，總理的病情實在太過嚴重，吳階平等人窮盡了所有手段，仍舊無力回天。
吳階平是一個見慣了生死的人，性格非常平胡、淡然，可這次面對周總理，他卻顯現出了悲傷的神色，在手術治療失敗後，他將自己一個人關在辦公室裏暗自流淚。不久之後，周總理病逝，吳階平參加了總理的追悼會，並向總理敬獻了一束鮮花以示敬意。
動蕩結束後，他又重新開始潛心研究醫療技術，攻關疑難雜癥。從1978年開始，他陸續開創了十幾項尖端臨床療法，並獲得了國際醫學界的一致認可，1983年，他參加了在西德召開的醫學大會，並當眾發表了一篇有關泌尿系統癌癥的演講，一時轟動全場。90年代末，他更是被選為全國人大副委員長，職級為副國級。
進入新世紀，吳階平因為年紀原因，已經無法再承擔繁重的一線工作，他隨即退往二線掛職，閑暇時也會到北大醫學院或者協和醫學院為學生們授課，為醫療界培養年輕骨幹。2005年，吳老徹底退休，晚年他過著規律、自由的生活，每天按時吃飯、服藥、鍛煉。有時候，一些年輕醫生會登門拜訪吳老，向他請教一些醫學上的問題，而他總是認真為對方解惑，將自己的專業知識毫無保留的傳授給對方，2011年，這位醫學泰鬥因病去世，時年九十四歲。黨中央為表彰他的貢獻，專門在八寶山為他舉辦了隆重的追悼會，胡同誌更是親自到場吊唁，送他體面的走完了人生最後一程。
