與其他中共第五代領導人比，劉雲山履歷相對簡單，他既無顯赫學歷，也非中共太子黨，中專畢業後長期在內蒙古偏遠地區工作，做過教師、宣傳幹事，後來改行做記者。上世紀80年代初，他任共青團內蒙古委員會副書記，此時胡錦濤是團中央書記，故外界通常將劉列為團派，與李克強、李源潮、汪洋同列團派的「四大金剛」。
海外有報道指，劉雲山表面屬胡錦濤的團派，但實際上與江澤民關係非淺。美國作家庫恩（Robert Lawrance kuhn）擬寫《江澤民傳》（英文書名The Man Who Changed China：The Life and Legacy of Jiang Zemin），得到劉暗中支持，派手下協助他搜集資料，出版後迅即譯成中文版，在內地上架，大討江的歡心。
助美作家寫《江澤民傳》
譯中文版討江歡心
劉雲山的中共黨內資歷深厚，早在1985年他已被中共作為「省部級幹部第三梯隊人選」，38歲當選中央候補委員。現居中共權力頂峯的中紀委書記賀國強、常委李長春、全國人大委員長吳邦國，當年都是與劉一起成為「候補中委」的。但直到1997年中共十五大劉雲山才「轉正」成為中央委員，獲任命為中宣部常務副部長，主持日常工作，故劉掌管中宣部實際長達15年。以中專學歷掌管13億人大國的意識形態，在聲稱尊崇知識的中共，實為罕見。以至海內外不少學者都將近十年中國新聞和文化的墮落，歸咎於「一個沒有文化的人管宣傳文化」。
《蘋果》記者