隨著馬克思主義在中國的廣泛傳播和一批確立了馬克思主義信仰的先進分子的出現，在中國成立共產黨組織的思想和干部條件已經具備，建立工人階級政黨的任務被提上了日程。

最早醞釀在中國建立共產黨的是陳獨秀和李大釗。他們認識到，要用馬克思主義改造中國，就必須建立一個無產階級政黨，使其充當革命的組織者和領導者。

中國共產黨早期組織在中國工人階級最密集的中心城市上海首先建立。1920年5月，陳獨秀發起組織馬克思主義研究會。8月，共產黨早期組織在上海《新青年》編輯部成立，陳獨秀任書記。

1920年10月，李大釗等在北京成立共產黨早期組織，同年底決定成立共產黨北京支部，李大釗為書記。

在上海及北京黨組織的聯絡推動下，各地黨的早期組織紛紛建立起來。1920年秋至1921年春，董必武、陳潭秋、包惠僧等在武漢，毛澤東、何叔衡等在長沙，王盡美、鄧恩銘等在濟南，譚平山、譚植棠等在廣州，成立了共產黨早期組織。在日本、法國，成立了由留學生和華僑中先進分子組成的共產黨早期組織。

高君宇為中共最早的黨員之一，是山西黨、團組織的創始人，指導創辦山西《平民周刊》是其在山西傳播馬克思主義和發揮思想引領作用的重要創舉，對山西早期革命事業發展起了舉足輕重的作用。