1896年，第1屆奧運(yùn)會(huì)召開(kāi)前，國(guó)際奧委會(huì)曾通過(guò)法國(guó)駐華使館向清政府發(fā)出邀請(qǐng)。但當(dāng)時(shí)的清政府正處于內(nèi)憂外患之中，對(duì)體育事業(yè)毫不關(guān)心，所以沒(méi)有應(yīng)邀參加。1922年，國(guó)際奧委會(huì)選舉我國(guó)王正廷為國(guó)際奧委會(huì)委員。1924年，中國(guó)第一個(gè)全國(guó)性體育組織--中華全國(guó)體育協(xié)進(jìn)會(huì)成立。同年派出三名網(wǎng)球運(yùn)動(dòng)員，在法國(guó)巴黎舉行的第8屆奧運(yùn)會(huì)上作了表演賽（奧運(yùn)會(huì)無(wú)正式網(wǎng)球賽）。4年后，中國(guó)又派宋如海觀光了在荷蘭阿姆斯特丹舉行的第9屆奧運(yùn)會(huì)。1931年，國(guó)際奧委會(huì)承認(rèn)中華全國(guó)體育協(xié)進(jìn)會(huì)。

　　1932年，第十屆奧運(yùn)會(huì)在美國(guó)洛杉機(jī)舉行。中國(guó)首次派出一名運(yùn)動(dòng)員參賽。他就是東北籍運(yùn)動(dòng)員劉長(zhǎng)春。此后，中國(guó)又參加了第11、14屆奧運(yùn)會(huì)，但均未能取得任何成績(jī)。在此期間，國(guó)際奧委會(huì)于1939年、1947年選出了我國(guó)孔祥熙、董守義為國(guó)際奧委會(huì)委員。

　　1949年，新中國(guó)成立后，原中華全國(guó)體育協(xié)進(jìn)會(huì)改組為中華全國(guó)體育總會(huì)（中國(guó)奧林匹克委員會(huì)）。1952年第15屆奧運(yùn)會(huì)時(shí)，由于國(guó)際奧委會(huì)某些人在中國(guó)席位問(wèn)題上有意制造事端，致使我遲至7月才接到國(guó)際奧委會(huì)的邀請(qǐng)。待我國(guó)派出的由足、籃球隊(duì)與游泳選手組成的40人代表團(tuán)，到達(dá)赫爾辛基時(shí)，比賽已近尾聲，僅吳傳玉一人參加了仰泳比賽。但是，國(guó)際奧委會(huì)一直拖延解決我中華全國(guó)體育總會(huì)在該會(huì)的合法席位問(wèn)題，直到1954年在雅典召開(kāi)的國(guó)際奧委會(huì)第49屆會(huì)議上才得到確認(rèn)。1956年，國(guó)際奧委會(huì)在某些人操縱下，仍蓄意制造"兩個(gè)中國(guó)"。同年11月6日，中華全國(guó)體育總會(huì)發(fā)表聲明，宣布不參加第16屆奧運(yùn)會(huì)，以示抗議。1958年，我國(guó)中斷了與奧委會(huì)的一切聯(lián)系。

　　1979年11月26日，國(guó)際奧委會(huì)在洛桑宣布，經(jīng)過(guò)國(guó)際奧委會(huì)全體委員通訊表決，以62票贊成，17票反對(duì)，通過(guò)了國(guó)際奧委會(huì)執(zhí)委會(huì)前此于10月在名古屋作出的承認(rèn)中國(guó)奧委會(huì)為全國(guó)性?shī)W委會(huì)的決定。中國(guó)體育代表團(tuán)參加大會(huì)時(shí)，使用中華人民共和國(guó)國(guó)歌和國(guó)旗。至此，國(guó)際奧委會(huì)同我國(guó)的關(guān)系，才得到了解決。

　　1980年，新中國(guó)第一次派隊(duì)出席了在美國(guó)普萊西德湖舉行的第13屆冬季奧運(yùn)會(huì)。男女運(yùn)動(dòng)員共28人，參加了滑冰、滑雪和現(xiàn)代冬季兩項(xiàng)等18個(gè)單項(xiàng)的比賽。但與世界先進(jìn)水平差距較大，無(wú)一人進(jìn)入各項(xiàng)前十名。我國(guó)未參加同年在莫斯科召開(kāi)的夏季奧運(yùn)會(huì)。1981年10月，國(guó)際奧委會(huì)第84次會(huì)議選出了我國(guó)何振梁為國(guó)際奧委會(huì)委員。

　　1984年，第23屆奧運(yùn)會(huì)在美國(guó)洛杉磯舉行，中國(guó)派出了一個(gè)宏大的代表團(tuán)參賽，在比賽的第一天，中國(guó)運(yùn)動(dòng)員許海峰就在射擊項(xiàng)目中一鳴驚人，為中國(guó)奪得男子手槍速射金牌，實(shí)現(xiàn)了中國(guó)在奧運(yùn)史上金牌零的突破。在這屆奧運(yùn)會(huì)上，中國(guó)隊(duì)共奪得15枚金牌，列金牌總數(shù)第4，跨入世界體育強(qiáng)國(guó)的行列。

　　1988年，在韓國(guó)漢城舉行的第24屆奧運(yùn)會(huì)上，中國(guó)運(yùn)動(dòng)員共奪得5枚金牌。

　　1992年，在西班牙巴塞羅那舉行的第25屆奧運(yùn)會(huì)上，中國(guó)運(yùn)動(dòng)員共奪得16枚金牌，列金牌總數(shù)第4。

　　1996年，在美國(guó)亞特蘭大舉行第26屆奧運(yùn)會(huì)上，中國(guó)運(yùn)動(dòng)員共奪得16枚金牌列金牌榜第四名。還奪得銀牌22枚，銅牌12枚，獎(jiǎng)牌總數(shù)50枚。

　　1993年9月23日國(guó)際奧委會(huì)宣布悉尼獲得2000年奧運(yùn)會(huì)舉辦權(quán)，北京以兩票之差失利。

　　1996年亞特蘭大奧運(yùn)會(huì)中國(guó)代表團(tuán)再次奪得16枚金牌。

　　1998年11月25日北京正式宣布申辦2008年奧運(yùn)會(huì)，再次開(kāi)始了申辦之旅。

　　1999年4月7日北京正式向國(guó)際奧委會(huì)遞交2008年奧運(yùn)會(huì)申辦報(bào)告。

　　2000年悉尼奧運(yùn)會(huì)中國(guó)代表團(tuán)奪得28枚金牌、16枚銀牌和15枚銅牌，金牌和獎(jiǎng)牌總數(shù)首次進(jìn)入世界三強(qiáng)。

　　2001年7月13日國(guó)際奧委會(huì)宣布北京獲得2008年奧運(yùn)會(huì)舉辦權(quán)，中國(guó)終圓世紀(jì)奧運(yùn)夢(mèng)。

　　2004年雅典奧運(yùn)會(huì)上,中國(guó)代表團(tuán)奪得32枚金牌、17枚銀牌和14枚銅牌，列金牌榜總數(shù)第二名。