新中國成立后第一次參加奧運會，是在1952年的第十五屆奧運會，此屆奧運會是在芬蘭的赫爾辛基舉辦的。新中國首次參加奧運會并不順利，有過一番曲折的經(jīng)歷。
新中國雖然百廢待興的、百業(yè)待舉，但對體育事業(yè)同樣非常重視，早在新中國成立當年的10月26日，就召開了“全國體育工作者大會”，并推選了108人組成“中華全國體育總會籌備委員會”，并推選馮文彬為主任, 馬約翰、吳蘊瑞、徐英超、榮高棠為副主任, 榮高棠兼秘書長。
1951年2月15日，芬蘭首任駐華公使瓦爾萬尼到北京上任時，拜會了中國外交部副部長章漢夫，提出了希望中國能夠參加次年由芬蘭在赫爾辛基主辦的第15屆奧運會。
中國原本是國際奧委會成員，并且奧委會里有王正廷、孔祥熙、董守義三名中國籍的委員。新中國成立后，王、孔分別去了香港和美國。當時在甘肅工作的董守義就成了當時國際奧委會僅存的中國籍委員。（董守義1947年被選為國際奧林匹克委員會委員，1948年任中國參加第14屆奧運會代表團總干事。周總理指示董守義到北京參與聯(lián)絡國際奧委會的有關(guān)工作。）
1952年2月5日，中華全國體育總會致電國際奧委會，申明新中國對參加國際奧委會及奧運會的態(tài)度。而國際奧委會需要作出的決定，就是明確中華全國體育總會是中國的唯一合法代表，并且邀請中國參加15屆奧運會。當時以美國為首的一些國家拒不承認中華人民共和國，臺灣方面仍然占據(jù)著聯(lián)合國和奧委會的席位。
在這樣的國際大環(huán)境下，中國為能參加本次奧運會做出了積極的努力。3月23日，中華全國體育總會秘書長榮高棠致函國際業(yè)余籃球、田徑、游泳、足球、自行車等聯(lián)合會,聲明自1949 年中華人民共和國成立以后,中華全國體育總會是代表中國以及中國人民的唯一合法的體育組織,，將繼續(xù)參加各個國際體育聯(lián)合會的組織、會議與體育活動。國際業(yè)余籃球聯(lián)合會、國際業(yè)余游泳聯(lián)合會、國際足球聯(lián)合會等國際體育組織先后致函中華全國體育總會，正式承認中華全國體育總會代替前“中華全國體育協(xié)進會”為該會會員, 可以參加該年的奧運會比賽。
但是，由于一些國家的反對，加上臺灣方面的阻撓，國際奧委會直到6月5日報名截止日之前，依然沒有做出明確答復。甚至曾經(jīng)提出“中華全國體育總會”與“中華全國體育協(xié)進會”同時參加或都不參加的方案，以及“中華全國體育總會”從新加入奧委會的方案，中國政府給與了有力回擊。經(jīng)過中國政府的多次交涉，在眾多國際朋友的聲援和呼吁的支持下，1952年7月17日，國際奧委會在赫爾辛基舉行第47屆會議，通過了邀請中國運動員參加本屆奧運會的決議。臺灣方面感到大勢已去，宣布退出了第15 屆奧運會。
7月18日晚，就在奧運會開幕的前一天，北京終于收到了發(fā)自赫爾辛基的電報:
根據(jù)國際奧林匹克委員會7月17日會議，我們很榮幸邀請中華全國體育總會運動員，參加赫爾辛基第15屆奧林匹克運動會。
組委會主席 伊利克·馮·佛倫凱
這時各項比賽已經(jīng)開始了，是否仍然組團前往呢？周恩來總理明確指示：“一定要去，只要五星紅旗能在奧運會的賽場升起，這就是勝利?！?
7月23日，參加第十五屆奧運會的中國代表團宣布成立，團長榮高棠, 副團長黃中、吳學謙,總指導董守義，運動員、翻譯、醫(yī)生以及記者共有40人。臨行前周總理在中南海接見了代表團領(lǐng)導，并指出：“正式比賽參加不上，但可以和芬蘭運動員進行比賽，多做友好工作，要通過代表團的工作和運動員的精神面貌去宣傳新中國?！?/span>。
25日清晨，中國體育代表團乘坐飛機, 從首都西郊機場起飛，于7 月29 日上午11 點到達赫爾辛基機場。
當天中午，中國體育代表團在奧運村舉行了莊嚴的升旗儀式，大批記者和一些國家的運動員都聞訊趕來，曾參加過第14 屆奧運會的中國足球優(yōu)秀選手張邦倫擔任旗手、陳成達擔任護旗手。奧林匹克的盛會上第一次升起了新中國的五星紅旗。
升旗儀式上，榮高棠做了簡短發(fā)言。面對周圍的記者、國際友人和奧組委官員，他說:“雖然我們來遲了，但我們終究來到了，我們帶來的是和平的愿望與良好的友情。我們將與各國運動員會見，我們深信這種會見將增強新中國運動員與各國運動員們之間的相互了解與友誼?！?/span>
此時十五屆奧運會已進行了10天，比賽已近尾聲，足球、籃球的預賽已經(jīng)過去，只有游泳選手吳傳玉趕上了100米仰泳預賽，成績?yōu)?分12秒3。這是新中國運動員在奧運會上寫下的第一個紀錄。芬蘭奧組委特意安排了中國足球隊和籃球隊同芬蘭的國家隊進行了一場友誼賽。在赫爾辛基的奧運會期間，中國代表團還參加了一些社交活動，并舉行了招待會，與各國朋友進行了廣泛的接觸，向世界展示了新中國的形象。
8月3日晚上7點，中國代表團參加了十五屆奧運會舉行的閉幕式。大會閉幕式上，根據(jù)國家名稱的字母順序，和每個國家的兩名旗手一樣，中國隊籃球運動員張長祿、周寶恩作為旗手，舉著五星紅旗繞場一周。全部隊伍走完后，各支隊伍站在主席臺前排成半圓形，由芬蘭、蘇聯(lián)、中國、美國、捷克斯洛伐克等國選手代表各國運動員上臺發(fā)言。代表中國隊發(fā)言的是籃球運動員陳文彬。他代表中國人民向芬蘭人民和芬蘭運動員致以熱誠的敬意，并且表示中國運動員愿意和所有國家的運動員加強友好聯(lián)系，從而幫助促進國際友誼和建立穩(wěn)固的和平。
隨著熊熊燃燒的奧林匹克火炬緩緩熄滅，第15屆奧運會在芬蘭國歌聲中閉幕，新中國在奧運賽場上的首次成功亮相也告圓滿結(jié)束。但是，如同中華人民共和國在聯(lián)合國的合法地位久久未決一樣，中國在奧委會的席位問題在此之后也再起波瀾。
中國體育代表團在赫爾辛基奧運村舉行升旗儀式
附1：1952年十五屆奧運會之后的重要情況
1952年7月，第十五屆奧運會在芬蘭的赫爾辛基舉辦，新中國第一次參加奧運會。
1956年11月，澳大利亞墨爾本第十六屆奧運會，鑒于國際奧委會的少數(shù)人堅持“兩個中國”的政策，中國奧委會于1958年8月19日宣布退出國際奧委會。
1979年11月26日，國際奧委會恢復了中國奧委會的合法權(quán)利，并決定臺灣以中國臺北奧委會的名義參加。中國又回到了奧林匹克大家庭中。當年為抗議蘇聯(lián)入侵阿富汗，中國拒絕參加1980年的莫斯科奧運會。
1980年2月，首次參加了第13屆冬季奧運會。
1984年參加第23屆洛杉磯奧運會。
2001年北京時間7月13日，北京在國際奧委會第112次全會上獲得第29屆2008年奧運會主辦權(quán)。
2008年8月8日，中國在北京成功舉辦了第29屆奧運會。
2010年2月10日，國際奧委會在加拿大溫哥華召開第122次全會，投票選出南京作為2014年第2屆夏季青年奧林匹克運動會的承辦城市。
2014年8月16日20時，2014年南京青年奧林匹克運動會在中國南京開幕。南京青奧會是繼北京奧運會后中國的又一個重大奧運賽事，是中國首次舉辦的青奧會，也是中國第二次舉辦的奧運賽事。
2015年7月31日（北京時間），國際奧委會主席巴赫在國際奧委會第128次會議上正式宣布北京獲得2022年冬季奧林匹克運動會舉辦權(quán)。
附2：十五屆奧運會中國代表團成員
（共四十人）
總領(lǐng)隊：榮高棠（體總副主席兼秘書長）
副總領(lǐng)隊：黃中（體總副秘書長）、吳學謙（體總聯(lián)絡處處長，團中央聯(lián)絡部副部長）、盛之白（駐瑞典使館二秘）
總指導：董守義
干 事：郝克強
籃球隊：指 導 牟作云
隊 員 張長祿、周寶恩、陳文彬、盧鼎厚、王元祺、李議亭、程世春、田福海、張先烈、白金申
足球隊：指 導 李鳳樓
隊 員 馬韶華、王政文、王禮賓、何家統(tǒng)、叢安慶、李逢春、陳成達、張杰、李朝貴、方紉秋、孫福成、郭鴻賓、金龍湖、鄭德耀、張邦倫
游泳選手：吳傳玉
翻譯：程鎮(zhèn)球、王裕祿、何振梁、康 維
總務：許慶善
醫(yī)生：劉明時
