民國13年（1924）7月，全國性體育組織「中華全國體育協進會」（簡稱「全國體協」）正式成立，並取代了原「中華業餘運動聯合會」一切職能，英文名稱相同。全國體協首任主席仍為王正廷先生。
同年5月4日至7月27日，第八屆奧運會（英語：Games of the VIII Olympiad，法語：les Jeux de la VIIIe Olympiade）於法國巴黎舉行，我國派出3名網球選手參加該屆的網球表演賽，預賽即遭淘汰，無緣參與後續的正式比賽，據說僅出席了開幕式。
此次非我國官方政府派員，是我國參賽者在澳大利亞參加「戴維斯杯網球賽」（今譯為「台維斯盃」，英語：Games of the VIII Olympiad，法語：les Jeux de la VIIIe Olympiade）後，自行去參加本屆奧運會，也是中國人（華人）首次出現在奧運的賽場上。
民國17年（1924），在美國斯普林菲爾德學院留學的宋如海先生，受「中華體育協進會」的指派，由美國乘船前往荷蘭，作為觀察員的身分出席了在阿姆斯特丹舉行的第九屆奧運會（英語：the Games of the IX Olympiad，法語：les Jeux de la IXe Olympiade，荷蘭語：de Spelen van de IXe Olympiade），這是中國首次正式派人參與奧運會。
宋如海先生回國後，將觀摩的賽程記錄下來，出版了一本《我能比呀·世界運動會叢錄》（「我能比呀」即「奧林匹亞」的另一譯名），這是中國第一部介紹奧運會的專著。第八屆過後，「中華全國體育協進會」先後陸續加入了田徑、游泳、體操、網球、舉重、拳擊、足球、籃球等8個國際單項體育聯合會。
民國20年（1931），「中華全國體育協進會」作為負責全國體育運動的組織，其在上海的地址及其名譽主任幹事沈嗣良先生（後於民國56年逝世於美國）被國際奧會作為「Comités Olympiques Nationaux」（中文可譯作「國家奧林匹克委員會」）中代表Chine（中國）的聯繫地址，登載於國際奧會的公報上，這表示全國體協作為中國奧林匹克委員會獲得了國際奧會的承認。
民國21年（1932），第十屆奧運會（英語：the Games of the X Olympiad，法語：les Jeux de la Xe Olympiade）在美國洛杉磯舉行，我國國民政府宣稱不派運動員參賽。此時日本控制的滿洲國擬派2名東北運動員以「滿洲國」名義參賽，並大造宣傳聲勢。全國輿論大嘩，強烈要求政府派運動員參賽。
全國體協立即予以響應，積極進行參賽準備工作，但參賽經費無著，王正廷先生、張伯苓先生以全國體協名義出面籌款，最後張學良將軍決定個人出資8000元。最後終於成功將選手送入該屆奧運，參加7月30日至8月14日的比賽。
這次中華民國代表團共6人，分別為劉長春先生（後於民國72年逝世於遼寧大連）、沈嗣良先生、宋君復先生（後於民國66年逝世）、劉雪松先生、申國權先生（韓國華裔，後於民國54年逝世）、托平先生，其中後3人是在洛杉磯臨時找的華人。
這是我國政府第一次派代表團參加奧運會，劉長春先生是中華民國第一位參加奧運會的選手。劉先生為田徑選手，因旅途勞頓而放棄400米賽跑，參加了100米及200米，雖在預賽便出局，但分列第五、六名，也是我國選手首度參加奧運的一次寶貴經驗。
另外一提，當時尚未光復的臺灣，其宗主國日本派出臺中人張星賢先生（後於民國72年逝世於臺北），參加了田徑400公尺中欄預賽，在分組中成績57秒第四名，未能晉級複賽。張先生為第一位參加奧運的臺灣人，報名時間、進入選手村報到時間、上場比賽時間都比劉長春先生早。
民國25年（1936）8月1日至11日，第十一屆奧運會（英語：the Games of the XI Olympiad，法語：les Jeux de la XIe Olympiade，德語：die Spiele der XI. Olympiade）在德國柏林舉行，我國由王正廷先生和馬約翰（後於民國55年逝世於大陸北京）領隊，共派出69名運動員，參參加籃球、足球、游泳、田徑、舉重、拳擊、自行車等7個項目的比賽。
該屆特別的是：全國體協會發起組織了一個「中國體育考察團」隨奧運代表團前往觀摩，同行的還有一個「國術表演團」。代表團及國術表演團共有78人，亦由王正廷先生任總領隊。而由於長達一個月的舟車勞頓，運動員途中體力消耗極大，表現均欠於國內水平。除符保盧先生（後於空軍服役，已於民國32年在抗戰中捐軀）闖入撐竿跳高的決賽外，其餘均未得到複賽資格。
（未完待續，中華全國體育協進會【重慶時期】）