1931年，在南京成立的“中华全国体育协进会”被国际奥委会承认为“中国奥林匹克委员会”，中国正式参加奥运会的历史自此开始。

1932年第十届奥运会在美国洛杉矶举行。中国本不想派选手参加，仅由全国体育协进会总干事沈嗣良前往观礼。

而日本帝国主义扶持的伪满，拟派刘长春、于希谓作为满洲国选手参加奥运会，舆论一片哗然。刘长春也予以拒绝。

刘长春是中国短跑名将，中国当时多项短跑记录保持者。

1929年刘长春在沈阳举行的第14届华北运动会上先后打破了1m、2m和4m三个短跑项目的全国记录，成绩分别是18秒、224秒、524秒。

在强大的舆论压力下，国民政府决定以刘长春、于希谓为运动员，宋君复为教练员，沈嗣良为领队，代表中国参加奥运会。

由于没有经费，张学良个人资助了刘长春等人。在开幕式上刘长春执旗前导，沈嗣良、宋君复以及中国留学生和美籍华人刘雪松、申国权、托平等六人组成了中国代表团。于希谓因日方阻挠破坏，未能成行。

刘长春在经过三个星期的海上旅行之后，体力大受影响，原来报名参加了三个项目。他终因体力不支，只参加了1米、2米，没有出场4米的比赛。

在高手如云的奥运赛场，刘长春在1m、2m预赛中分别位于小组第五、六名未能取得决赛权。但他以中国第一位参加奥运会的选手而留名中国奥运史。

此后，刘长春在1933年第五届全国运动会上以17秒和22秒的成绩再创1m，2m两项全国纪录，夺得冠军。其中17秒的1m记录保持长达25年之久，直到1958年才被打破。

在第十届奥运会闭幕后，由国际奥委会奥地利委员史密特、瑞士委员马苏里、李密三人组成的考察小组受国际奥委会主席巴耶拉图尔的委托来华访问。

考察组首先到达北平，后启程去上海。在上海考察组谴责了日本侵略中国的战争暴行。而最早来中国访问的国际奥委会委员是日本人嘉纳治五郎，他是日本柔道的创始人。

1936年第11届柏林奥运会，中国派出14人组成的代表团，其中运动员69人。参加了篮球、足球、游泳、田径、举重、拳击、自行车等七个项目的比赛。

中国体育代表团成员杨秀琼作为唯一的中国游泳队女子选手参赛。在选拔赛中，她以1分21秒2和6分45秒2的成绩刷新了1m和4m的自由泳全国纪录。

杨秀琼曾是中国体育界的代表人物，12岁时就在游泳比赛中获得过冠军。

1933年在第五届全国运动会上，13岁的杨秀琼囊括女子游泳的全部金牌。

1934年，年仅16岁的杨秀琼代表中国出战第十届远东运动会，并独得四金。震撼了亚洲体坛，立刻成为国家形象的代表。她在当时被国人称为南国“美人鱼”。

前往柏林进行奥运比赛的路途十分漫长，在长时间的海上旅行之后，杨秀琼已体力不支，加上奥运赛场是一个各国优秀运动员云集的地方，最终没能挺进决赛，以遗憾告终。

中国足球第一次登上奥运会的舞台，也是在1936年的柏林奥运会。