第二届奥运会会徽海报
雅典奥运会胜利举行后，希腊人对奥运会表现了极大的热情，想推翻第二届会址设在巴黎的决议。在第一届奥运会闭幕时，国王乔治一世亲自出面，要求将雅典定为奥运会的永久会址。当时已接替维凯拉斯任国际奥委会主席的顾拜旦，在这个问题上坚持不让。他说，奥林匹克运动是希腊的，也是全世界的。他认为奥运会必须在不同国家举行，才能使之具有国际性和富有生命力。希腊终于被说服，巴黎赢得了主办权。
但是，世界名城巴黎并没有敞开胸怀热情迎接这届奥运会。顾拜旦想利用世界博览会来扩大奥林匹克运动影响的打算，未能如愿以偿。法国政府对博览会的兴趣远胜于奥运会，顾拜旦在日记中道出了他内心的愤慨和苦恼：“世界上有一个对奥运会非常冷淡的地方，这就是巴黎。”
运动会于5月20日至10月28日进行，比赛日程安排得很不紧凑，如击剑赛安排在6月，田径体操赛在7月，游泳、赛艇在8月，自行车赛在9月等等，整个运动会开了5个多月，堪称是一次“马拉松”式的运动会。比赛场地也很分散，大会组织者竟别出心裁，将比赛项目按博览会工业类别分在16个区域进行。例如，击剑被安排在刀剑制造工业区，划船安排在救生系统展览区等，实际上，运动会成了博览会的一部分，成了展览会招揽观众的体育表演。有的项目比赛完了，个别选手甚至不知自己参加的是奥运会赛。
参赛国家达21个，运动员共1330人，这比上届要多得多。特别是运动员中有11名女子，突破了古代奥运会和现代第一届奥运会不许女子参加的禁令。虽说这次女子参赛并未得到国际奥委会正式认可，却开创了女子走向世界体坛的先例。这次率先派女子参赛的有法国、英国、美国、和波希米亚。东道主派出了884名运动员组成的庞大选手团，人数居首位；英国次之，共103人；美国列第三位，共74人。首次参赛的有比利时、波希米、海地、西班牙、意大利、加拿大、古巴、荷兰、挪威和印度。印度选手是一名就读于英国名叫诺·普理查德的学生，他随同英国代表团来到巴黎参加了这次盛会，并在田径赛中获得两枚银牌。他是亚洲第一个参加奥运会和获取奖牌的运动员。
集体项目被列入本届比赛，这是一个重大的可喜的突破，古奥运会进行的只是个人之间比赛。第一届奥运会时，尽管一些集体项目已在欧美等国广为流行，但为了遵循古奥运会的传统仍未能列入比赛。足球就是这样。1863年英国成立了足球联合会，1873年英格兰和苏格兰还举行了第一场正式比赛。参加本届奥运会足球赛的虽然只有英、法、比三个国家，但它是第一次世界性的比赛，对后来国际足球联合会的成立和世界足球运动的发展，都起了一定的推动作用。
巴黎奥运会比赛场地不仅分散，而且设施很差。田径赛场就是一鲜明的例证。这项比赛被安排在巴黎市区一个林场进行。那里原是法国赛马俱乐部的跑马场。虽然环境优美，空气清新，但不适合举行田径赛。它场地狭小，林木横生，土质松软，跑道不平，场内设施几乎一无所有。跳跃比赛，需要选手自己动手挖掘沙坑；跨栏比赛的个别栏架临时用树枝支搭起来凑合；参加投掷比赛的选手更是苦不堪言，器械经常碰撞树木的树杈，有时掷出的链球缠绕其上，还得从树上解下后再进行比赛。
不过，这次田径比赛条件虽差，仍取得了良好成绩，创造了14项奥运会纪录，其中有6项高于当时的世界最高水平，有的纪录还保持了多年，如美国弗·贾维斯在100米预赛中所创的10秒8奥运会纪录，直到1924年奥运会再次在巴黎举行时，才被英国哈·亚伯拉罕突破。本届田径项目由上届的12项增至24项。首次列入了障碍赛、立定跳、团体跑，以及拔河赛等。但这次新设的项目，绝大部分后来都逐渐被取消了。田径比赛在日程安排上也曾引起一些争执。
上届奥运会田径成绩领先的美国队，这回又获得了24项中的17项冠军，树立了田径强国的形象。佼佼者中首推阿·克伦茨莱因，他除了获跳远冠军以外，还夺得60米跑、110米栏和200米栏3项第一名，成为首位在一届奥运会个人赛中四夺金牌的选手，也是本届获得金牌最多的运动员。在这届奥运会上，还有一位运动员虽然所得金牌比克伦茨莱因少，然而后来名气要大得多，他就是在美国有橡皮人之称的雷·尤里。尤里能成为世界优秀运动员是颇出人意外的，他小时候身体很弱，得小儿麻痹症后，在轮椅上度日，后来他遵照医生的意见，从不间断体育锻炼，以顽强的意志在锻炼中恢复了健康，并成为赛场上的出类者，巴黎奥运会时他已经27岁。在7月16日那天中，他一举夺得立定跳高、立定跳远与立定三级跳远3项冠军。四年后，他在圣路易奥运会上重复了这一成就。1906和1908年，他又在雅典和伦敦奥运会上两次获得立定跳高和立定跳远金牌。从1900-1908年，他四次参加奥运会比赛，共获得10枚金牌，是迄今获奥运会金牌最多的选手。
