本世纪初，上海四马路大新街有一家文具店。店主王老板常赴海外采购文具，一次到日本，看到了乒乓球表演，于是买了一些乒乓器材带回上海，并在店内作示范。从此，打乒乓球的人日渐增多。这是乒乓球首次进入中国。
当时的球拍与现在的大不相同，拍型长圆，拍柄瘦长。更有趣的是板上钻有许多小孔。
早期的乒乓球运动仅在上海、广州、北京、天津等少数大城市开展。
１９１６年，中华基督教青年会上海分会童子部首先开设乒乓球房，有球台九张。但一般市民无缘入内，仅资本家的子弟和有钱的大学生等少数人去寻找乐趣。
１９１８年，上海率先成立全市的乒乓球联合会和其他一些组织，不少球队纷纷建立，并于１９２３年首次举办了比赛。比赛采取对抗方式，１１人参赛，先胜六盘者为赢。同一年，全国乒乓球联合会在上海诞生。中国乒乓球运动从此得到了初步的发展。
关于乒乓球传入中国，还有一种说法是，匈牙利选手米·斯扎巴多斯１９３１年获得了第五届世乒赛男子单打冠军。赛后，由他作环球旅行表演而传到了中国。但这种说法不可靠，因为在此之前，上海等地已有乒乓球活动。