关于乒乓球运动的起源，有各种各样的传说。按多数人的看法，乒乓球运动创始于英国，并由网球运动派生而来的说法比较可靠。
    大约在19世纪后半叶，由于受到网球运动的启示，在一些英国大学生中，流行着一种极类似现在乒乓球的室内游戏，叫做“戈西马”(Goossime)或“弗利姆——弗拉姆”( Flim-Flam)。没有统一规则，有10 分、20分为一局的，也有50分或100分为一局的，发球时，可将球直接发到对方台面，亦可把球先发到本方台面再跳至对方台面。所用器材也和今天的大不一样。球拍是空心的，用羊皮纸贴成，形状为长柄椭圆形。为了不损坏家具，在橡胶或软木实心球外，往往包一层轻而结实的毛线。有时，在饭桌上支起网来打；有时索性就在地板上用两个椅子当作支柱，中间挂起网来打。虽然打起来不十分激烈，但颇有一番乐趣。
    大约在1890年，有位名叫詹姆斯·吉布(James Gibb)的英格兰人到美国旅行时，偶然发现了一种用赛璐珞制成的空心玩具球，弹跳力很强。于是，他就将这种球稍加改进后，逐步在英国和世界各地推广起来。也许因为此球在桌上打来打去发出了“乒乒乓乓”声音的缘故，英国一家体育用品公司，首先用“乒乓”(PingPong)一词作了广告上的名称。就这样，乒乓球才开始得此绘声之名。
    由于第一次世界大战的爆发，使原已在欧洲得到了较好开展的乒乓球运动不得不停顿了一个时期。20世纪20年代后，在蒙塔古等人的推动下，曾一度被冷落的乒乓球运动才又重新在英国活跃起来，并组织了一些由各地选手参加的全英乒乓球赛。1926年，由于发现了“乒乓”(Ping-pong)一词是商业注册名称，而且原英国乒乓球协会也缺乏代表性，因此便解散了原组织，重新成立了“桌上网球”(Table Tennis)协会。“桌上网球”这个名字一直沿用了数十年，国际乒联至今还采用着这个名字。汉语的乒乓球是从声音上得名的，但将其翻译成英文时，仍为“Table Tennis”。