مانند بسیاری از ورزش‌های دیگر، تنیس روی میز در آغاز به‌عنوان یک «بازی سالنی» بود. این بازی در دهه 1880 آغاز شد، زمانی که بازیکنان تنیس روی چمن بازی خود را برای بازی در داخل خانه در طول زمستان تطبیق دادند.
پینگ پنگ یک نام تجاری برای تنیس روی میز و تجهیزات مرتبط است. نام “پینگ پنگ” توسط شرکت انگلیسی J. Jaques and Son در اواخر دهه 1800 اختراع شد و بعداً توسط برادران پارکر، شرکت بازی‌های تخته‌ای، در ایالات متحده علامت تجاری شد.
بازی پینگ پنگ به سرعت رواج و در اوایل سال 1901، مسابقاتی با بیش از 300 شرکت کننده برگزار می شد. انجمن پینگ پنگ تشکیل شد اما در سال 1922 به انجمن تنیس روی میز تغییر نام داد.
در سال 1902 یک استاد دانشگاه ژاپنی بازی را به ژاپن برد و در آنجا آن را به دانشجویان دانشگاه معرفی کرد. مدت کوتاهی پس از آن، یک فروشنده بریتانیایی به نام ادوارد شارز آن را به مردم وین و بوداپست معرفی کرد و بذر آن برای ورزشی کاشته شد که اکنون در سراسر جهان از محبوبیت برخوردار است. در بریتانیا، تنیس روی میز گسترش یافته بود و لیگ ها در شهرهای استانی به دور از هم مانند ساندرلند و پلیموث به وجود آمدند. در سال 1922، یک باشگاه در انگلستان تشکیل شد که به افراد برجسته ای مانند جک هابز و دیگر نام های معروف آن زمان از دنیای ورزش می بالید. دیلی میرور یک تورنمنت سراسری را که در آن 40000 شرکت کننده حضور داشتند، سازماندهی و حمایت مالی کرد.
تنیس روی میز کاملاً روی نقشه بود و در 24 آوریل 1927، انجمن تنیس روی میز انگلیس به ریاست و سرپرستی ایور مونتاگ، پسر لرد اواتلینگ، متولد شد. او قرارشد معمار تنیس روی میز مدرن شود.
اولین مسابقات قهرمانی جهان در سال 1927 برگزار شد و مجارستانی ای به نام دکتر ژاکوبی قهرمان شد. این شروع موفقیت بی سابقه ای برای مجارستانی ها بود که کاملاً در طول دهه 30 بر بازی مسلط بودند. تیم آنها توسط ویکتور بارنا افسانه‌ای رهبری می‌شد که الهام‌بخش و مهارت او باعث شد تا بازی به جایگاه ورزشی ارتقا یابد.
در دهه 1950، بازی با اختراع اسفنج که تا به حال، یک امر نسبتاً ساده با پوشش نازک از لاستیک جوش خورده بود، وارونه شد.
تا این زمان، اسپین (پیچ) تنها نقش کوچکی را در بازی ای ایفا می کرد که سبک دفاعی بازی بر آن غالب بود. اما این رویه های جدید که توسط ژاپنی‌ها معرفی شدند، این ظرفیت را داشتند که توپ را به روشی تقریبا جادویی به اطراف حرکت دهند. ITTF(فدراسیون چهانی پینگ پنگ )، نهاد حاکم بر بازی، در تلاشی برای کنترل این پیشرفت جدید که در برخی موارد به عنوان تجهیز بازیکنان به یک مزیت ناعادلانه تلقی می‌شدند به سرعت قوانینی وضع کرد. ضخامت اسفنج و لاستیک کنترل شد و تا به امروز باقی مانده است. اما ماهیت بازی تغییر کرده بود و سرعت حمله سریع و سبک چرخش بازی مدرن را ایجاد کرد.
امروزه این ورزش چه در انگلستان و چه در خارج از کشور بسیار جا افتاده است و هر سال در حال رشد است. اوج این به رسمیت شناخته شدن آن به عنوان یک ورزش بازی های المپیک است که برای اولین بار در بازی های 1988 در سئول به نمایش درآمد. پوشش تلویزیونی فینال انفرادی مردان بینندگان باورنکردنی 2 میلیاردی را در سراسر جهان جذب کرد. در چین، این بازی به معنای واقعی کلمه توسط میلیون ها نفر در محل کار، مدرسه و پارک های اجتماعی انجام می شود. بازیکنان برتر چینی به عنوان قهرمانان ملی با موقعیت ستاره های پاپ در نظر گرفته می شوند.
