“乒乓外交”起于1971年3-4月在日本名古屋举行的第31届世界乒乓球锦标赛。在中断了两届后，中国乒乓球队在名古屋世乒赛上回归。之前中国队收到国际乒联和日本方面的多次邀请。当时的国际乒联主席罗伊·埃文斯宣称自己曾与周恩来接触，并对其称文革以后中国需要通过运动交流与世界联系。由于当时处于文化大革命时期，中国参赛将牵涉到“五国六方”的国际关系，所以国内许多人主张中国还是不参赛为好。在这节骨眼上，是周恩来总理果断指出：“这次不去，将为以后出去参加比赛增加更大的麻烦。”因此他立即向毛主席写了一份报告，阐述了我国参加世乒赛的政治斗争策略。毛主席批示“照办”。这样，中国乒乓球队终于在1971年3月21日踏上了赴日参赛的征程。
开赛前夕，周恩来召集有关人士开会时要求这次参赛“接触许多国家的代表队”，“我们也可以请他们来比赛”。同时他要在座的人“动动脑筋”。
中国队在男子团体比赛中力克匈牙利、捷克斯洛伐克、瑞典，并最终战胜东道主而再次捧得冠军杯时，在日本引起了不小的轰动。但大洋彼岸的美国白宫似乎并不关心这一点。尼克松正在伏案研究的是国务院情况报告中提到的三件事：第一，周恩来在上月会见日本前外相藤山爱一郎时说，中国与美国的关系“可能在某一时间突然引人注目地有所改善”；第二，毛泽东和周恩来不久前接见了美国朋友埃德加·斯诺；第三，北京已派出它的乒乓球队到日本参加国际比赛 。就在尼克松全神贯注地分析这三件事之间是否有某种联系时，在4月2日日本乒协组织各国选手在美丽的三重岛海面观光时，发生了一件有趣的事情。
那是美国选手格伦·科恩在游艇上热情地向不远处的中国选手打招呼：“哈罗！你们中国队的球打得真漂亮。找个机会，也和我们打几盘吧！”中国的领队一时有些不知所措，但年轻的中国队员则笑着大声回答：“好，好！”美国选手见中国选手笑着答应了，一个个兴高采烈，又进一步提出要求说：“听说你们已邀请我们的朋友（指加拿大和英国队）去中国访问，什么时候轮到我们呀？”中国青年也大方地答道：“会的，总有一天你们会去的。”
不过，真正与美国运动员发生联系的，是源于4月4日中美两国乒乓球手的一次偶遇:美国队员科恩在体育馆训练了太久，就快到比赛的时间了，她看到了外面还有一辆车，就上了车，但一上车却发现登上了中国队的车。当时中国队员庄则栋主动上前和他握手、寒暄，并送他一块中国印有黄山图案的杭州织锦留作纪念。当时在车上科恩想回赠点什么，但在包里只找到一把梳子。他说“我想送给你点什么，但我总不能送你梳子吧”。下车时科恩手持织锦的情景被在场记者抓拍，成为爆炸性新闻。第二天，科恩准备了一件印有和平标记和“Let It Be”字样的运动衫，专门在中国队的必经之路上等待庄则栋，回赠他并与他拥抱。记者问科恩是否想去中国，科恩回答：“我想去任何一个我没到过的国家，阿根廷、澳大利亚、中国。”记者再问：“那特别是中国这个国家，你想去吗？”科恩给予肯定。……从毛泽东的护士长吴旭君那里得知，当她为毛泽东念《参考消息》有关此事的报导时，老人眼睛一亮，不但让她把这则花絮再念一遍，还说了一句: “这个庄则栋，不但球打得好，还会办外交。此人有点政治头脑。”虽然，庄则栋后来一直在干他的老本行体育，并未涉足外交，但是，这位世界乒乓球锦标赛冠军对于中美接触所做的贡献，至今仍为人们所称道。
其实，关于是否邀请美国队访华的问题，早就在国家体委和外交部酝酿了，不过大多数人认为时机尚不成熟。因此，4月3日，一份不邀请美国队访华的报告送给了周恩来，报告上指出支持蒋介石政府的美国政府的球队访华乃是不合时宜。周恩来又转给毛泽东批示。毛泽东想了很久，才在4月6日犹豫地画了圈，表示同意两部委的意见，并将报告退给了外交部。但是，毛泽东在反复思考中非常清楚：中美关系已到了一个重大转折点，如果现在邀请美国乒乓球队访华，也许是最恰当和最及时的外交方式。晚上11点多，毛泽东经过再一次的反复斟酌后，终于改变了主意，决定邀请美国队访华。并催促马上通知外交部，“赶快办，要不就来不及了！”
次日，美国国务院接到驻日本大使馆《关于中国邀请美国乒乓球队访华的报告》，立即向白宫报告。尼克松在深夜得知这个消息后，立即发电报给美国驻日大使，同意中方的邀请。事后尼克松说：“我从未料到对中国的主动行动会以乒乓球队访问北京的形式得到实现。”
4月10日至17日，美国乒乓球协会运动员4位官员和科恩、雷塞克等9位运动员等和一小批美国新闻记者经香港抵达北京，科恩等成为自1949年以来第一批获准进入中华人民共和国境内的美国运动员。期间周恩来每天都有详尽明确的批示应对各种突发情况。如1971年4月12日11时周在批示中特意指出“可以安排他们去参观故宫”；4月13日晚建议“看样板戏的剧场，既然政协礼堂不太合适，应安排在人民大会堂三楼小礼堂”等。
美国队在北京和上海进行了两场比赛。4月14日凌晨，美国、加拿大几名队员突然生病，美国乒乓球代表团与中方翻译发生误会，以为中方有意把美国队员留下不让走。周恩来得知后批示迅速给予治疗，如能参与接见尽量安排，并保证美国队员的人身自由。当天周恩来在人民大会堂接见美国乒乓球队时说：“你们在中美两国人民的关系上打开了一个新篇章。我相信，我们友谊的这一新开端必将受到我们两国多数人民的支持。”在周恩来发表讲话的几个小时后，尼克松宣布一系列对华开禁措施。访问团还游览了长城，参观了清华大学等地。
作为回报，美国乒乓球队邀请中国乒乓球队访问美国。1972年4月11日，中国乒乓球队回访美国。队员参观了底特律的工业基地，游览了迪斯尼乐园。
