自1978年底以来，中国一直在进行一项秘密行动：在和越南接壤的边境地区部署大量作战部队和武器准备。到1979年2月中旬，中国一共动员了9个主力军和一些独立步兵师，共计32个师；6个坦克团，500多辆坦克；4个炮兵师和若干个炮兵团，大约装备了2000门火炮。此外，南海舰队200多艘军舰、空军和海航的900多架飞机处于高度戒备状态。

1979年1月，中国军队开始加强在边境地区的武装侦察活动，为即将发起的进攻做准备工作。1979年1月和2月第一周，中国军队对越南的武装渗透侦察多达几百次，他们的目标是地方部队哨所、武装公安哨所，并抓捕落单的越南军人。

1979年2月17日凌晨3时30分，中国军队动用大炮轰炸越南境内多个目标，随后出动集60万军队、500多辆坦克装甲车、数千门各种口径火炮，在长达1400多公里的边境线上发起了全线进攻。中国军队的主要攻击方向是谅山省和高平省，重要攻击方向是黄连山省，次要攻击方向是莱州省，牵制进攻方向则是广宁省和河宣省。

面对来自北部边境的，兵力超过60万人，装备数百辆坦克和数千门重型火炮的中国军队，越南北部边境六省在1979年2月17日只有武装警察部队，当地民兵和主力部队7个步兵师，总兵力约为7万人。在武器装备、兵力人数方面和中国军队相比差距巨大。但是主力部队、地方部队、武装公安部队、民兵，团结一致地勇敢地阻止了实力数倍于己的中国军队的前进。

在战争初期，越南方面不急于调动战略预备队投入作战，也不匆忙从柬埔寨战场撤回主力军，而主要依靠当地综合力量，也就是使用第一军区和第二军区的武装力量（包括正规军和民兵），同时调遣部分位于纵深的部队增援前线。

经过第一阶段10天的战斗，第一军区和第二军区的武装力量，在越南北部地区各省人民的支援下，消灭中国军队大批有生力量，瓦解了中国军队“速战速决”的预定计划，兵迫使对方使用战略预备队参战。

但是中国军队还是凭借兵力和武器装备方面的绝对优势，逐步从边境地区向越南纵深推进，分别占领老街市（2月19日）、高平市（2月24日）、柑塘市（2月25日）和谅山市（3月5日）等重要城市。

面对前线的紧急情况，越南方面决定动用各主力兵团，开展大规模的全线反击。1979年3月，最高统帅部已经迅速将主要武装力量转移到北部地区，同时3月2日决定在谅山战场成立第5军。第1军、防空空军和其他技术兵种的主要单位都处于战备状态。为了发挥全国的力量争取胜利，3月5日，越南国会常务委员会决定实行全国总动员，按照法定程序，越南主席孙德胜根据国会常务委员会的决定，发布了实施全国总动员的主席令。

中国军队由于遭受严重的损失而未能达到所提出的目标，1979年3月5日晚，中国方面宣布撤军回国。为了表达善意，同时希望恢复两国关系, 越南方面命令北部边境地区武装力量和人民停止反击，为中国军队撤军回国创造条件。截至1979年3月18日，中国军队全部撤出越南。

北部边境军民的激烈抵抗，给中国军队造成了重大损失，他们大约有62500人伤亡，200余人被俘。为了打赢这场残酷的战争，越南方面也付出了巨大的代价，蒙受了沉重的损失：部队干部战士伤亡3万余人，数以万计的平民在战火中丧生。高平、谅山、柑塘、老街4个市几乎被完全摧毁，320个乡镇、735所学校、41个农场、81个工厂、矿山和38个林场被摧毁。40万头牛被杀，被劫走。在六个边境省份的350万人中，约有50%的人失去了房屋、财产和生活设施。