匈奴与汉朝战争持续了百年，后来匈奴内部分裂为南北两个汗国。在南匈奴臣服东汉之时，北匈奴为挑拨汉与南匈奴的关系，也请求与汉和亲，但遭到拒绝。北匈奴心有不甘，不断南下突袭，入侵东汉渔阳至河西走廊北部边塞，使北方沿边郡县，白天都得紧闭城门。此时距东汉建国已有近半个世纪，东汉的经济、军事实力得到恢复与发展，国力强盛，由此开始准备对北匈奴的反击。
永平十六年(公元73年)，汉明帝派大将窦固大军出酒泉(甘肃酒泉)西进，直到天山，占领北匈奴汗国最肥沃的耕地之—伊吾庐城(今新橙哈密)，留兵屯垦。另一位大将耿恭出张掖(甘肃张掖)北进，深入三百公里，直到三木楼山(蒙古王则克山)，北匈奴坚壁清野，向后撤退，没有受到重大创伤。75年，汉明帝死，再加上中原大旱，人民不堪重负，汉军罢兵回师。
章和元年(公元87年)，北匈奴被鲜卑部落(内蒙古西辽河上游)所破，优留单于被杀，北匈奴乱，五十八部二十八万人降汉。
永元元年(公元89年)，汉派车骑将军窦宪、征西将军耿秉及南匈奴休兰尸逐侯单于共四万余骑，兵分三路出击，三路大军于琢邪山(今蒙古阿尔泰山)会师，然后向北挺进，在稽落山(今蒙古国西北部)与北匈奴主力遭遇。此战，汉军大获全胜，单于逃亡，杀俘一万三千人，八十一个部二十余万人投降。窦宪和耿秉同登燕然山(今蒙古国杭爱山)，刻石纪功而还。
公元91年，窦宪再派耿夔等率兵出居延塞，在金微山大破北单于，斩首五千余级，单于率残部西遁。北单于遁逃无信，其弟于除鞬自立为单于，请降于汉。次年，汉和帝授予于除鞬单于玺;公元93年，汉杀于除鞬单于。至此，北匈奴消亡。汉军击败北匈奴后，汉复设西域都护，保护丝绸之路及维系与西域各族的友好关系。
南匈奴在北匈奴灭亡之后，仍继续存在了一百余年。公元216年，南匈奴单于呼厨泉被曹操强行留下，并下令将匈奴分为五部，选汉人为司马以都督，直属中央政府，撤销单于名号。至此，立国四百余年的庞大国度，终告灭亡。
综观秦汉与匈奴的民族关系，战争与和亲是为主流，交替进行。但不管哪种民族关系，对双方之间的经济、文化交流均产生了积极的影响，加强了相互间的民族认同。如匈奴的生活方式由游牧转变为农耕，基本上是受汉人影响;匈奴的骡、驴、骆驼大量入汉，一些珍贵的畜种、养马技术也传入中原，对汉人的生产、生活、军事等影响深远。
在文化上，由于频繁的交往，匈奴人民对中原文化产生了爱慕情绪，“匈奴自单于以下皆亲汉”，而中原对匈奴文化也渐趋了解，增加了双方间的文化认同，为中华民族共同体的建构作出了重要贡献。
