之后随着五胡内迁，以及长达五百年的南北朝政权更替，南匈奴完全融入了北方汉族之中，除个别家族还保留了民族姓氏如鲜于、呼延等外，大部分都改成了刘、王、张等汉族大姓。而那些没有内迁的原匈奴草原部落则归入了鲜卑一族，两族不断通婚，形成了一个新的民族“拓跋鲜卑”，后来更是建立了强大的北魏帝国。

东汉初年，在匈奴贵族中反汉的势力重新抬头，导致匈奴再次分裂，南匈奴归顺汉朝，而北匈奴则坚持与汉为敌，经常发动对南匈奴和汉人的掠夺。而当时东汉刚刚建立，国力还属于恢复期，因此，直到汉明帝时，才发动了对北匈奴的反击战。91年，汉军再次出击北匈奴，在金山(今阿尔泰山)大败北单于，北单于只得向西逃窜。

至此，东汉对北匈奴的战争取得了全面胜利，而与汉为敌的北匈奴，则受到汉与南匈奴的合击，已无法在漠北蒙古高原立足，只得退出蒙古高原向西逃窜。归汉内迁的南匈奴部落与汉民族之间不断融合，不断繁衍生息。到了西晋末年八王之乱时期，南匈奴部落在领袖刘渊的带领下，与北方汉族的豪强势力联手推翻了西晋政权，建立了后汉国。

之后随着五胡内迁，以及长达五百年的南北朝政权更替，南匈奴完全融入了北方汉族之中，除个别家族还保留了民族姓氏如鲜于、呼延等外，大部分都改成了刘、王、张等汉族大姓。而那些没有内迁的原匈奴草原部落则归入了鲜卑一族，两族不断通婚，形成了一个新的民族“拓跋鲜卑”，后来更是建立了强大的北魏帝国。