呼韩邪是虚闾权渠单于的儿子。虚闾权渠单于死后，未能被立为单于，逃至妻父乌禅幕处。汉宣帝神爵四年，被乌禅幕及左地贵人等拥立，发兵击败握衍朐鞮单于。五凤二年秋，击败右地屠耆单于。四年夏，被其兄郅支单于击败，引众南近塞，遣子入汉，对汉称臣，欲借汉朝之力保全自己。甘露三年（正月，朝见宣帝于甘泉宫受特殊礼遇。数年后，鉴于郅支单于西迁，内患已消，力量渐强，乃率部重归漠北。竟宁元年正月，第三次朝汉，自请为婿，娶汉宫女王嫱为妻，号为宁胡阏氏。此后，汉与匈奴40余年无战事。