春秋战国和秦汉时期，焉支山是水草茂盛的天然草场，又是进入西域的咽喉地带，氐、羌、月氏、匈奴等曾先后争夺这里。据传，匈奴占领焉支山之后，小月氏人（）。