刘询是汉武帝刘彻和皇后卫子夫的重孙，戾太子刘据的孙子。刘询因“巫蛊之祸”曾在襁褓之中入狱，后流落民间。19岁时被大将军霍光迎立为皇帝，他不顾霍光希望立自己的小女儿霍成君为皇后的要求，下了一道“莫名其妙”的诏书，他说：“在我贫微之时，很喜欢一把古剑，现在我是十分地想念它啊，众位爱卿有没有办法帮我把它找回来呢？”大臣们揣测上意后，很快便知道了汉宣帝想要表达的意思，于是他们联合奏请立当时被封为婕妤的许平君为皇后，霍光之女霍成君为婕妤。