朝廷因为刘虞在北方的威信很高，再次任命他为幽州牧。刘虞到达蓟城，精简了部队，广泛布施恩惠，派遣使者告峭王等人朝廷将宽大处理，可以免除他们犯下的罪责，又悬赏通缉张举、张纯二人。二人逃到塞外，其余的也都投降或逃跑了。张纯被手下王政杀死，首级被送到刘虞处。
汉灵帝刘宏派使者升刘虞为太尉，封容丘侯。刘虞先是推让，并举荐卫尉赵谟、益州牧刘焉、豫州牧黄琬、南阳太守羊续担任此职，但刘宏最终还是拜刘虞为太尉。当时官拜三公的人，都要往西园缴纳巨额礼钱，刘宏因刘虞一贯有清廉的名声，加上平定张纯叛乱有功，便特意免去刘虞的礼钱。
幽州本为穷州，需要青、冀两州补贴官务开支，但当时因战乱交通断绝，无法调度金钱。刘虞在幽州追求宽政，劝导百姓种田，从开放上谷的市场与外族交易及开采渔阳的盐铁矿取得收入，令百余万青州、徐州人流亡至此，安居乐业。刘虞虽为三公级的高官，但天*好节约，穿着破旧的衣服，一顿饭都不吃一道以上的荤菜。远近原本作风奢侈的豪族，都被他感化而改变了风气。
董卓专权之时，派使者授予刘虞大司马，进封襄贲侯。又拜刘虞为太傅，召他入朝任职。但因道路阻塞，任命竟不能够到达。
公孙瓒奉命征讨乌桓时，受刘虞的节度。公孙瓒只注重自己的部队强大，放任部曲侵扰百姓，而刘虞注重仁政，很关爱百姓，于是与公孙瓒之间逐渐出现了矛盾。