公孙瓒还多次抢劫刘虞赏给部族首领的财物，刘虞上书朝廷历数公孙瓒的罪状。
公孙瓒也不甘示弱，也向朝廷上书，说自己出兵剿匪，刘虞却不给自己供应军粮，两人告状的文书，一封接一封，比着往长安送，在文书里互相攻击，将笔墨官司打到皇帝那里。
之前两人就看对方不顺眼，这下彻底闹翻，双方都恨不得置对方于死地。
当时幽州的治所在蓟城，公孙瓒因为讨厌刘虞，也不在蓟城住了，自己在蓟城东南又修了一座小城。刘虞几次派人来请公孙瓒吃饭，公孙瓒推说自己病了，说什么也不去。
刘虞见讲和不成，决心出兵武力解决公孙瓒，以实现他的幽州永久和平。
趁公孙瓒的部队分散在外，初平四年（193），刘虞将自己能调动的各地驻屯兵，全部十万兵力集中起来，亲自率领部队将公孙瓒的小城团团包围。
发兵前，从事程绪劝他不要出兵，刘虞当众将其斩首示众，拿程绪的人头祭旗，刘虞还对部下说，此次行动，只杀伯珪，余者不问。