段韶在高欢生前,曾随高欢参与广阿之战、邺城之战、韩陵之战,消灭尔朱兆,后在邙山之战、玉璧之战中亦发挥作用。
高欢临终时,令段韶随次子高洋镇守邺城,并嘱咐长子高澄加以重用。高澄掌权后,段韶奉命继续镇守晋阳。
高澄回到邺城后,赐给段韶女乐十几人,黄金十斤,还有缯帛,封长乐郡公。
当高澄准备出征讨颍川时,他写信给段韶,要他留守晋阳,又封他为真定县男爵,并行使并州刺史事。
同年十二月,段韶跟随尚书左仆射慕容绍宗讨伐侯景,段韶于涡水两岸暗中顺着风向点燃干草纵火,打算阻止侯景撤退。
但侯景十分精明,他率领骑兵进入水中,然后跃出往后撤退,岸上的干草被水打湿以后,火便熄灭,让侯景侥幸逃出了生天。
在高洋代魏建齐的过程中,段韶曾代高洋试探斛律金对其簒魏的意见,可见段韶也颇得高洋的信任。
武定八年(550年)五月,高洋受禅即位,建立北齐,是为文宣帝。随后,段韶被另封为朝陵县公,又封霸城县侯,加位特进。
段韶上表请求归还朝陵县公,乞请封自己的继母梁氏为郡君。梁氏是在段韶的生母娄氏因病去世后入门的,她待段韶兄妹不错,故段韶与继母的感情融洽。
高洋嘉奖他,另封梁氏为安定郡君。段韶又将霸城县侯让给了自己继母所生的弟弟段孝言,其高尚的行为,因此受到当时舆论的普遍夸赞。
段韶与广武王高长弼不和。当高洋准备于天保元年(550年)底前往晋阳时,高长弼对高洋说:“段韶在晋阳拥有强大的兵力,恐怕他的行动会出人意料之外,岂可直接去他那里!”
高洋没有理会高长弼的劝告,继续向晋阳进发,等到抵达晋阳后,高洋就把高长弼的谗言告诉段韶,还说:
“像您这样忠诚的臣子,人们尚且有馋言,何况其他人呢!”
同年十月初九,段韶被加授为尚书右仆射。天保三年(552年),任冀州刺史、六州大都督,段昭任职期间,为地方百姓施行惠民政策,深得地方吏民的爱戴。
天保四年(553年)十二月,投降南梁的起义将领东方白额暗中抵达齐国边境宿预这个地方,他派人引诱边民,杀害长吏,致使淮、泗地区百姓骚动不安,地方局面混乱。
天保五年(554年)二月,高洋下诏段韶前去讨伐。段韶率军抵达后。适逢南梁叛将严超达带兵围攻进逼泾州城;
同时,南梁反将陈霸先又率众将要进攻广陵城,时任广陵刺史的王敬宝急忙遣使向朝廷告急;而另一名南梁叛将尹思令拥众万人,准备袭击盱眙这个城池。
一时间,整个淮、泗地区四面八方都是南梁反将的兵马,段韶的军队四面均被南梁国的叛军围困。