崔遵度，自幼纯介好学，7岁就从叔父学习经学，时常向叔父提一些有关春秋编年、汉书纪传的问题。他叔父对人说：“这个孩子将来一定是可以成名的！”太平兴国八年（983）崔遵度中进士，初任和州主簿，后改任临汾主簿。绥州无定河经常泛滥，他作“纪”以盼整治。宋真宗端拱初年，迁转运副使。朝廷新建秘阁，崔遵度以文才出众入选，擢为著作佐郎。淳化年间，迁殿中丞，又出任忠州（今四川忠县）知州，当地农民暴动，袭占州城，崔遵度投江尽忠，被部下救起。因守城失利，他被降为崇阳（今湖北崇阳县）县令。咸平初年，恢复原品衔，授为太子中允。

真宗景德年间，朝廷决定编修太祖、太宗两朝《国史》，由于这是宋朝第一次编修《国史》，因此格外慎重，崇政殿在全国官员中选拔能胜任此举的人。崇政殿调阅崔遵度所著的文章后，十分高兴，于是召入舍人院。不久改任为太常丞，供职史馆，与路振同为编修官，负责两朝《国史》的编修。大中祥符元年（1008），又受命同修当朝皇帝真宗的《起居注》，进为博士，再授崔遵度为左司谏。

崔遵度平日沉默少语，与世无争，淳澹清素，淡泊名利。掌修史书十余年，恪尽职守。

祥符七年，宋真宗在京都开封之东郊建坛祭天地及太祖、太宗二位先帝，崔遵度与张同为典记。祥符九年，皇太子、寿春郡王赵祯（即后来的宋仁宗）开府，真宗命宰相择选德才兼备之士辅弼，朝中大臣一致推举崔遵度担当此任，于是他与张士逊同为太子赵祯之友，改任户部员外郎，赐金紫光禄大夫。真宗亲作七言诗一首以赠。两朝《国史》修成后，崔遵度改授吏部员外郎。不久又升礼部郎中，充咨议参军，又兼史部吏左谕德。天禧四年（1020）病逝。