呂端（935---1000），字易直，幽州安次（現廊坊安次區）人。出生在官宦家庭，自幼好學上進，終成大器。 其祖父呂兗曾在滄州節度使劉守文下做判官。其父呂琦做過后晉的兵部侍郎。呂端以其父的官位蔭補千牛備身（禁衛官），后任國子主簿、太仆寺丞、秘書郎等職。
入宋后，曾任太常丞、 浚儀知縣、定州同判、成都知府、開封府判官、蔡州知州、開封知縣、 戶部郎中、大理少卿、右諫議大夫等職。宋太宗淳化四年（993年），拜為參知政事。是年底，左諫議大夫寇準也被拜為參知政事。咸平元年（998年）夏，呂端身體有病，請求辭去官職，宋真宗不允，卻免去了他進殿朝見的禮節。真宗親自到家中探望。咸平三年（1000年），呂端病卒，年66歲，贈司空、謚正惠。
北宋時期，宋太宗、真宗皇帝當朝的年代里，為臣兩代的呂端，從一名州縣地方官吏，逐步升至樞密直學士、參知政事和宰相。
呂端儀表俊秀，處事寬厚忠恕，善交朋友，講義氣，輕錢財，好布施。 處事理政才華出眾，逐漸為宋太宗所喜愛和重用。早在呂蒙正為相時，太宗就有重用呂端的想法。太宗與人商量，打算任用呂端為相，有人反對重用呂端，理由是呂端這個人“糊涂”。太宗根據自己多年體察，立即說：“端小事糊涂，大事不糊涂。”其實這個時候已堅定了任用呂端為相的決心。當時，太宗還作過一首釣魚詩，其中有兩句是這樣寫的：“欲鉺金鉤深未達，磻溪須部釣魚人。”這詩中的意思是說，對于任用呂端當宰相的事，已無可爭議，宰相職位非呂端莫屬。數日后，太宗讓呂蒙正改任參知政事，讓呂端當了宰相。
呂端任宰相后，辦事持重穩當，公道而廉潔，深得朝中朝外各方面的好評。呂端當宰相是至道元年（公元995年），由參知政事的官位上改任。當時呂端已60歲，太宗曾后悔自己對呂端重用太晚。
即使這樣，太宗也曾有過顧慮，為了平衡各方面的關系。特別對寇準的使用，恐有呂端官居相位以后在寇準之上，使寇準心中不平，就采取了一個臨時過渡的辦法，作為權宜之計。太宗讓時任參知政事的寇準與宰相呂端“分日押班知印，同升政事堂。”也就是說，讓呂端和寇準隔日輪流執掌相府大計，他倆平起平坐，太宗則從旁加以觀察。
當時送到朝中的奏折很多，而朝中也有各種各樣的意見，沒有個統一的決斷性的意見，“惟端罕所建明。”經過一段觀察之后，太宗戒諭：“自今后公事必經呂端詳的，乃得聞奏”。這一道諭旨，無疑是太宗對呂端的更大信任和重用。呂端感到事已至此，再謙讓就不妥當，于是他未加推辭欣然從命，履行公事。實際上這時呂端才真正成了名副其實的、有職有權的當朝宰相。以致數年后呂端的名聲遠揚，而且傳至后代，被稱為一代名相。
“大事不糊涂”這句話，原出自宋太宗體察呂端后對其處事為人的一種無可辯駁的評價，也確實反映了呂端的人品和才干的真實情況。從歷史書籍中能找到的，能說明呂端“小事糊涂，大事不糊涂”的事例有以下兩件事：
其一，太宗曾向呂端問過計策，說自從漢唐以來，有過封乳母為夫人的事情，要呂端拿個主意，如今該怎么辦才好呢？呂端回答說：以前漢唐朝代跟現在不同，那個時候或者是因國大，或者是因為名聲好，才那樣做的，都是事出有因的。可以說，法無定法，禮無定制。呂端這番話使得太宗大開心竅。
其二，呂端在相位上也就是幾年的時間，他主動奏請圣上將相位讓給寇準。由寇準接任宰相，呂端自己又做了參知政事那個有相職無權的謀事官職。后來寇準也做了參知政事，按理說呂端在前，寇準在后，其名次排列是沒有什么爭議的。可是呂端偏偏奏明圣上要求把自己列在寇準之后，并得到了恩準。呂端不計名利地位，遇事顧全大局，處事以清廉簡潔為原則，在當時傳為佳話。
有這樣的事實，加之平時呂端臨朝很少發表高談闊論，有些人誤認為呂端是糊涂人，然而宋太宗認為這都是一些小事，呂端只不過是“小事糊涂”罷了，遇有“大事不糊涂”。
太宗的話是言出有據的。宋時，天下戰事此伏彼起，內部也不夠統一。西夏李繼遷造反，攪得西部邊境不安，宋出兵攻夏。宋保安軍逮住了李繼遷的母親，宋太宗本來想把她殺了。為此，單獨召見寇準，詢問他有何意見。當時，寇準沒有不同意見。呂端猜得朝中一定是有重大事情在謀劃當中，就問寇準：“太宗是不是提到找我呂端商量事情的意思？”寇準說：“沒有！”
呂端心想口出：“邊關上平常的事情，不必讓我知道，若是有軍國大事，商量大的計策，我呂端身為當朝宰相，就不可不知道。”寇準聽了呂端這番話，覺得這件事確實重大，就將方才太宗召見他是為了處置李繼遷之母的事情如實地告訴了呂端。呂端問寇準：“圣上打算怎么處置呢？”寇準回答：“圣上的意思是把她在保安軍北門外斬首示眾，打算用這種處置方法來鎮戒那些造反或叛逆的人們。”呂端聽到這個地方忙說：“若是這么處置了，可不是什么好辦法。”于是呂端又上朝本，提出不要斬殺李繼遷母親的意見。為了說服太宗，還用秦、漢項羽欲殺邦之父的故事相勸說，他說：“李繼遷是個反叛之人，今天殺了他母親，明天能逮住李繼遷本人嗎？如果不能的話，不就結下了更大的冤仇了，不是更加堅定他的反抗之心了嗎？”太宗聽了呂端的一番話，覺得很有道理，問道：照你這么說，對李繼遷的母親該當如何處置呢？
呂端見太宗有了活話，便把自己的想法講出來，他說：“以本人想到的不算高明的辦法，請圣上想想，是否把她放到延州那個地方去，派人好好護養著她，以此招睞李繼遷回心轉意，不再造反。這樣的話，雖說李繼遷不可能馬上就降宋，但是，我們終究可以用他的母親在宋來拴住他的心。至于他母親的生死大權，還不是掌握在我們的手里”。
太宗聽了呂端的這種深謀遠慮的想法，心里想呂端真是聰明過人。我朝中有這么多大臣，沒有人提出過呂端這樣的高明意見，差一點誤了我的大事。采納呂端的意見，將李繼遷的母親放在延州，并派專人侍奉起來，直到病死延州。后來李繼遷也死了。李繼遷的兒子德明念在宋朝對侍他奶奶的情份上，就歸順了宋朝。宋朝待他也不差，讓他當了宋朝的下傳侍郎兼兵部尚書的官職，終于使夏歸宋。
還有更重大的事件，在擁立太子真宗繼位的問題上，發生的擁護和反對的斗爭。宋太宗在世的時候，立真宗為太子，并且讓呂端負責太子的學習和生活起居等項事宜。
在太宗病重時，有個內侍叫王繼恩，怕太子繼位后對他不利。就起歹心邪意，聯絡參知政事李昌齡，殿前都指揮使李繼勛、知制誥胡旦等人密謀另立太子，以便讓他們認為合適的人繼承王位。
太宗的病不治而終，朝中不可一日無主。皇后命王繼恩召見呂端。呂端覺察到可能有什么變故，把王繼恩鎖在自己府中，派人加以看管，不許他出入。呂端被召到朝廷后，皇后對他說，現在皇上不在世了，按說立太子就是為了讓他繼承王位，這也是合乎情理的事情，看看現在應該怎么辦才好呢？呂端聽罷皇后的話，毫不猶豫地說：“先帝立太子就是為了今天，現在先帝棄天下而走了，我們怎么做違背先帝之命的事情呢，對于這么事關國家前途命運的大事，不能有什么異議。”皇后聽了呂端的話，讓太子到福寧庭中坐上皇位。
太子真宗繼位后，第一次登殿時，垂簾接見群臣。當呂端率眾臣前來殿中晉見時，一看是這個樣子，硬是站在殿下不拜。皇后問呂端因何不拜？呂端說：“請把簾子卷起來，讓太子坐在正位上，讓我們看清楚了再拜。”皇后讓真宗照呂端所說，卷了簾坐上正位。呂端看清楚皇位坐的確實是太子后，才率群臣跪拜，三呼萬歲。
真宗繼位后，每次接見朝中大臣，對呂端很恭敬，肅然拱揖，不呼其名；因為呂端長得體大肥胖，宮廷臺階稍高一點的，真宗特別關照有人扶他上去。遇有奉召到殿中商討軍國大事時間長了議論不休的時候，呂端卻能說出輕重緩急，并且條理分明，條條是道。呂端的意見每次都被真宗所采納。
