就在清政府批準《馬關條約》的當天，1895 年 5 月 2 日，廣東舉人康有為在京城聯合十八省舉人“公車上書”，堅決反對《馬關條約》，要求拒和、遷都、練兵、變法。由此，轟轟烈烈的戊戌維新運動揭開了序幕。
李鴻章對于維新運動，抱有同情和支持的態度。甲午戰敗，李鴻章開始反思，渴望清國強大起來的想法也愈來愈強烈。李鴻章知道日本是通過變法才壯大起來的，他也研究了很多關于西方社會制度的資料。他曾在給英國傳教士李提摩太的一封信里，明確表示希望中國能夠走向“公天下之局”。
1898 年，光緒帝命令翁同龢、李鴻章、榮祿等總理衙門五大臣約見康有為。李鴻章問起康有為：如果六部（吏、戶、禮、兵、刑、工）都撤掉了，那么舊的規章制度是不是也要撤呢？康有為回答說：現在是世界列國并立的時代，而我們現在的法律和官制，都是過去的，中國之所以弱，就在于此。最好都能夠撤去，即使一時間不能完全撤去，也應當考慮斟酌修改。
李鴻章聽后，沒有說話，事后他對別人說：我不如康有為，廢掉過去的舊政策和體制，是我想了幾十年也沒有做到的，他卻可以，我感覺到深深的慚愧。
6 月 11 日，光緒帝下決心全面變法，榮祿一直阻撓提拔康有為，并向慈禧太后告狀。李鴻章得知后，曾經兩次透露給康有為，要他小心。后來，聽說有人要殺康有為，李鴻章又派人告訴了康有為。他建議康有為“養壯士，住深室，簡出游”，以策安全。光緒帝為了保護康有為，讓他出京，李鴻章派人送行。李鴻章終于明白了：大清國前途茫茫，只有變法一條路了。
慈禧太后發動戊戌政變之后，康有為和梁啟超二人逃到日本。此際，李鴻章剛好被派任兩廣總督。慈禧下令搜捕康有為和梁啟超的親戚，刨平他們的祖墳。李鴻章對這樣的做法非常不滿，一直拖著沒有辦理。李鴻章回復朝廷說：新黨在香港定做戰袍和勇衣，提出要“勤王”，現在平墳，恐怕為他們找到生事的借口。我看還是緩些時候再辦理。后來，他對自己的部下說：“我決不做刀斧手。”
有一天，慈禧太后拿著厚厚一摞彈劾李鴻章的奏折問李鴻章：現在有人揭發你為康黨，你怎么說？李鴻章回答說：臣的確是康黨。我認為六部都可以廢掉，如果舊的政策能夠讓中國富強，那么中國早就強大了，還用等到今天？如果說主張變法的都是康黨，那么我無可逃避，臣就是康黨。慈禧聽了李鴻章的話，什么也沒有說。
后來，李鴻章委托伊藤博文等向康有為和梁啟超捎去口信，勉勵他們要努力學習西學，將來報效國家。有一次，李鴻章對伊藤博文說，這次康、梁變法之失敗，只因“變法太急，用人不當”。
