說罷，他再不多做耽擱，揚起馬鞭連夜逃出咸陽城。
吳憂所猜不差，李斯果然沒有聽從他的建議，與一干大臣在書房密議之後做出了彈劾趙高的決定。
第二日，李斯聞得胡亥在甘泉宮欣賞歌舞，他便領着一眾大臣前去求見。
趙高已知事情敗露，不敢去見李斯，躲在府內閉門不出。李斯等人也不直接去找他，而是在甘泉宮外守候半日，卻始終不見胡亥傳召。李斯無奈，只得當街擺上桌案，奮筆疾書，寫就了一份彈劾趙高的奏章。
李斯在奏章內除了痛陳趙高素日裏專權跋扈、壞事做盡，還把趙高比做古時篡奪宋國王位的子罕和篡奪姜姓齊國而自立田姓齊國的田常，提醒胡亥，趙高是狼子野心，不可不防。
奏章通過內侍轉交給胡亥，胡亥正玩的盡興，聽聞內侍說有丞相上疏，皺了皺眉頭，接過奏章簡略的看了一遍，把奏章隨手向旁邊一丟，對內侍說道：「你去把丞相傳召進來，朕要見他。」
李斯在甘泉宮外等了半日，為的就是胡亥能夠召見他，一聽內侍說陛下宣召，連忙整了整衣冠，跟着內侍走進甘泉宮。
當他來到宮內的時候，歌舞已經撤下，大殿中只餘下胡亥和一班內侍，不過偌大的殿堂里還殘留着歌女特有的鉛華香氣。
「臣李斯叩首頓拜，願陛下萬壽無疆、國祚綿長！」見到胡亥後，李斯先是跪伏在地上，頓首叩了幾叩，在胡亥讓他起身後，他才坐到一旁。
李斯剛一落座，還未等他開口，胡亥就搶先一步對他說道：「丞相上疏字字血淚、感人至深，只是朕竊以為此番必是丞相與趙郎中令之間出了誤會。郎中令才學博廣，滿朝文武中，除丞相之外，再無他人可居其右；且郎中令素日裏替朕操勞政務，每日早起晚休，甚是勤勉，從未有失職，對朕的忠心，可表日月，丞相日後切莫再對他有所猜忌。」
胡亥的意思已經再明顯不過，就是讓李斯日後不要再找趙高的麻煩，可李斯今日前來，為的卻是扳倒趙高，怎會輕易就打道回府。他連忙身體前傾趴伏在地上對胡亥說道：「陛下以為趙高忠心不貳，臣竊以為是趙高為了篡奪大權而蒙蔽陛下，還望陛下千萬謹慎！」
胡亥對趙高深信不疑，見李斯始終不肯放棄彈劾趙高，他捻着下巴，低頭沉默不語。
「趙高阻止陛下上朝，實為架空陛下篡奪大權，最終謀奪王位。若是陛下再不親臨朝政，依舊將朝務交於趙高處置，將來他一旦形成氣候，即便大秦鐵騎平定天下群盜，我大秦江山也難免不會淪為他的囊中之物！」李斯見胡亥沉默不語，知他深信趙高，連忙接着說道：「陛下，先帝建立大秦，只願大秦江山千世萬世承載不絕，千萬不要因趙高而致使先帝願望落為泡影！」
說到後來，李斯的話越來越重，胡亥的臉色變了變，卻沒有當場發作，而是對李斯擺了擺手說道：「丞相，你且回去，今日你所說的話，我會用心考慮。」
胡亥下了逐客令，李斯無奈之下只得退了出去。
李斯離開後，胡亥即刻擺駕回宮，在回宮之前，他對一個內侍說道：「去，把趙高叫來，我有話要對他說。」
胡亥傳召趙高，在這種敏感時期，趙高自然不敢不去。胡亥剛回到後宮，趙高已經迎侯在那裏。
「趙高，李斯上疏參你，說你把持朝政意圖謀反。」胡亥下了車輦，在向宮內走的時候淡淡的對跟在身後的趙高說道。
「陛下！」趙高聽胡亥這麼一說，「噗嗵」一聲跪倒在地上，痛哭流涕的說道：「臣對陛下忠心耿耿，天地可表，丞相如此說，是要陷臣於不忠不義啊！」
胡亥回過頭，瞟了趙高一眼說道：「你起來吧，我自然是信你的，若是不信你，今日恐怕你早已人頭落地。要你過來，只是想提醒你，千萬不要再招惹李斯，以免他將你暗中謀害。」
趙高並沒起身，而是伏在地上痛哭道：「陛下明鑑，如今丞相謀反，物證、人證皆在，他倒反咬微臣一口，意圖謀害微臣。如今朝政多由微臣處置，李斯所忌憚者僅臣一人而已。他今日彈劾我，目的就是把我扳倒，一旦我失勢，再無他人能夠節制李斯，屆時恐怕他就要開始造反了！與我有如此利害關係，他如何容我？」
