四月二十八日，從平壤趕來支援的四萬多敵軍援軍見蓋牟城被唐軍攻克，就改變計劃移師遼東城。
李世民的鑾駕到達懷遠鎮，正好收到李積發來的攻克蓋牟城捷報，龍顏大悅，立即下詔命：
“嘉獎唐軍收複新城、玄菟城、蓋牟城三城的有功將士；
詔命將蓋牟城改名蓋州。”
五月四日，李積率唐軍主力近三萬人在距離遼東城三十裡處安營紮寨後，就不歇氣地帶著諸位將領到遼東城外偵查，看著遼東城城池是南北走向，城牆高聳，城池麵積約11平方公裡，西鄰太子河，東有平均三米深的大遼澤，遼東城內五萬餘高麗守軍正在嚴陣以待。不由地對諸位將軍感歎道：
“諸位將軍，遼東城係漢代遼東郡郡治──襄平城，三國時司馬懿平遼擊敗公孫淵後，就放棄該城將漢人內遷，隨後被高麗侵占，改名為遼東城。當年隋煬帝楊廣率領十幾萬大軍打不下遼東城，可見遼東城城防的堅固。諸位將軍有何良策攻占遼東城？”
任城王李道宗獻策道：
“孫子兵法雲：強而示之以弱。明日我率領4000騎兵去遼東城外挑戰，高句麗守軍以為自己有五萬多軍隊，以一對十，就有必勝的把握，一定會傾巢出動，我4000多騎兵故意邊戰邊退以麻痹敵軍，等我軍快退到唐軍軍營時，大帥您率埋伏著的唐軍步兵隊伍出擊，一舉消滅敵軍後，乘勢占領遼東城。”
李道宗當即表示讚同。
次日上午，李道宗依計帶領著4000多騎兵到遼東城下挑戰，高麗守軍看到唐軍僅4000騎兵，就非常輕視，傾巢出動出城殺向李道宗騎兵團，李道宗不愧是大唐名將，充當敢死隊隊長，以一對十、毫無畏懼。李道宗率領大唐精銳騎兵都高舉唐橫刀殺向敵軍，衝鋒陷陣、幾番進出如無人之地，一下子衝散了高麗軍隊陣形，但高麗憑借人多勢眾，穩住陣型，將這支唐軍靜靜地包圍在裡麵，誓將唐軍徹底吃掉。約摸打了兩個時辰，由於高麗士兵實在太多了，唐軍騎兵殺掉一批，又源源不斷地衝上來一批，漸漸地有些不支，唐軍騎兵死傷數百人。
李道宗看到高麗軍隊已經上鉤，就故意率軍邊打邊撤，高麗軍隊尾隨不放，就這樣一直撤了三十裡，突然戰鼓聲聲，李積率領早已埋伏好的唐軍主力從道路兩側殺出，高麗軍隊正在追擊著唐騎兵，冷不防唐軍步兵殺到麵前，頓時軍心大亂，被唐軍斬首三千多人，剩餘的高麗軍隊扭頭向遼東城潰逃，唐軍尾隨其後猛追。
當高麗軍隊潰逃到遼東城時，因吊橋擁擠，潰兵們爭相過橋，自相踩踏及唐軍從背後追殺，又被斬首2000多人。當唐軍追擊到遼東城壕溝前，高麗敗軍已逃入城內，閉門不出。
李積抓住機會，率軍將方圓300裡內的高麗據點、要塞掃蕩一空，將遼東城團團圍住成一個孤城。
由於唐軍連續戰鬥一個多月，全軍上下已經是疲勞至極，李積命令唐軍休整了七日。五月十三日，李積命令唐軍向遼東城發起攻城，高麗守軍拚死抵抗，唐軍將塔樓、撞車、拋石機、重型連弩車等重型攻城設備全部用上，但高麗守軍拚死抵抗，唐軍多日連續不斷地攻城都未奏效。
五月十二四日，李世民率四萬唐軍渡過遼水。在唐軍通過行軍橋後，李世民命令全軍火速趕往遼東城；同時命令燒毀行軍橋，表示唐軍此次出征不破遼東城就馬革裹屍的決心。
五月十七日，李世民、李積、張儉等會師遼東城。李世民下令拆除遼東城外由十幾萬具隋軍屍骸築成的京觀後，下令繼續全麵進攻遼東城。
第一日，李世民親自背土運土，帶領幾萬名唐軍在重裝步兵、弓弩兵的掩護下，將遼東城護城河填埋掉。
第二日至第三日，李世民命令用數百尊拋石機，晝夜不停地將巨石砸向遼東城城牆，導致敵軍根本不敢在城牆上行走。但是遼東城仍然是“城堅強”而未攻破。
五月二十日，李世民召集作戰會議，商討如何攻陷遼東城。
在會議上，諸位將軍都對遼東城無計可施而默不作聲。
李世民就問詢袁天綱道：
“袁愛卿，你看如何破城？”
唐軍一連進攻遼東城八日，都沒有攻進去，袁天綱這幾日也在思考攻城策略，這時候李世民問起，他將自己的想法說出來：