不久，關羽就離開曹操，投奔在袁紹麾下的劉備。
劉備在得到諸葛亮後，越來越器重諸葛亮。
關羽、張飛對此事感到不悅，劉備解釋道：“我得到了孔明，就像魚得到了水，希望諸君不要再說了。”關羽、張飛才停止了抱怨。
建安十三年208年），劉備投靠劉表，屯兵於新野。
曹操率領大軍南下，劉備南逃，另遣關羽乘數百艘船駛向江陵會合，但劉備於途中當陽長阪坡被曹操軍追至，幸而關羽駛至漢津，一同乘船至夏口。
劉備聯合孫權擊敗曹操後，曹操留曹仁等防守荊州。
於是，劉備又與孫權大將周瑜夾攻曹仁，命關羽絕北道。
後來，劉備又向南收取荊州南部四郡長沙、零陵、武陵、桂陽）。
關羽被拜為元勳，受封襄陽太守、蕩寇將軍。
此時，襄陽實為曹操勢力範圍，由樂進駐守，所以關羽駐兵於江南。
在此期間，關羽重修了江陵城。
建安十六年211年），劉備入蜀，助劉璋防禦張魯，讓張飛、趙雲、諸葛亮與關羽共守荊州。
建安十八年213年），劉備與劉璋決裂。
建安十九年214年），劉備攻打雒城時，軍師龐統中矢身亡。
劉備乃召張飛、趙雲、諸葛亮入蜀支援，關羽駐守荊州。
劉備平定蜀地後，以關羽董督荊州事，授權掌管荊州地區劉備控製的部分，包括荊州南部四郡和從東吳借來的南郡，關羽事實上鎮守荊州五郡。
建安二十年215年），孫權知道劉備已奪得益州，希望取回荊州。
劉備卻說：“當得到涼州時，便會把荊州交還。”
孫權對此十分怨恨，便派魯肅索要荊州。
孫劉兩方的將領在陣前“單刀會”，據理相爭但最終不歡而散。
建安二十三年218年），太醫令吉本、少府耿紀、司直韋晃等人謀反。
不久，事情敗露，幾人被曹操所殺。
曹操曹仁行征南將軍，討伐關羽。
曹仁鎮守荊州期間，大肆征調徭役，荊州境內的軍民苦不堪言。
已經降曹20年的宛城百姓們，最終被曹仁逼反。
宛城守將侯音與衛開與吏民共同反曹，與關羽聯合。
曹仁率軍前往平亂，攻破宛城，將侯音斬殺，並且屠城。
建安二十四年219年），劉備軍與曹操軍相爭漢中，曹操的將領夏侯淵被劉備大將黃忠所斬。
曹操親提大軍來征漢中，劉備據守，黃忠又在漢水劫去糧草。
曹操無奈隻得退出漢中，劉備遂占據漢中。
同年七月，劉備自稱漢中王，任命許靖為太傅，法正為尚書令，關羽為前將軍，張飛為右將軍，馬超為左將軍，黃忠為後將軍，並派益州前部司馬、犍為人費詩去關羽駐地授予關羽官印。
早在建安二十三年218年），陸渾民孫狼等苦於徭役，叛上作亂，南附關羽。
而在建安二十四年219年）八月，於禁等七軍覆沒後，自許都以南的諸多山賊紛紛遙受關羽印號，為關羽的支黨。
甚至連曹操所任命的荊州刺史胡修、南鄉太守傅方投靠了關羽，其聲勢一度威震華夏！
.