320年六月，擅長旁門左道的劉弘作亂，張寔被刺殺而死，凡在位七年，諡號昭公。
部下以張寔子張駿年紀尚幼，擁立其弟張茂繼位。
在張軌、張寔執政期間，涼州地區政治開明，社會安定。都城姑臧為西北政治、經濟和文化中心；河西走廊為東西陸路要道，商業繁榮，農業和畜牧業也較為發達。
西晉滅亡後，大批內地流民相繼到來，為涼州地區了豐富的勞動力，並傳播了先進的生產技術、經驗，使涼州的社會經濟更加發展。當時，在胡夷遍地的中國北方，涼州為保存漢族傳統文化作出貢獻，並且，涼州還是中國接受西域文化最早的一個地區。
張茂，字成遜，為人高雅謙遜，恬靜而好學，晉國朝廷曾兩次征召他入朝為官，全部辭不就任，遂留下不好俗世功名的美名。張寔被殺後，繼任使持節、平西將軍、涼州牧。
筆者認為，哪裡是不好功名，分明是不敢去！和平時，去了是質子；戰亂時，去了白送死。西晉滅亡在即，張寔辭官回家，張茂自然不來。況且，此間自有富貴，何為遠乎？死賴在涼州不走。
張茂在位五年，借民謠“手莫頭，圖涼州”，沉重打擊過涼州豪門大族；攻克隴西、安南地區，置秦州郡，擴充了涼州版圖。此外還蓋了兩套房（靈鈞台、靈鉤台），投過一次降（前趙劉曜），無其他貢獻，連兒子都沒生出來。324年5月，張茂因病去世，死前拉著侄子張駿的手交代“謹守人臣之節，無或失墜”，諡號成。由於已經向前趙投降，劉曜亦遣使到來，贈太宰，諡成烈王。
遲來了五年的涼州牧終於回到了張駿的手裡。幸也，叔父沒有兒子！
張駿，字公庭，不僅長的帥，而且很聰明，十歲就能寫文章，隻是十三歲時還是因為年幼與涼州牧失之交臂。為人卓越不羈，喜歡微服出遊，不僅白天遊，晚上也常走街串巷。國人得知，爭相效仿，遂成風俗。
看得出，張駿人緣還是不錯的，風評也好，至少百姓們並不厭惡他在大晚上出
來四處溜達，民風彪悍之地，居然沒有針對張駿的攔路搶劫、打悶棍的情況發生。
正是在張駿的模範帶頭作用下，姑臧城內，晚上逛夜市的人比較多。
張駿繼位時，涼州地區和東晉的聯係被完全切斷，已經沒有辦法向朝廷彙報情況並討得封賞，不過晉湣帝時派來的使者尚在，俗話說“欽差所至，如朕親臨。”遂使欽差拜張駿為使持節、大都督、大將軍、涼州牧、領護羌校尉、西平公。前趙劉曜依然遣使來賀，冊封張駿為涼州牧、涼王。
對於兩方的冊封，張駿選擇全部接受。那時那地，無論張駿是怎樣地心係母國，堅信正統在晉，都無法改變已經和晉帝國長久失聯的事實。況且，當初劉曜興兵來犯時，其叔父張茂確實曾表示臣服，否認不了，也沒有必要否認，以免留人話柄，甚至再動刀兵。張駿不僅接受了前趙冊封，而且派出使者與前趙建立了友好聯係。
不是涼州背叛了晉國，而是晉國拋棄了涼州。
張駿的官職是沒有得到過晉帝國正式冊封的，也就是說，張駿對涼州的統治雖事實存在，但在法理上卻不被認可。
很著急，從市井小民到朝中文武官員都知道，世代為晉臣的張氏政權傳到張駿手中的時候，居然沒有被朝廷正式冊封過，甚至都不知到他的存在。
古人有雲名不正則言不順，言不順則事不成。如果有人趁機造了張駿的反，理由很充分，張駿這個名不正的涼州牧不占據正義的位置。
如何聯係上東晉，獲得法理上的認可和冊封，成了張駿繼位之後的頭等大事。
當時的涼州，完全被敵國包圍，無論從哪個方向前往東晉，都將經過敵占區，危險重重。幾經權衡之後，張駿把目光鎖向當時占據巴蜀之地的成漢帝國。打算借道成漢，由川蜀之地入東南，和東晉取得聯係。
為達到目的，張駿巴結了李雄整整九年，期間，寫親筆信聯絡感情有之；派遣使團進行友好訪問有之；最後，實在沒辦法的張駿以向李雄稱臣為條件，才換得一張通行證，即便如此，前往建康的使者依然差點被李雄沉江殺死。公元333年，涼州終於和東晉朝廷取得正式聯係，宣誓效忠後，張駿的地位獲得認可。
治理涼州期間，張駿善用人，勤政事，大力發展經濟，減輕刑罰。在他的治理下，涼州地區國富兵強，成為中國北方少有的繁榮地區，涼州百姓因其賢明，稱之為“積賢王”。
軍事上，張駿極力擴張，向西降服龜茲、鄯善，稱霸西域；向東儘有隴西；趁前、後趙交兵之機，攻占河南地（黃河以南，非現在河南）。疆域達到極盛，地域包括今天的甘肅、寧夏、新疆、內蒙古、青海各一部，史載其疆域“南逾河、湟，東至秦、隴，西包蔥嶺，北暨居延”。
在位期間，後趙一統中原，張駿畏其強大，向後趙石勒稱臣。
345年，張駿自稱大都督、大將軍、假涼王，並仿照東晉官名設置官職。
346年5月，張駿病死。私諡文公，晉穆帝追贈諡號忠成公。其子張重華繼位。
張重華，字泰臨，張駿第二子，為人性情寬和，端莊沉穩。繼位時年僅十六歲，自稱持節、大都督、太尉、護羌校尉、涼州牧、西平公、假涼王。仍沿用晉湣帝“建興”年號。
張重華在位期間，辦過的最值得稱道的一件事就是重用了一個叫謝艾的儒生為大將。在後趙虎狼之師的進攻下，正是由於謝艾的存在，前涼政權得以保全，也成就了一代儒將的千秋功名。