臣段业为“凉王”，史称北凉。
沮渠蒙逊为人阴狠毒辣，为了干掉段业，不惜牺牲兄长沮渠男成的性命，诱使段业杀掉男成，然后借“报仇”名义率部众又杀掉段业，自为北凉之主（401）。
其后，这位沮渠蒙逊左蹿右跳，见后秦灭后凉，大惧之下称臣，不久又反悔，结交南凉，向秃发氏称臣，一起进攻后秦。而后，蒙逊又与南凉翻脸，但被秃发氏打得大败，只得送质子求和。其后，沮渠蒙逊又附后秦，但只被封为西海侯。消停了一阵，他又带兵攻打秃发辱檀的南凉，最终占据了姑臧（今甘肃武威），并迁都于此。又过些时日，蒙逊又和西秦乞伏氏交战，竟也大胜，夺了好几个城镇。当时的夏主赫连勃勃听闻蒙逊厉害，也派使与之修好，互结婚姻。眼见结亲有利，沮渠蒙逊又与西秦和好，建立姻亲关系。公元420年，穷兵黩武的蒙逊竟也攻入酒泉，灭掉了西凉李氏，尽有凉州之地。最牛逼的时候，西域诸小国均向沮渠蒙逊称臣纳贡。
但小牛逼遇上大牛逼，沮渠蒙逊就软了。他派太子沮渠政德攻打柔然，大败而归，政德也被杀。不久，北魏越来越强，蒙逊就又向北魏称臣。拓跋焘待他不薄，封他为凉王，并可以“建天子旌旗”。老坏蛋东征西杀了三十多年，又当上了大魏的凉王，终于病死，其子沮渠牧犍袭位。
沮渠牧犍向南朝宋国和北朝魏国均遣使报丧，同时，送其妹兴平公主于魏国，被拓跋焘纳为右昭仪，魏国也加封他为“河西王”。南朝宋文帝也厚报其使，也加封他为“河西王”。
沮渠牧犍自小左右多儒生，深知臣藩之礼，同时孝敬南北两朝。继位之初，也谦恭下士，留心朝政。但这小伙子是匈奴人体格，荷尔蒙分泌旺盛，好色喜淫，恰恰是这么一个君王“小节”，导致了北凉最终的灭亡。
北魏太武帝为巩固邦交，出于好心，把妹妹武威公主嫁给沮渠牧犍。惧于强势，牧犍只得把发妻、从前西凉国主李暠之女安置于酒泉，以拓跋氏为正妻。估计拓跋焘的妹妹长相一般，牧犍娶回来，只当“菩萨”一样礼敬着，天天与他貌美如花的寡嫂李氏奸通，大乱人伦。
李氏这女人色胆也不小，为了长期和沮渠牧犍过小日子，竟派人往武威公主的吃食中下毒，北魏皇帝派御用“专车”载御医疾驰而至，才捡回妹妹一命，但已经落下了不小的残疾。大怒之下，拓跋焘要沮渠牧犍交出李氏，牧犍舍不得，送李氏于酒泉匿藏。
拓跋焘由此，顿起灭北凉之心。
廷议之时，大臣多反对伐北凉。因为北凉距北魏太远，都听说那里“土地卤薄，略无水草”，怕大军进攻时野无所掠，补给困难。又是司徒崔浩力赞伐凉，他引《汉书·地理志》上面的记载，说：“凉州之畜为天下饶，如无水草，牲畜何以生长。汉人绝不会在无水草的地方修建城郭，可以想见，凉州周遭必非荒凉之所。”
尚书李顺曾出使北凉十几次，他的话应该最公正。但李顺前后受沮渠父子金银无数，受人钱财，与人消灾，便反驳崔浩：“耳闻不如目见，凉州周遭荒凉无比，千真万确。”
拓跋焘大为犹豫。
北魏振威将军伊香发待群臣散后，向皇帝进言：“凉州如无水草，沮渠氏何以建国？众议纷纭，应该听崔浩之言。”拓跋焘一听，深觉有理，遂决议征伐。
太延五年（439，宋文帝元嘉十六年）六月，拓跋焘又亲率大兵出发，列表沮渠牧犍十二大罪，分军两道伐凉。大军之中，已故南凉主秃发傉檀的儿子秃发源贺自告奋勇当向导，熟门熟路，带魏军向从前的“老家”出发。
八月，北魏大军直抵姑臧，果然，城外水草丰美，和崔浩所讲一样。沮渠牧犍在向柔然求救的同时，又派兵抵抗，大败而归。不久，其侄沮渠祖城逾城降魏，秃发源贺又帮魏人招降了姑臧城外的鲜卑诸部。穷途末路，沮渠牧犍只得开城出降。北凉灭亡。
至此，中国北方十六国时代打上了一个休止符，一百多年以来，北方一统于北魏。中国南北朝对峙时期正式开始。
拓跋焘进入姑臧后，亲眼见北凉库府珍宝无数，士民丰殷，心中大喜。庆功宴上，这位雄才帝王叹道：“崔公一向智略不凡，他有胜利预见，我不足为奇；伊香发弓马出身，计与崔公相同，真可称奇。”
回平城后，拓跋焘忆起李顺先前说凉州荒凉没有水草的谎言，又因李顺定别官品不公，老账旧账一起算，把李顺赐死、抄家。
由于沮渠牧犍是自己的妹夫，拓跋焘饶其一命，带回平城后，令其在武威公主府居住，软禁起来。过了几年，有人告发牧犍与北凉旧臣谋反，拓跋焘当时心情不好，便下诏赐死了这位妹夫。