西北之重，重在甘肅。甘肅之重，重在河西走廊。河西走廊因為降水較為充足，土地肥沃，加上祁連山的冰雪融水，非常有利于農業的發展，所以先秦時期便有人群定居于此。
隨著人口的增長，到了西周，天水出現了中國最早的縣。行政區劃往往受人口的影響比較大，所以甘肅的政區變化便是以河西走廊為中心展開的。
除了人口、城市的影響，河西走廊的重要性更多地體現在它的戰略地位和政治意義。
西漢初期，中央王朝一直飽受北方少數民族的騷擾與欺壓。面對強勢勇猛的北方游牧民族，就連一代梟雄劉邦也只能以政治聯姻的方式換取短暫的和平。一直到了武帝時期，事情才有了轉機。少年將軍霍去病收復河西地區，對漢王朝的整個戰略防御體系有著舉足輕重的作用。
至此，漢王朝完全可以憑借河西走廊的地理分布，切斷北匈奴與西羌的聯系。之后張騫通西域，不僅一舉打通了中央王朝的陸上生命線，而且進一步突出了河西走廊對漢帝國的重大意義。
甘肅與陜西，在歷史上長期是一體的。先秦時期，中國分九州，甘肅和陜西最早便屬雍、涼兩州，一般合稱為“雍涼之地”。中央王朝在行政上，一般將陜甘地區統稱為“雍涼地區”，文化上自古便是“秦隴地區”。但陜甘地區的行政范圍實在是太大了，尤其是在政治版圖更大的中央王朝，陜甘地區幾乎囊括了中央王朝近一半的行政版圖，所以這里經常出現藩鎮割據的情況，威脅著王朝的統治與穩定。
后來統治者從中吸取教訓，于是直接把甘肅從陜甘中劃分出來，之后由中央直接控制甘肅，由此達到分化西北，同時監督少數民族叛亂的目的。
但是單獨成省的甘肅還是有點兒大。比如有清一代，清王朝在甘肅設布政司，但是當時甘肅下轄近三分之一的王朝版圖，包括今天的甘肅、寧夏、青海全境以及新疆的東部地區。
那么后來為何甘肅就成了現在這個樣子呢？與一個人有關。
民國十四年（1925年），段祺瑞命國民軍首領馮玉祥督辦甘肅軍務。經過一番軍事行動與統戰工作后，馮玉祥初步在甘肅站穩腳跟。但是由于甘肅地界少數民族居多，馮玉祥作為一個漢人軍閥，還是很難真正取得對他們的統治權。
所以馮玉祥經過一番謀劃后，向中央提出甘肅分省的議案。馮玉祥的動機當然不是為了國家的和平穩定，由于寧夏、青海兩地都是由回族將領控制，所以如果在兩地建省的話，中央將會空調官員來此任職，因為國民軍在中央有人，到時國民軍就有機會滲透進去。
另外一個，在馮玉祥督辦甘肅之前，蔣介石開了一個會，規定地方上每個省只能保留3個師的軍事編制。馮玉祥就想鉆空子了，因為如果寧夏、青海能成功建省的話，國民軍就能至少合法增加6個師的兵力了。想想就讓人激動。
因為北伐有功，馮玉祥看準時機于1928年正式將甘肅劃分為3省的提案送到了中央。蔣介石不得不考慮到馮玉祥的影響力，加上北伐確實欠了人情，另外當時內政部長薛篤弼就是馮玉祥派系的人，所以甘肅分省的提案毫無懸念馬上就通過了。
最后，寧夏、青海建省，而甘肅就保持像一個啞鈴的形狀，一直至今。
甘肅只所以如此狹長，是因為在清朝乾隆年間，把原歸陜西管轄的河東之慶陽、平涼、隴西、天水、隴南等地劃給了甘肅。最早的陜西在周初就有了，而最早的甘肅在元朝才出現，是甘州（張掖）和肅州（酒泉）兩地首字的合稱，當時主要管轄蘭州以西原西夏的地盤。如果清朝乾隆年間不把河東五地劃給甘肅，甘肅仍管轄元朝時所劃的區域，如今就不會有這么狹長了。如下圖所示，清乾隆之前，如今的甘肅省會蘭州，也屬于當時的陜西。