諸葛亮真正在軍事上有所作為，是在他指揮對魏國北伐的戰役中。這是檢驗諸葛亮軍事能力最重要的史實，也是古往今來爭議最多的焦點。劉備死后，其子劉禪繼位，丞相諸葛亮輔政，掌握了朝中一切大權。為了實現先主恢復漢室的宏愿，諸葛亮親自率兵數次北伐，與魏國交鋒。在《三國演義》中，這一段歷史被稱作“六出祁山”。但實際上諸葛亮率蜀軍多次北伐魏軍，路經“祁山”出兵的只有兩次。

諸葛亮率軍首次北伐是蜀漢建興六年（228）。他命令趙云、鄧芝等人從斜谷道（渭水支流的河谷）出兵吸引魏軍，自己則率大軍向祁山方向進攻。這一計策果然奏效，魏國的主力部隊被調離后，隴右的天水、南安、安定三郡（今屬甘肅）見諸葛亮的大軍壓境，紛紛投降。

一時關中大震，魏國上下驚恐，魏明帝曹睿連忙派名將張頜前往抵抗。諸葛亮派馬謖督軍在前，與張頜在街亭交戰。只知道“紙上談兵”的馬謖違反了諸葛亮的指示，指揮不當，被張頜打得大敗，大好的戰局盡失。諸葛亮無奈之下，“揮淚斬馬謖”，收兵回師，第一次北伐無功而返。

同年冬天，諸葛亮出兵散關（秦嶺北麓），第二次興兵北伐。蜀軍包圍了陳倉（今陜西寶雞），魏國大將軍曹真率軍來救。蜀軍糧草用盡撤兵，卻被魏國將領王雙追擊。諸葛亮率軍一戰，擊退敵軍，斬殺了王雙。此后不久，諸葛亮派將領陳式出兵攻打武都、陰平二郡，魏國將領郭淮救援。諸葛亮聞訊出兵支援陳式，打退郭淮，攻下二郡。

蜀漢建興九年（231），諸葛亮再次興兵北進，兵出祁山，遭遇魏軍統帥司馬懿的迎擊。魏軍知道蜀軍糧草不多，于是堅守不戰。蜀軍用“木牛流馬”運糧，無奈還是糧草不濟，最終退兵。

退兵途中，諸葛亮設計射殺了魏國名將張頜。蜀漢建興十二年（234），諸葛亮最后一次率兵北伐。蜀軍十萬出斜谷，在渭水南岸五丈原扎營。魏國司馬懿筑營阻攔，諸葛亮也分兵屯田，做長期對峙的打算。雙方相持了百余天，到了八月，諸葛亮積勞成疾，不久與世長辭。

諸葛亮數次北伐大都無功而返，因此惹來后世很多爭議。有人據此認為諸葛亮不善于用兵，一味地窮兵黷武，由此造成了蜀國國力的嚴重消耗，間接導致了蜀漢的滅亡。《三國志》的作者陳壽也認為諸葛亮不擅長軍事，作戰過于保守，因此對諸葛亮的評價是：“連年動眾，未能成功，蓋應變將略，非其所長！”

客觀來看，諸葛亮用兵偏重穩妥，習慣步步為營，而不善于出奇兵。史書記載，蜀漢大將魏延跟隨諸葛亮北伐，多次向諸葛亮請戰，愿仿照漢初韓信的故事，帶一支人馬作為奇兵。然而諸葛亮為慎重起見，始終沒有采納。過于求穩使得本已處于弱勢的蜀漢局勢很難有驚人的逆轉，但也不能因此一概否定諸葛亮的軍事能力。

縱觀幾次北伐，諸葛亮用兵雖未獲得實質上的勝利，但也沒遭到什么重大損失，這對于保存蜀國僅有的實力是非常重要的。而且從幾次與魏國交手的細節來看，諸葛亮總能用計巧取一些優勢，或斬殺對方大將，或奪取一兩個城池。因此，對諸葛亮軍事能力的綜合評價應為“合格”，但絕沒有千古流傳的那么“神乎其神”。