洪武初置
洪武十三年(1380年),明太祖因为以大都督府权力太大,在废丞相制的同时,为防止军权的过分集中,也废大都督府。改为中、左、右、前、后五军都督府,分别管理京师及各地卫所。五军都督府各设左、右都督,正一品;都督同知,从一品;都督佥事,正二品。以中军都督府断事官为五军断事官。
洪武十五年(1382年),置五军十卫参军府,设左、右参军。洪武十七年(1384年),五军各设左、右断事2人,提控案牍1人,并从九品。
洪武二十三年(1390年),升五军断事官为正五品,总治五军刑狱。分为五司,每司设稽仁、稽义、稽礼、稽智、稽信5人,均为正七品,各理其军之刑狱。同时,朱元璋为了防范统军将领的专权,又规定五军都督府对军队无调遣权,其调遣之权由皇帝直接掌管;兵部在军队中虽有任免、升调、训练之权,但不统兵。每逢战事,由皇帝临时委派专人担任总兵官,统率卫所部队出征,战事结束,总兵归还将印,军队归还卫所。
明朝立国之初,五军都督府的权力很大,各都督不仅负责管理卫所的训练与生产,还可参与到明朝中央军事决策中。朱元璋曾命令:“命五军都督府更定屯田法。凡卫所系冲要会及王府护卫军士以十之五屯田,余卫所以五之四。”并且,当时的兵部并无权过问五军都督府各事务。“祖制五军府,外人不得预闻,惟掌印都督司其籍。前兵部尚书邝野向恭顺侯吴某索名册稽考,吴按例上闻,邝惶恐疏谢。”