兵部尚书相当于现在的国防部长，总参谋长和后勤部长的总称。兵部尚书是六部尚书的其中之一，别称为大司马，统管全国军事的行政长官。兵部尚书主兵籍、器仗，安史之乱后，中央政权削弱，尚书诸司成为闲曹，所谓“兵部无戎帐”“一饭而归，竟日无事”。明代正二品，清代从一品。明代兵部尚书称本兵，既管军政又管战略，威权极大。

唐末五代以来，兵部尚书的职权被“枢密使”分走了大部分权力，直到元代，军事机构的重心都在枢密院，兵部形同虚设。北宋前期的兵部尚书空有官员的级别待遇，没有实际的权力。宋神宗时期进行了官制改革，三省制恢复，兵部的职权得到部分的恢复，但实权与唐代比起来依然相差甚远。

清朝的兵部尚书是不掌握兵权的，在很多时候他们都是一个军队后勤的最高长官，平常打仗或者正常行军训练的粮草都是由他们调动、补给的，军队调动的线路、有关于军队内部将领官职的升降、任免都是由兵部尚书掌握大权的。

明清时期废除宰相，兵部尚书地位得到大大提升，为正二品。由于枢密院被废，全国军事机构的重心落在了兵部，兵部尚书的职权得到加强，成为了全国最高军事领导机关，这个时期，它需要负责制定军事计划，管理武官的考核任用，组织军队训练，掌管军籍军户，传达皇帝军令和依令调遣全国军队等事务。