宋代太尉是武阶官之首，相当于一国的国防部长。宋朝时期，就有王旦、吕夷简这两位宰相退休后被加了太尉这一官衔。太尉一职设于秦朝，秦始皇称帝后设三公九卿，其中三公便是丞相、御史大夫、太尉，太尉属于中央的掌管军事的最高长官，太尉是作为皇帝的军事顾问或者是高级参谋，起到一定的防止皇帝军事决策失误的作用。

中国古代的政治架构和官职的设置是在不断变化的，就算是同一朝代，同一职能的官职，也常常会有所变化。毕竟不同时代不同背景下，总会产生各种不同的情况。

太尉一职曾在西汉某个时期被改为大司马，作为一种荣誉的称号。曹操废三公制，自任丞相。其子曹丕即位时短暂恢复，拜贾诩为太尉。后又撤销。大将军司马懿转任太尉，驻兵雍凉。

秦朝时期的太尉虽然没有实际掌握兵权但是还拥有着一定的权力。到了后面的朝代就完全变成了对一些元老级别的老臣给予表彰的一种称号。