西汉时期，23到56岁男子均需服兵役两年，以及每年一个月徭役。

其中家世好力气大的有特殊技能的选为轻车骑士材官楼船，先本地服役一年，接受专业军事化训练，再去首都当一年卫士，回来后转为预备役，且每年一次的服徭役期间和同年服役的骑士材官一起训练，组成常备郡国兵。

而占大多数的条件较差的适龄服役男子则需在边疆戍守一年，回来后也转为预备役，在每年为期一月的徭役期间承担各种机关警戒治安巡逻物资押运水利工程等工作，即为卒，例如亭卒、仓卒、河渠卒。

郡国兵由比两千石的都尉管理，都尉由中央任命，不归郡守国相管，军权实际握在中央手里，出兵需要中央下令，虎符合一才能调动兵马。但郡国长官在一定条件下，仍旧可以控制兵权，列如后来趁机占据川蜀之地的蜀郡太守公孙述等。

东汉光武帝省除边郡外诸郡都尉，罢郡国对材官骑士的选拔制度，实际上废除原先郡国兵制度，后面也没恢复，残余权力职责则被太守兼并，郡国兵实际相当于西汉的卒，战力下滑，且数量控制在一千人到三千人。

东汉郡国兵已经由屯驻地方的中央军，变成地方部队。反映过来就是地方武力下降，独立性却增强，引发连锁反应，导致郡级政府规模权力扩大，基层组织度下降，豪强坐大，为后来埋下隐患。而这种改变也促使光武帝初期面对全国战争遗留的庞大郡国兵难题的临时性政策，最终变为常制，后世皇帝都没有恢复这一制度。