公元581年，北周外戚杨坚代周立，建立隋朝。皇九年(公元589年)灭陈，从结束了东汉末年近400年十五分裂，重新统一了中国。隋炀帝杨广即位，骄奢逸，兴土木，穷兵黩武，引阶级矛盾的激化。公元618年，隋朝在农民义的风暴中很快覆灭，代的是李唐王朝。
隋朝建国虽短，但它在政治、经济、军方面进行的一些改革，却给唐代甚至各代带了深刻影响。隋文帝杨坚在建国初，加强中央集权，在中央建立了三省六部制 ，实行科举制度，军则北周的府兵制加改革，从使一制度更趋完善。
隋初府兵制，沿袭北周制度，从强壮的农民中挑选士兵，免除他本身的徭役，平从生产，农闲则从军训练。无论平战，由各级军官督率，且单立军籍。隋初规定，18岁丁，60岁老。服役从丁始，至老始免。役龄内的府兵，轮番服现役。未服现役的府兵，由管理军户的军场场主或乡团团主管理，平定期集中训练，有则应召从军征。皇三年服役的年龄又改21岁，推迟三年。
杨坚取代北周初，维持稳定，一切制度未变动，但了更控制军队，采取了一些措施。其一，恢复旧姓。将西魏宇文泰相赐给军官兵士的鲜卑姓全部恢复本姓，杨坚己废普六茹氏，恢复杨姓。一措施的本质在清除兵部族兵的痕迹，提高汉族位。其二，利宗族。杨坚代周前，杨氏宗族组宗室兵3000人，由杨希尚率领，扼守潼关，抵御北周将领尉迟迥。杨坚将支队伍命名“宗团骠骑”。其三，整顿乡兵。隋灭陈前，在原北齐统治区与陈接壤域现不少乡兵组织，杨坚曾其进行整顿利。寄居广陵(今扬州)的护儿领有乡兵，杨坚授督衔，使参与灭陈战，并立有战功。陈灭，江南主兵乱，杨坚利庐江陈棱，准其府，领乡兵，同其父陈岘〔xian现〕隋平叛，官至骠骑将军。
皇十一年(公元590年)，全国统一刚刚完，适应新的形势需，隋文帝杨坚布诏令：“魏末丧乱，军人权置坊府，南征北伐，居处无定，无完堵，罕包桑，朕甚愍〔min敏〕。悉属州县垦田，籍帐一与民同。军府统领，宜依旧式。罢山东、河南及北方缘边新置军府。”兵役制度进行了重改革。
一改革的核内容是军户编入民户。在此前的府兵，属随营居住，频繁的战争使府兵庭难安定，生产不正常进行，生活非常困难。军户编入民户，改属州县管理，依均田令受田，属解放，即使士兵番，属一般民户一从生产。军户不再存在，但军人军籍依旧，与军府的关系有改变。无论在役、在军或在，凡属军役范围内的，归军府管理。次改革的实质是变兵民分离兵民合一。从此，魏晋形的世兵制始普遍征(在兵府内)所代替。
隋朝兵民合一的制度，与它的均田制租庸调制 是联系在一的。隋朝规定，一夫受田百亩，20亩永业田，归受田者所有；80亩露田，死给国。妇女奴婢受露田40亩，丁牛一头受田60亩。一夫一妇(一床)年租粟三石，绢三丈。丁男每年服兵役一月，服役的衣粮装备由人负责。丁男服役期间，租调全免。由此见，隋府兵制的基础是它的均田制。
隋朝的军权集中在中央，军队由皇帝亲统帅。尚书省内的兵部是皇帝在军方面的办机构。兵部设尚书一人，设兵部侍郎、职方侍郎、驾部侍郎、库部侍郎等，分管军队务。
全国设12卫府，分统全国军队，其中既包括禁卫军，包括分布在各的军府。各卫府的最高长官将军，直接听命皇帝。各卫府将军，设将军二人，长史、司马、录、功、仓、兵、骑等曹参军各一人。12卫府是：左右卫府、左右武卫府、左右武侯府、左右领军府、左右领左右府、左右监门府。左右卫是皇帝的内卫，负责宫廷禁卫。左右武卫主负责宫廷外禁卫。左右武侯主负责皇帝护从，担任前卫、卫、昼夜巡查等。左右领军府负责12军的籍帐、差科、辞讼等。左右领左右府负责侍卫皇帝左右、供御兵仗。左右监门府负责宫殿门禁、警卫。各府辖若干军府(骠骑府车骑府，长官骠骑将军车骑将军)。军府的军士称侍官。除12卫府外，有东宫十率 。
府兵的编组，12卫府兵力统一在禁卫军系统内，使皇帝更集中控制兵权。另外，禁卫军中又有内卫外卫分。服内卫的称内军，服外卫的称外军。左右卫所属亲卫、勋卫、翊卫三卫所属各骠骑府、车骑府，是内军；12卫府所属的其他骠骑府、车骑府外军。皇帝利内、外军，互相牵制。
骠骑府受将军(正三品)直接指挥。骠骑将军(正四品)辖车骑将军(正五品)、督(正六品)、帅督(从六品)、督(正七品)。北周相比，主帅的品级降低了(北周将军正九命，相隋正一品)，人数却从北周的八柱国将军增加12卫府将军，军权有所分散，皇帝却更便集中军权。
府兵不服役，归军府所在保、闾、族、、党等各级组织管辖。
在加强中央军的同，隋文帝方部队了整顿。隋在边境及内重的州设总管，负责该区的军。隋文帝期，设总管的共52，计：延、庆、原、夏、灵、云、丰、秦、兰、廓、凉、金、叠、岷、宕、扶、利、、遂、信、益、泸、洛、西防、晋、隰〔xi习〕、代、朔、并、幽、玄、营、青、徐、扬、寿、蓟、吴、杭、洪、广、循、桂、崖、荆、襄、安、黄、江、潭、永。此有变更。
隋初将州、郡、县三级制改州县两级制，便控制推行府兵制。隋炀帝杨广改郡县两级制，在郡设尉、副尉，掌一郡兵马。
隋炀帝即位，了加强军力量，12卫府进行改革。左右卫改左右翊卫，左右领军改左右屯卫，左右武侯改左右侯卫，左右领左右府改左右备身府，左右武卫、左右监门卫名称依旧，另外增置左右骁卫左右御卫，共16卫府(其中左右备身、左右监门不领府兵)。各府原辖的骠骑府、车骑府改鹰扬府，并在府前冠该府所在名。改骠骑将军鹰扬郎将，车骑将军鹰扬副郎将，督校尉，帅督旅帅，督队正等。改左右卫三卫(亲卫、勋卫、翊卫)三侍。了使农民乐服役，又给12卫府军士冠荣誉称号。左右翊卫军士“骁骑”，左右骁卫军士“豹骑”，左右武卫军士“熊渠”，左右屯卫军士名“羽林”，左右御卫军士名“声”，左右侯卫军士名“佽〔ci次〕飞”，并改府兵的侍官称号，总称卫士。
东宫十率有调整。左右卫率改左右侍率，左右宗卫率改左右武侍率，左右虞侯府改左右虞侯率，左右监门率改宫门将，左右内率依旧。
业九年(公元613年)，置左右雄武府，隶属左右备身府，招募百姓“骁果”。府不领府兵，但仍属皇帝禁卫，且在所有皇帝禁卫军中占有特殊重的位。业十四年(公元618年)，宇文化及就是利骁果动兵变，杀死隋炀帝杨广的。
由隋炀帝喜功，不断扩充军队，增置军府，使社生产遭极破坏，正常的兵役制度无法实行，的情况据史书记载是扫兵，丁男不够役使，又转役使妇人。所在隋炀帝统治的最几年，府兵制实际遭了破坏。
隋军在的军行动中，由皇帝指派的行军元帅最高指挥官，负责一区的指挥官总管。灭陈战中，曾杨广、杨素并行军元帅，并杨广淮南行台尚书令的名义统一指挥全盘军。史书记载隋灭陈军“合总管九十，兵五十一万八千，皆受晋王(杨广)节度，东接沧海，西拒巴蜀，旌旗舟楫，横亘数千”的盛况，从一侧面反映了军队的编组情况。
业八年(公元612年)隋进攻高丽，杨广率百万军亲征。的编制情况是：全军分左右各12军，凡113万，“每军将、亚将各一人，骑兵四十队，队百人，十队团；步卒八十队，分四团，团各有偏将一人；其铠胄、缨拂、旗幡每团异色；受降使者一人，承诏慰抚，不受将节制；其辎重散兵等亦四团，使步卒挟行；进止立营，皆有次序仪法。”(《资治通鉴》卷一八一，业八年)从述记载知，步兵骑兵编制不完全一。骑兵是10队一团，步兵是20队一团。