1234年蒙古族领袖成吉思汗灭金，建立蒙古汗国。1260年忽必烈于大都（今北京）称帝 。1271年建立元朝。1290年（元至元廿七年）元世祖将全国划分为1个中书省和11个行中书省 （简称“行省”）。中书省为中央，行省为中央派设地方代行中书省职权的政权机构，行省 下设路、府、州、县。今黑龙江地区大体上属辽阳行省。黑龙江、乌苏里江流域属于水达达 路和开元路。下设桃温、胡里改、翰朵岭、脱翰岭、索若江等5个府。嫩江流域设蒲峪路万户 府和肇州蒙古万户府。
　　　　元朝的兵制，据《元史》记载：“以兵籍系军机重务，汉人不阅其数。虽枢密近臣，职 专军旅者，惟长官一二人知之，故有国百年，而内外兵数之多寡，人莫有知之者。”现仅据 掌握的资料略加记述。
　　　　元朝设在中央的军事机构称枢密院，“掌天下兵甲机密之务。凡宫禁宿卫、边庭军翼、 征讨戍守、简阅差遣、举功转官、节制调庶、无不由之”（《元史·百官》）。枢密院置枢 密使、同知枢密院事等官主其政务。设在各地的行省则为军政合一的政权组织，设平章政事 、参知政事掌军政事务。省下置路、府、州、县。长官称“达鲁花赤”，统揽军政。在各级 军队中，军官的官阶以领兵多少当爵序，分为万户、千户、百户。万户设总管，千户设把总 ，百户设弹压。各级主官又分上、中、下3个等级。
　　　　元朝军队的兵种比较繁杂，按照民族、地区、任务加以编成。（1）以民族区分：有蒙古 人组成的蒙古军，以西北各族人为主组成的“探马赤军”，中原辽金遗民组成的“汉军”， 降附的南宋旧军队改编的“新附军”。（2）以任务区分：有宿卫军和镇戍军。《元史·兵志 》称：“宿卫诸军在内，镇戍诸军在外，内外相维，以制轻重之势。”（3）以驻地地区相区 别：各地方的镇戍军，驻守本地区的称作乡兵，出戍外地、边境的称作戍兵。戍兵是朝廷派 驻地方的部队，原有“更代番值”的制度。元统一全国后，逐渐变为“世守不易”。戍兵属 “军户”。入军籍者世代为兵不得更易，自身战死、病死则由死者弟兄或儿子替补。乡兵是 民兵性质的部队，戍守乡里。在黑龙江和东北地区的契丹军、女直军及辽东乣军，都属乡兵 。元世祖时，建“征东元帅府”于奴儿干地（今苏联境内庙街），统领黑龙江下游的军政事 宜，这个地区的吉列迷、兀者、骨嵬（今库页岛）、水达达等地的乡兵、乣军及在此屯戍的 汉军，统受其管辖。
　　　　元朝统一中国后，又在全国实行了普遍的屯田制，“由是而天下无不可屯之兵，无不可 耕之地”（《元史·兵志》）。在各屯田地区设屯田军和操守正军，两军虽属一体但各执分 工，屯田军专事屯田，操守军则专事操练防守。
　　　　黑龙江地区西部为成吉思汗二弟哈布图撒儿家族的游牧地，今泰来一带为成吉思汗幼弟 翰惕赤斤封地（府治在今泰来塔城古城遗址），史未见有大批驻军的记载。《元史·兵志》 载：“蒲峪路屯田万户府：世祖至元甘九年十月，以蛮军三百户，女直一百九十户于咸平府 （今辽宁开原）屯种。……三十一年罢万户府屯田。仁宗大德二年，拨蛮军三百户属肇州蒙 古万户府，止存女直一百九十户，依旧立屯，为田四百顷。”辽阳行省在瑞州、咸平、肇州 （今黑龙江省肇源茂兴站）等地有屯田军户4606户，耕地在4000顷以上。