黑龙江将军衙门于1683年（康熙二十二年）10月建立，最初设于黑龙江左岸的旧瑷珲城 （今苏联境内维谢雪村）。1685年，清政府鉴于旧瑷珲城与内地来往公文等存在诸多不便， 于是将将军府迁于黑龙江右岸的托尔加城旧址，修筑新瑷珲城（今爱辉县爱辉镇）。新、旧 瑷珲城隔江相距12里，因滨黑龙江，又系黑龙江将军衙门所在地，故被称为“黑龙江城”。 1690年（康熙二十九年）将军衙门移于墨尔根城（今嫩江县城）。1699年（康熙三十八年） 移至齐齐哈尔城。
　　　　黑龙江将军衙门的管辖范围，包括黑龙江中上游两岸的广大地区，东至毕占河宁古塔界 ，西至喀尔喀车臣汗界，北至外兴安岭，南至松花江。
　　　　黑龙江将军衙门设有严密的军事组织。在将军之下设有副都统、副都统衔总管、城守尉 、协领、总管、参领、副总管、佐领、防御、骁骑校等武官，管理满洲、汉军、巴尔虎、索 伦、达呼尔、鄂伦春、毕拉尔、额鲁特等旗户。将军衙门内有理刑员外郎、管档主事、银库 主事、理刑主事、委署主事以及若干笔帖式等佐官。各地设有驻防衙门，置官统辖。境内先 后设站（驿站）台36处，驿道纵横，四通八达。在山川和边境之地，设置卡伦67处，派兵驻 守，并规定了每年的巡察制度。
　　　　清廷设置黑龙江将军衙门，对于该地区的管辖开发，特别是抗俄斗争，起到重要作用。