先秦以前黑龙江地区的古代民族主要有肃慎（息慎）、濊貊和东胡三大族系。肃慎族主要分布在黑龙江流域至苏联滨海地区，其活动中心在今牡丹江中游的宁安县一带。东胡族分布在今呼伦贝尔盟东部和大兴安岭山脉一带。濊貊族的活动地区，位于肃慎族和东胡族之间，即今东北地区的中部和南部。肃慎族是较早和中原部落联盟发生联系的部族，据《竹书纪年·五帝篇》载，帝舜有虞氏“二十五年，息慎氏来朝贡弓矢”。到了西周时，肃慎和濊貊族都从属于周王朝，他们生息的地方同被视为周朝的北方领地。
　　　　战国、秦、汉时期，濊貊族系中的北支之一夫余人，建立夫余国，据《后汉书·东夷列传》记载：“东汉时夫余国的疆域，在玄菟北千里，南与高句丽、东与挹娄、西与鲜卑接，北有弱水，地方二千里，本濊地也。”即位于今黑龙江地区中部的松嫩平原地区。夫余人与中原华夏人交往密切，深受中原的经济、文化的影响。黑龙江的西部地区是东胡后裔鲜卑族居住地区。东部和北部是肃慎族后裔挹娄族，其活动地区一直到东部日本海的广大地区。公元2世纪中叶以后，夫余国西部地区逐渐被鲜卑人占据，当时鲜卑人居住在大兴安岭、呼伦贝尔草原地区及嫩江流域一带。
　　　　魏晋时代，挹娄居地扩大，“东滨大海，西接寇漫汗国，北极弱水（即黑龙江），其土界广袤数千里”（《晋书》）。由于挹娄人摆脱了夫余人的奴役，于魏青龙四年（236年）直接同魏晋建立起贡属关系，从此挹娄与中原王朝来往频繁，中原的先进文化和经济影响到挹娄地区，促进了挹娄社会的发展。
　　　　濊貊族系的北沃沮人，活动在老爷岭以东地区，包括黑龙江省穆棱河中上游和绥芬河流域及苏联的滨海南部地区。据《三国志·魏书·东夷传》沃沮条中说“土地肥美，背山向海，宜五谷，善田种”。居民以农业为主，过着定居生活。先后役属于箕氏和卫氏朝鲜、两汉政权及高句丽人。
　　　　北朝时，挹娄称为勿吉，辖境扩大，夫余之地已尽为其所有，大体上是：东滨日本海，东北临鄂霍茨克海，西北与室韦为邻，西南抵北流松花江下段及洮儿河地区，南隔长白山与高丽相接。北朝末叶，勿吉称为靺鞨，当时发展为七大部落，其活动在黑龙江地区东达乌苏里江上游的松阿察河及兴凯湖一带，张广才岭以东的牡丹江中下游流域，松花江下游的三江平原一带，西南到拉林河、阿什河以及蚂蚁河流域，即松嫩平原的东南部分。由于靺鞨各部处于各自为政的状态，“不相总一”（《隋书·东夷传》高丽、靺鞨条）。终于被高句丽个个击破，沦为高丽的属部。唯有当时只占据着三江平原东北部及黑龙江下游地区的黑水部落联盟保持独立地位。
　　　　居住在西部嫩江上游及大兴安岭北段以及小兴安岭一带的北室韦人，在呼兰河以北，小兴安岭西南，嫩江以东一带的豆莫娄人，都与中原政权建立了贡属关系，为嫩江平原的开发作出了重要贡献。 唐朝时期，黑龙江地区受唐朝封建文明的影响，经济和文化都得到空前的发展，并在历史上首次正式设立地方行政机构。唐初黑龙江地区主要居住着靺鞨、室韦、乌罗护、达末娄、流鬼等部族，靺鞨居住在“东至于海，西接突厥，南界高丽，北邻室韦”（《旧唐书》）广大地区。室韦居住在西部和西北地区，“东至黑水靺鞨，西至突厥，南接契丹，北至于海”（《旧唐书》）；乌罗护、达末娄各部位于室韦西南地区；流鬼部居住在黑龙江口一带及库页岛。这些部落均和唐朝有朝贡关系。
　　　　隋、唐以前，黑龙江地区的社会经济西部较东部发达，隋唐时期东部地区则迅速发展起来。其中主要以粟末靺鞨为主体形成的渤海人所建立的渤海国为代表。渤海国这一隶属于唐朝的地方政权，其活动地区不断扩大，大抵南至今朝鲜咸镜南道的龙兴江（当时称泥河），东到日本海，东北至乌苏里江中下游地区与黑水靺鞨相接，西北隔东流松花江与室韦相接，西抵双辽（今吉林省双辽县），东部与契丹相接，西南抵辽河。今黑龙江省内东流松花江以南的全部及下游以北的部分地区，均为渤海国所辖。当时称渤海国为经济文化繁荣的海东盛国。
　　　　辽代时管辖黑龙江地区的范围：南起松嫩合流处以西，沿嫩江上溯，转向西北，顺大兴安岭向北直至今漠河镇为止，归上京道管辖。东北部和东部地区直至滨海（包括库页岛），均为东京道管辖。
　　　　黑水靺鞨后裔生女真建立金朝，金代所辖的范围甚广，在黑龙江及其附近地区，西抵嫩江流域，以东北路界壕边堡与乌古敌烈接壤。北到外兴安岭，东北达鄂霍茨克海及库页岛，东临日本海，南至信州（今吉林省怀德县）和咸平路交界。元朝在东北地区的范围远远超过汉唐。今黑龙江地区属于辽阳行省的开元路和水达达路管辖。辽阳行省管辖今黑龙江大部分地区，主要是大兴安岭以东，一直到日本海，包括苏联滨海边区和萨哈林岛（库页岛），北到外兴安岭的广大地区。开元路在今黑龙江省的松花江地区，哈尔滨市、牡丹江市以及绥化地区南部，均为其辖境。水达达路约为今日黑龙江省克山、明水以东，佳木斯、兴凯湖以北，包括苏联境内黑龙江下游及乌苏里江东岸地区。
　　　　明永乐七年（1409年），明朝在黑龙江地区设置相当于省一级具有军事性质的地方行政机构——奴儿干都指挥使司（简称奴儿干都司）。它的辖境西起斡难河，东至库页岛，北达外兴安岭，南濒日本海，包括黑龙江流域和乌苏里江以东的广大地区。
　　　　黑龙江流域是满族的故乡，是清朝“龙兴之地”。远在清入关之前，东起鄂霍茨克海，西至贝加尔湖之间广大地区的各民族，都已臣服清朝。清顺治元年（1644年），清世祖入关后，东北地区归盛京总管统辖。到了清康熙元年（1662年），黑龙江地区归宁古塔将军管辖，其范围包括整个黑龙江流域的广大地区。西起贝加尔湖以东鄂嫩河源，东部包括库页岛，北抵外兴安岭，东南到日本海。清康熙二十二年（1683年）在黑龙江中上游流域置黑龙江将军，黑龙江下游地区仍归宁古塔将军管辖。黑龙江将军具体管辖范围，松花江左岸以北，直到外兴安岭广大地区。
　　　　清康熙二十八年（1689年）清朝政府对沙俄作了重大让步，签订了中俄《尼布楚条约》，将贝加尔湖以东至尼布楚一带的中国领土，割让给俄国。从法律上肯定了中俄东段边界的走向，即从格尔必齐河和额尔古纳河、外兴安岭至海为界。清道光二十年至二十二年（1840～1842年）英国对中国发动第一次鸦片战争后，黑龙江地区同全国一样开始逐步沦为半殖民地半封建社会。清咸丰六年至十年（1856～1860年），英、法在俄、美的支持下，联合发动了“第二次鸦片战争”。沙俄乘这次侵略战争之机，强迫清政府签订了不平等的中俄《瑷珲条约》和《北京条约》，割占了中国黑龙江以北、乌苏里江以东共约有100万平方公里的领土。
　　　　中华民国初期，黑龙江地区的疆域与清末时期大致相同，原黑龙江省管辖的疆域都在松花江以北地区，今黑龙江省松花江以南地区归原吉林省管辖。当时在黑龙江省境内还有哲里木盟的杜尔伯特、札赉特、伊克明安3个蒙旗。
　　　　东北沦陷时期。1932年3月9日，伪满洲国成立以后，将中华民国黑龙江省原辖呼伦贝尔地区划归新设立的兴安省，1934年12月1日，日伪当局采取“分而治之”政策，实行“新省制”，黑龙江省建置被撤销，在黑龙江地区内划分：龙江、滨江、三江、黑河四省和哈尔滨特别市、北满特别区。所辖范围除洮辽七县及双城县以南区域，现归吉林省管辖外，都是今黑龙江省所辖范围。
　　　　1945年8月15日，日本无条件投降后，南京国民政府将东北三省分为9省2市，黑龙江地区有：松江省、合江省、黑龙江省和兴安省一部分及哈尔滨市。解放战争时期，在今黑龙江省疆域内，先后有原松江省、合江省、牡丹江省合并为松江省，其疆域包括松嫩平原东部、东部山地区、三江平原区和小兴安岭一部分。嫩江省在1949年合并到原黑龙江省，其疆域为松嫩平原西部地区和大小兴安岭地区。此外还包括洮南、白城、开通、瞻榆、大赉、镇赉、安广7县（今吉林省地区）。
　　　　中华人民共和国成立后，黑龙江地区设有松江和黑龙江两省，两省的疆域大体与解放战争时期相同。到1954年8月1日，松江省与原黑龙江省合并，并将洮南等7县划归吉林省管辖。到1969年，将内蒙古自治区的呼伦贝尔盟划归黑龙江省。1979年，将呼伦贝尔盟和大兴安岭地区所辖的鄂伦春自治旗、莫力达瓦达斡尔自治旗划归内蒙古自治区领导。至1985年，黑龙江省的疆域没有变动。