大量的考古发现和历史文献记载表明，黑龙江流域很早就是满、蒙古、达斡尔、鄂温克、鄂伦春、赫哲、汉族人民的祖先劳动、生息的地方。他们靠山围猎，近水捕鱼，利用河网密布这一自然条件，开始了早期的水运活动。
　　　　战国至秦汉时期，黑龙江水运活动的基本特点，是以原始的渔猎生活、生产及朝贡为主要活动而展开的。东汉建武元年至建安二十五年（25～220年），挹娄人（肃慎的后裔）的水运活动比较广泛，除牡丹江、松花江的干流以外，还活动在库页岛以南的沿海地区（苏联滨海省）。
　　　　从魏黄初元年到明洪武元年（220～1368年），在这一千余年的历史进程中，黑龙江水运和历代的政治、经济、军事及文化交往息息相关。水运从原始的生产、朝贡之中脱颖而出，逐渐进入带有浓厚政治色彩的通聘往来和部族战争当中；水运活动的范围，也从黑龙江水系的内河，发展到堪察加半岛、库页岛、日本海及山东半岛以北的沿海地区；与此同时，还成为与中原贸易往来的水路通道，开辟了通聘日本的海上交通。
　　　　周圣历元年至后唐同光四年（698～926年）即唐渤海国时期的水运，是古代黑龙江水运的一个高峰。在其存在的229年中。向唐朝进贡多达143次；开辟了一条从京都（上京龙泉府，位于牡丹江流域，即今黑龙江省东宁县渤海镇）到长安的水陆道路，史称“鸭渌朝贡道”，亦称“鸭渌——登洲道”。这条朝贡通道全长约3 000余公里，其中的江、海水路部分长约1 065公里（史载旧程）。当时，日本的使臣也通过此路中转渤海，达于本国。
　　　　唐渤海国同日本通聘舆易达37次，首次开辟了横越日本海的“龙原——日本道”，从渤海国的盐州（清代称毛口崴，今苏联克拉斯基诺）横跨日本海直达日本的越前、能登、加贺。通过这条航线，中日两国人民进行了频繁的文化、经济贸易往来，并结下了深厚的友谊。这条海路，通航达两个多世纪。
　　　　辽代，黑龙江下游和松花江干流的水运是专门为辽统治者服务的“鹰路”（朝贡海东青）。这条2 000多公里长的水路，一直延用到清代，并成为金、元、明、清各王朝经营黑龙江下游（包括库页岛地区）及与中原联系的重要水陆交通干线。
　　　　金代水运活动的主要特点是漕运。在大规模的漕运当中，自然形成了一些水运古港，如金上京会宁港（今黑龙江省阿城县白城，南距哈尔滨市30公里）、蒲峪港、肇州港、隆州港、胡里改港等等。同时，开凿了古代黑龙江地区的第一条人工运河——“金兀术运粮河”。至今，这条人工运河仍作为哈尔滨市区与阿城县的自然分界线，横卧在松嫩平原上。
　　　　在成吉思汗、忽必烈统一黑龙江流域及骨嵬（苏联库页岛）的过程中，不仅沿用了金代的水路，同时，还完善了驿路交通，建立了许多“站赤”（即驿站），构成了四通八达的水陆交通网络。
　　　　实际上，辽、金、元时期的水运，已从渤海国大规模水运活动的峰巅滑落下来，水运形式的单一和相对集中是这一时期航运的基本特点。
　　　　明洪武元年至清顺治元年（1368～1644年），黑龙江水运日渐复苏。在郑和七下西洋的同时，黑龙江上出现了大规模航运活动——太监亦失哈在20余年中，以钦差大臣的身份率巨舡（大船）50艘，官兵3 000人巡视黑龙江下游的奴儿干及海外苦夷（即库页岛）地区达10次之多。此时，松花江、黑龙江2 000多公里的水运航线空前活跃，并在松花江上游的大乌拉村（今吉林市附近）建立了造船厂，派匠卒数千人兴造漕舟。许多中外学者潜心研究了亦失哈航运活动的历史见证——永宁寺及两座永宁寺碑，他们的论著证明了亦失哈航运活动的规模及影响之深广。
　　　　清朝黑龙江地区的水运活动是以著名的雅克萨反击战为背景展开的。
　　　　明万历年间（16世纪末～17世纪初），沙皇俄国不断派遣船只，几十次武装入侵中国的黑龙江、乌苏里江、松花江流域，在中国的领土上非法建筑阿尔巴津（即雅克萨）、尼布楚等城堡多处，置兵屯守，妄图久占。清政府为反击沙俄的侵扰，在东北七镇驻扎军队，组建黑龙江水师营。其军粮、装备的补给主要靠松花江、嫩江、黑龙江的水路运输。清康熙帝曾两次出巡东北视察水师防务。当时，清军拥有各种大小船只500余艘，仅在雅克萨反击清战中，就出动由3 000人组成的水路大军和150余艘舰船参加战斗。这个时期，水运在战争中发挥着独特的作用，战争也推动着水运向前发展。
　　　　由于战争进一步完善了水陆交通，因而，雅克萨反击战之后，黑龙江地区的商旅日益增多，水路航运更为活跃——出现了区域性的商运。嫩江齐齐哈尔江畔的“楚勒罕”（水运集市名称）、牡丹江宁古塔地区的进贡水集以及黑龙江下游的贡貂和赏“乌绫”活动，都集中反映了战后水运的繁荣。
　　　　《中俄尼布楚条约》签订以后，清政府实行“巡边”（即巡逻中俄边界）制度，以防止俄人越境。这种以水路为主的巡边活动一直持续了近两个世纪。
　　　　19世纪中叶，沙俄用武力迫使清政府签订了不平等的《中俄瑷珲和约》和《中俄续增条约》（即《中俄北京条约》），把黑龙江以北、乌苏里江以东100多万平方公里的中国领土并入俄国版图，把原属于中国内河的黑龙江、乌苏里江、变为中俄两国界河。
　　　　黑龙江水系早期的轮船运输业，是从俄轮的入侵开始的。清光绪二十一年（1895年）沙俄即成立阿穆尔商船公司，中东铁路建成后更成立船舶部，肆意侵犯中国内河航权。 到清宣统三年（1911年），俄国在松花江、嫩江、乌苏里江、黑龙江上营运的轮船增至262艘，驳船289只，年货运量达133万吨，掠夺松花江流域腹地的粮食、木材、煤炭等资源。至此，沙俄完全独霸了黑龙江水系的航运。
　　　　黑龙江水系的中国民族航运业始于清朝末年，兴于中华民国初年，大体经历了由创立到中兴两个阶段，走过了分散、竞争、联合的曲折道路。
　　　　清光绪三十二年至中华民国七年（1906～1918年）是民族航运业创立阶段。这一阶段资金短缺，运力薄弱，规模较小，经营困难。
　　　　1917年，俄国“十月革命”。之后，苏联政府执行“船舶收归国有”的政策，旧俄船主争相卖船，这就为黑龙江地区民族航运业的大规模兴起开了方便之门。其后陆续成立了哈尔滨戊通航业股份有限公司、东北海军江运部、东北航务局等大小官商航运企业50余个。其中比较有影响的航运企业即为哈尔滨戊通航业股份有限公司（简称戊通公司）。
　　　　戊通公司创建于1919年3月1日，拥有轮、驳船49艘，股本200万元。除在哈尔滨设立总公司外，还在黑河，海兰泡（布拉戈维申斯克）、伯力（哈巴罗夫斯克）、庙街（尼古拉耶夫斯克）设有分公司。开辟黑龙江、松花江、乌苏里江、嫩江主要营运航线8条，计5 500多公里。戊通公司曾以黑龙江地区民族航运业第一个大型、正规的水运企业而盛极一时。它的成立标志着黑龙江水系的民族航运业已经步入中兴时期。 随着民族航运企业的增加以及外轮源源拥入松花江，围绕航线、运价展开的竞争日益激化，出现了民族航运业内部、中外轮运之间、外轮之间的激烈角逐。在这场复杂的竞争当中，黑龙江水系的各民族航运企业，越来越意识到水运管理和联合起来的重要性。东北联合航务局，就是在这种形势下诞生的。它以东北航务局（由戊通公司改组而成）为核心，联合东北海军江运部、奉天航业公司、东亚轮船账房、沪滨航业处、滨江储金会、双合盛，组成官商7家航业的联合实体。拥有股本603万元（银元），船舶118艘（机动船53艘），占民族航运业总动力的60％左右。在其最初两年的营运中，获利达410多万元。年水运量由戊通公司时期的50万吨左右，增至70～80万吨。
　　　　1931年年初，57家官商船主将310艘船联合在一起，创立了哈尔滨官商航业总联合局，实现航运业大联合。1931年“九一八”事变后，侵华日军很快占领了东北全境，黑龙江航运业随之沦为日本帝国主义的统治工具。
　　　　1933～1938年，日本帝国主义全部控制了东北三省的水运，并对原有的民族航运企业进行大规模地改组。日伪当局首先组建了哈尔滨航业联合局，统一管理船舶运输及码头营业，而后又改组了哈尔滨造船所，解散了东北水道局，成立了哈尔滨航政局和松黑运输公司等机构。
　　　　1939年4月，日本统治者又以低价强行收买了全部私人船舶，并入航业联合局，组成北满江运局。同时，成立松花江帆船航业公会（在依兰、富锦设立分会），把木帆船也牢牢地控制在自己手里。据日文版《支那水系概论》记载：当时在松花江、黑龙江、乌苏里江、嫩江上航行的轮船、驳船计243艘（3.7万马力、11万吨位），帆船3 000多只，利用10条航线从事长短途客货运输。年客货运量的最高峰曾达到71.2万人和88.4万吨［（1934～1938年）统计，不含军运］。据当时在北满江运局供职的老船员证实，日本统治者经水路运输的军用物资，其年运量约在公开运量的一半以上。
　　　　1945年8月15日日本侵略者投降。黑龙江地区人民航运事业随之诞生，开始踏上了崭新的航程。然而，经历了战争摧残和浩劫的黑龙江地区航运，却面临着十分严重的困境：码头坍塌，航标毁坏，航道淤塞，船舶所剩无几，航运完全陷于瘫痪的境地。在中国共产党和人民政府的领导下，黑龙江水系的广大船员一面打捞沉船，修复港口，整治航道，一面承担支援解放战争的重任。由于当时的机动船舶异常短缺，木帆船在支前运输中发挥了巨大的作用。
　　　　解放战争时期，黑龙江地区航运得到初步的恢复和统一，为中华人民共和国成立后的稳步发展赢得了时间，奠定了基础。
　　　　中华人民共和国成立后，黑龙江地区恢复了沿江各航运站，建立了哈尔滨、佳木斯两个港务局（以下简称哈、佳两港）。这一时期，造船工业兴起。哈尔滨船舶修造厂增加设备，扩建厂房，造船能力提高较快，在短短的几年里，就能承造各种大型机动船舶。
　　　　随着航运事业发展，全省加速了航标、航道建设。1957年，全省各航运航线航标灯全部实现了电气化。同时改木质航标为铁质航标，应用荧光漆涂面、塑料灯具、空气干电池、半导体光敏控制开关，提高了标灯、标质和发光率。
　　　　1957～1966年，适应航运事业的发展，全省扩建新港口20处，增设中小航运站35个，增加千吨级泊位24个，扩大了港口通过能力。哈、佳两大港口的机械操作量达到234万吨，黑龙江水系各港站的装卸逐步从挑、抬、扛的繁重体力劳动中解放出来，加快了船舶周转。
　　　　1966～1976年10年“文化大革命”使黑龙江省航运事业遭到严重破坏。航运生产连年亏损。1974年省直营水运的货运量降到1954年水平，倒退了20年。1966～1976年，累计亏损3 522万元。
　　　　1976年10月，粉碎江青反革命集团后，黑龙江省航运出现了转机。翌年，战胜了枯水威胁，实现了“三突破一扭转”，即货运量突破200万吨，货运周转量突破5亿吨公里，运输收入突破1 000万元，扭转了企业亏损。从而，结束了水运生产10年萧条倒退的被动局面。“文化大革命”以后9年中，通过拨款、贷款、自筹资金等渠道，港建投资增加到4 062万元，充实哈、佳两大港，扩建新建了沙河子港、绥滨港、肇源港和富拉尔基港。对界江的黑河、嘉荫、奇克、抚远、饶河等航运站码头进行修建，增加机械设备，促进了黑龙江水系港口生产迅速发展，吞吐量不断上升。
　　　　1977～1985年，全省加强了航道疏浚工作。从1977年起，开始着手解决影响松花江航运生产发展的航道淤塞问题。逐年加强了疏浚力量和水工建设，先后修筑导坝、丁坝、锁坝和护坡岸10 000多延米，引进6艘大功率挖泥船，使疏浚能力增加9倍；整治了严重碍航浅滩5处，使松花江干线航道水深在设计水位上平均增加20厘米，提高了船舶满载航行率。特别是历史上被称为“三块石”“满天星”和“鬼门关”的三姓浅滩，是中华人民共和国建立以前松花江干线航道始终未能解决的“不治之症”，经过3年的全面“手术”，第一期整治工程于1985年完成，使这个“咽喉”要道的水深增加了40厘米，航宽增加了10米，保证了600吨级船舶从内河到界江满载航行，畅通无阻。
　　　　1985年，在遭受黑龙江凌汛（冰灾）、松花江春季枯水和秋季洪水等严重自然灾害的情况下，中共黑龙江省航运局党委领导全线万名职工艰苦奋战，使全省水运生产和利润指标再创历史最高纪录：客运量和客运周转量分别为153万人、8 914万人公里，为年计划的129.4％和119.7％。货运量和货运周转量完成399.6万吨、13.8亿吨公里，创利润1 349万元。比历史最高水平的1984年分别增长2.1％，11.6％和17.9％，分别为1949年的18.5倍、37.1倍和98.5倍。