黑龙江地区冶金业历史悠久。据考古发现，黑龙江地区在相当于中原地区的西周中期已进入青铜器时代，在战国至西汉时期已进入早期的铁器时代。
　　　　据《三国志·魏书·三少帝纪》载：魏元帝景元三年（262年），挹娄人向曹魏政权进贡“皮骨铁杂铠二十领”。唐代渤海国和辽、金朝（7～13世纪），黑龙江地区已进入较发达的铁器时代，铁器已广泛应用于生产和生活各个领域。至金代，黑龙江地区的炼铁技术已具较高水平，铁器已普遍应用于生产和生活各个方面，应用地域遍及黑龙江腹地。金代以后黑龙江地区冶金业未见记载，只有“铁匠炉”等手工作坊延续下来。
　　　　19世纪末20世纪初，沙皇俄国入侵中国修筑中东铁路后，在中东铁路哈尔滨总工厂（今哈尔滨车辆厂）建造了小电弧炉、小转炉、蒸汽锻锤和小型轧钢机，开始了近代炼钢和轧钢生产。中华民国时期，中国人、俄国人都曾对黑龙江地区地质矿产进行调查，发现一些金、银、铜、铁、铅、锌等矿床。东北沦陷时期，日本人对黑龙江地区进行了矿产调查，并对一些铁矿进行掠夺开采，还利用黑龙江地区的煤炭炼焦运往日本和朝鲜。1943年，日本侵略者在鸡宁县（现鸡西市）城子河建设1座73立方米的高炉，因其战败投降未能投产。
　　　　1947年，东北民主联军总军工部将吉林省通化军工厂的3吨电弧炉、锻锤和轧钢机搬迁到黑龙江兴山（今鹤岗），建立兴山炼钢厂，1948年11月东北全境解放后，又迁往沈阳。
　　　　中华人民共和国成立之前，黑龙江地区尚没有一个专业的冶金工厂，仅有由铁路、机械、军工等企业生产的一些冶金产品。1949年只生产钢300吨、钢材2 234吨、土焦2.3万吨。
　　　　中华人民共和国成立后，1950年经中央人民政府政务院批准，在黑龙江地区重点建设了中华人民共和国第一个特殊钢厂——北满钢厂（齐齐哈尔钢厂），经东北人民政府重工业部决定，在哈尔滨市重点建设了全国第一个大型铝加工厂——一○一厂（东北轻合金加工厂）。这两个现代冶金企业，都是苏联援建的全国156项重点工程中的项目，由苏联设计并提供成套设备，严格按照基本建设程序正规建设的。经过工程设计、设备订货、施工组织、出国培训等前期准备工作，分别于1954年4月破土动工。北满钢厂投资2.63亿元，建有当时先进的炼钢、轧钢、锻压、冷拔和热处理设备，设计能力年产钢16.5万吨、钢材10.62万吨，历时三年半时间于1957年11月建成投产。哈尔滨一○一厂第一期工程投资2.2亿元，只用两年半时间于1956年11月建成投产（第二期工程投资1.2亿元，于1958年开始建设，1962年投产，两期合计投资3.4亿元，设计能力年产铝镁加工材3.62万吨），建有先进的铝镁熔铸和板、带、箔、管、棒、型、线、粉等加工设备。在第一个五年计划时期重点建设的这两个冶金企业，工期短、质量好、见效快，投产后很快就达到了设计能力，为国家经济建设和国防军事工业生产出大批国产冶金新材料，许多产品填补了国内空白，并培养出大批冶金专业技术人才支援全国。
　　　　为了进行重点项目建设，东北人民政府重工业部于1951年在哈尔滨成立冶金建设公司，以后又分设为第一建筑工程、金属结构工程、第一机械安装、电气安装、工业管道、工业筑炉等6个分公司。1953年，在齐齐哈尔市富拉尔基区成立北满钢铁建设公司。这两支建设队伍于1956年均划归国家冶金工业部领导，哈尔滨的建设队伍在完成一○一厂等工程建设任务后改编合并为第一冶金建设公司，调往湖北省参加武汉钢铁公司的建设，北满钢铁建设公司改为第四冶金建筑总公司，在完成北满钢厂建设任务后调往内蒙古自治区参加包头钢铁公司的建设。这两支建设队伍均是中华人民共和国成立后最早的冶金建设队伍。 第一个五年计划时期，国家还在黑龙江省建立了哈尔滨冶金测量学校；这一时期，黑龙江地区地方冶金工业只有牡丹江耐火材料厂。
　　　　1958年，全国掀起了“大跃进”高潮。黑龙江省为了解决工农业生产全面发展对钢铁及有色金属的迫切需要，发动群众上山找矿，建炉、炼铁。同年8月，中共中央北戴河会议通过了《中共中央政治局扩大会议号召全党全民为生产1 070万吨钢而奋斗》的决议。在“以钢为纲、全面跃进”的方针指引下，黑龙江省掀起了声势浩大的全党全民大办钢铁的群众运动。为保钢铁“元帅升帐”，全省成立了以党、政主要负责人为首的钢铁、机电、交通会战指挥部，同年9月6日，成立黑龙江省冶金工业厅，全省各专区、市、县、区、乡、镇，层层书记挂帅，全党全民总动员，共有60万人的钢铁大军，上山开矿、建炉炼铁。全省共有41万人次上山找矿探矿，找到铁矿点380处、有色金属矿点60处；开采铁矿点65处，有色金属矿点10余处；共建各种样式的小高炉6 000多座，其中8立方米以上的283座，容积3 779立方米；建土焦炉4万多个；建各种炼钢炉157座，752.6公称吨；建了一批小轧钢企业，在原松江五金厂的基础上成立了哈尔滨轧钢厂；在原再生铜冶炼社基础上成立了哈尔滨有色金属冶炼厂。1958年生产生铁5.58万吨，结束了黑龙江省“吨铁不产”的历史，生产钢34.5万吨，钢材22.35万吨，焦炭60.6万吨，铝镁加工材2.43万吨，比1957年增长3～10倍。全省冶金工业总产值达到4.48亿元，比1957年增长4倍。
　　　　1959年，重点建设地方骨干钢铁联合企业——牡丹江钢铁公司，第一期工程设计规模为年产钢30万吨，完成基建投资7 000万元，有100立方米高炉2座，400×1／250×5小型轧机1套、红旗3号焦炉2座，机修车间及林海铁矿先后建成投产。“大跃进”时期，有色金属工业建设了多宝山铜矿、宾县铜矿、西林铅锌矿、小裕丰锌矿及牡丹江、佳木斯铝厂等。
　　　　“大跃进”和“大办钢铁”运动持续3年多时间，全省共投入近5亿元（其中1958年建小矿山和小高炉费用15 398万元，1959～1961年基本建设投资14 744万元，技术改造等各项费用19 531万元），共建冶金企业167个，其中黑色冶金企业145个，有色冶金（包括黄金）企业22个。1958年全省冶金工业职工达111 275人。1958～1961年生产铁矿石209.7万吨，生铁49.25万吨，土焦370.7万吨，钢168万吨，钢材100.1万吨，铝镁加工材8.51万吨，以及一些铜、铅、锌、铝产品。
　　　　在“大跃进”和“大办钢铁”群众运动中，由于没有按科学规律办事，一哄而起，具有很大盲目性，以“高指标”“瞎指挥”“浮夸风”为标志的“左”倾错误严重泛滥，小高炉在全省“遍地开花”，不仅没炼出多少铁，浪费也极大。1958年，生铁合格率只有21.3%，每吨生铁消耗焦炭高达2 749公斤，生铁成本高达800元／吨。造成人力、物力的极大浪费。
　　　　1961年中共第八届九中全会决定，对国民经济实行“调整、巩固、充实、提高”的八字方针，同年6月下达小高炉停火令，1961年下半年黑龙江省小高炉全部停产。1961年，全省冶金工业总产值由上年的6.56亿元，减到1.8亿元。1962年，大批冶金企业实行“关、停、并、转”，对小高炉“限期拆除”。
　　　　1963～1965年，黑龙江省除了国家重点企业北满钢厂和哈尔滨一○一厂外，有9个地方冶金企业陆续恢复生产。1964年，冶金工业部上收了黑龙江省有色金属和黄金企业，成立了冶金工业部直属黑龙江有色金属公司，代管仅有的3户地方钢铁企业。1965年又改为黑龙江黄金公司，隶属于设在长春的中国黄金矿产公司，主管黄金企业，代管地方钢铁企业，将有色金属企业划归冶金工业部设在沈阳的东北有色金属工业管理局。
　　　　1966年2月，根据“备战、备荒、为人民”的指导思想，为了解决准备打仗和实现农业机械化所需钢铁，中共黑龙江省委决定建设西林钢铁厂，以补上黑龙江省地方钢铁工业这一缺门。同年4月成立黑龙江省冶金工业公司，具体指挥西林钢铁厂的建设。建厂初期确定只建1座100立方米高炉（将原牡丹江钢铁公司的高炉搬迁过来），同时恢复大西林铁矿生产。1966年5月爆发了“文化大革命”，使西林钢铁厂的建设受到严重干扰。1967年10月31日高炉简易投产，只生产11天就停了下来。1967年经国家计委批准建设规模为年产铁矿石20万吨、生铁10万吨、钢8万吨、钢材6万吨、焦炭10万吨。根据当时“小三线”的建设方针，按照 “靠山、分散、隐蔽”的原则，厂址选定在小兴安岭山区（伊春市西林区），给生产建设带来诸多不便。在“左”的思想指导下，采取“边设计、边施工、边生产”的三边方针，尽量利用旧设备“因陋就简”的原则，建厂初期没有总体设计，在建设过程中设计不断修改，资金、设备不足，使工期一拖再拖，采取简易投产，投产后又不断进行改造，直到“文化大革命”结束，西林钢铁厂仍未能全面建成投产。
　　　　1969年3月2日，发生了苏联军队入侵中国领土的珍宝岛事件，地处边陲的黑龙江省，从准备打仗的角度出发，突击抢建了一批小钢铁厂，当年有海林、林口、桦南、双鸭山、鸡西等市、县5座高炉建成投产。加上1967年建的西林钢铁厂1号高炉，全省共有6座高炉，容积237立方米，当年生产生铁1.45万吨。《人民日报》刊登了黑龙江省发展“五小”工业的报道。
　　　　1970年，在大搞“五小”企业（小钢铁、小化肥、小煤窑、小农机、小水泥）的热潮中，黑龙江省革命委员会主要负责人提出为了建设“吃、穿、用、打”“小而全”的工业体系，要县县建高炉，重复1958年“大跃进”的做法，组织了全省钢铁大会战，全省共开采小铁矿56处，建小高炉61座，容积1 288立方米，分布在全省13个地、市和林业、煤炭、铁路、农场、机械系统的41个钢铁厂中。 在建设小高炉的同时，又建设了一批小炼钢、轧钢和有色冶金企业，先后建设了哈尔滨钢厂、哈尔滨冷轧带钢厂、哈尔滨钢丝绳厂、哈尔滨钢管厂、富拉尔基钢厂、齐齐哈尔钢管厂等。东北有色金属工业管理局组织全东北18个有色金属矿山进行西林铅锌矿建矿大会战，并开始建设松江铜矿。黑龙江省扩建多宝山铜矿，建设秋皮沟铜矿、石发铅锌矿、恢复佳木斯铝厂生产。
　　　　“文化大革命”时期，黑龙江省冶金工业投资4.5亿元，全省冶金企业增至92个，1976年全省冶金企业职工队伍达到73 196人。这一时期全省建设的地方冶金企业，装备水平比“大跃进”时期有很大提高，但由于采取大会战方式突击抢建，工艺不完善，设备不配套，形不成综合生产能力，加上管理混乱，生产长期不正常，造成严重亏损，“文化大革命”时期黑龙江省冶金工业累计亏损近4亿元。齐齐哈尔钢厂、东北轻合金加工厂等老企业，也受“文化大革命”的严重干扰，生产徘徊不前，经济效益大幅度下降，这两个企业的利润分别由1966年的6 823万元和4 179万元，下降为1976年的301万元和36万元。到1974年，盈利企业的利润抵不上亏损企业的亏损，全行业盈亏相抵后还亏损901万元。1976年全行业亏损7 028万元。“文化大革命”结束的1976年，与1966年相比，全省冶金工业总产值由1966年的4.48亿元降为1976年的4.46亿元，利税总额由1966年的14 075万元，1976年降为－3 895万元。
　　　　1976年10月粉碎了江青反革命集团，结束了“文化大革命”。由于长期受“左”的思想影响，黑龙江省小铁厂出现增产增亏的局面。1977年产铁13.9万吨，亏损8 040.4万元。1978年产铁23.16万吨（加上不合格铁，号称30万吨），亏损9 475万元。为了改变钢铁工业小而分散的局面，集中发展，形成拳头，黑龙江省革命委员会决定，利用双鸭山铁矿的资源建设年采选180万吨规模的铁矿和年产钢30万吨的钢铁厂（定名会龙山钢铁厂），由于厂址选择用了两年之久，延误了工厂建设时间，在1979年的国民经济调整中被迫停缓建。
　　　　1978年12月，中共中央召开第十一届三中全会，端正了思想路线，把全党工作的着重点转移到社会主义现代化建设上来，从根本上纠正了“文化大革命”及以前“左”的错误。1979年中共中央确定对国民经济实行“调整、改革、整顿、提高”的方针，黑龙江省冶金工业经过坚决而慎重的调整，经济体制改革，全面整顿、综合治理，挖潜改造、完善配套，开始走上了稳步发展的新阶段。
　　　　1979年，集中进行调整，重点调整“文化大革命”中建的小矿山、小高炉。这次调整吸取了1961年“一刀砍”的教训，实行“有进有退、有上有下、在调整中前进”的正确方针，本着“经济合理、择优选留”的原则，经过认真调查和充分讨论，关停25个小铁厂，保留10个炼铁厂、19座高炉，容积492.5立方米，年生产能力25万吨。保留5个小铁矿。这次调整与改革同时进行，收到了明显效果。从1979年开始对调整后的小铁厂实行政策性亏损定额补贴包干办法，每吨生铁补贴230元，1980年降为180元，1981年降为90元，对铁矿石的亏损补贴1980年为每吨12元，1981年降为9元。实行定额补贴包干、节约归己、超亏自负的办法，促进了小铁厂、小矿山加强管理，大力降低成本，一些管理不善，经济效益不好的企业自行停产。到1981年，全省只有4个铁矿、7个铁厂、9座高炉坚持生产，年产生铁13.8万吨，亏损额降为2 411万元。
　　　　1979年，根据国务院发布的《关于扩大国营工业企业经营管理自主权的若干规定》，东北轻合金加工厂、齐齐哈尔钢厂、哈尔滨轧钢厂进行了扩大企业自主权试点。试点企业有计划外产品销售权、内部机构设置及中层以下干部任免权；把按工资总额提取企业基金的办法改为实行企业利润留成。扩权试点结果，使企业利润大幅度增加，企业的利润留成也按比例增加，有力地调动了企业和职工的积极性。1982年，加速了改革步伐，学习首都钢铁公司经验，全面推行了经济责任制，实行责、权、利相结合，国家、企业、职工三者利益相统一，改变了多年来“吃大锅饭”的分配方式。1983年以后，部分企业进行厂长负责制试点，确立了厂长在生产、经营、行政工作的中心地位和决策作用。1984年，黑龙江省冶金工业厅向直属企业下放22项权限，向事业单位下放10项权限，其中包括“组阁权”、中层干部任免权、职工调动和机构设置权、职工奖惩和奖金分配权、计划外产品生产经营自主权等。
　　　　在改革的同时，进行了企业的“全面整顿、综合治理”。从1982年起，根据中共中央、国务院《关于国营工业企业进行全面整顿的决定》，利用4年时间，对全省32户全民所有制冶金企业分期分批地进行了全面整顿，重点整顿了领导班子、劳动纪律、劳动组织、经济核算和经济责任制，到1985年全部整顿结束，经验收合格。东北轻合金加工厂、齐齐哈尔钢厂、哈尔滨轧钢厂、哈尔滨冷轧带钢厂、哈尔滨钢丝绳厂、永安焦化厂等6户冶金企业，被黑龙江省人民政府命名为“六好企业”。
　　　　在改革、整顿的同时，加速了技术改造的步伐。由于黑龙江省冶金工业大多数始建于“大跃进”和“文化大革命”时期，工艺不完善，设备不配套。针对这种情况，全省冶金行业进行了以“挖潜、改造、配套、扩建、充分发挥综合生产能力”为主要内容的技术改造。多年亏损的西林钢铁厂，从1980年起进行完善配套改造，解决了烧结、转炉、轧钢三个卡脖子环节，增建了第二炼钢车间。又在1983～1984年打了两年扭亏增盈“背水一战”，于1984年全面达到设计能力，实现了扭亏为盈。小铁厂综合生产能力有了提高，全部吃上了精料，解决了过冬生产问题，各项技术经济指标跃居全国先进行列，于1984年全部实现了扭亏为盈。有色金属企业扩建了松江铜矿、佳木斯铝厂，又新建了黑龙江铝箔厂。在改革开放方针指引下，齐齐哈尔钢厂从联邦德国引进10吨电渣炉、从瑞典引进S1钢包喷粉技术等国际先进水平的技术装备。东北轻合金加工厂利用国外新技术，系统改造了板材车间，从联邦德国、意大利、美国、日本引进5套国际先进水平的设备，建了铝箔、板带、建筑铝型材和预拉伸板生产线。通过引进国外先进技术设备，使老企业的部分装备赶上了国际先进水平，部分冶金产品开始向国外出口。
　　　　中共第十一届三中全会以后，黑龙江省冶金工业认真贯彻“调整、改革、整顿、提高”的方针，面貌发生了根本性的变化。1985年与1978年对比，产值、主要产品产量和利税总额显著增长，亏损大幅度下降。全省冶金工业总产值增长59%；钢、钢材、生铁、铝镁加工材产量分别增长38.7%、56.6%、25.6%、62.2%，铁合金和铜、铅、锌精矿含量分别增长2.3倍和2.1倍、1.06倍、1.16倍；利税总额由1978年的1 807万元，增加到1985年的21 282万元，增加10.8倍；亏损企业由1978年22户减少为1985年的6户，亏损总额由1978年的10 930万元下降到1985年的380万元，减亏96.5%。冶金工业成为缴纳利税较大的行业。
　　　　1985年，黑龙江省已经形成了钢铁和有色金属（铜、铅、锌、铝）从矿山采选，到冶炼加工，以及冶金辅助材料（焦化、耐火、铁合金、碳素制品、保护渣）等门类比较齐全、初具规模的冶金工业体系，并有一支冶金设计、研究、建设、生产、机修、教育、供销及进出口等冶金专业职工队伍。1985年，全省冶金职工达8万余人，有冶金企业、事业单位49个。拥有固定资产原值15.7亿元，设备总重11.6万吨。已形成铁矿年开采能力38万吨；选矿年处理原矿能力58.5万吨；炼铁高炉17座，容积494立方米，生铁年生产能力34.3万吨；各种炼钢炉（包括非冶金系统）92座，837.5公称吨，钢年生产能力93.4万吨；各种轧钢机41台套，钢材年生产能力93.6万吨；炼焦炉（包括非冶金系统）16座，316孔，焦炭年生产能力92万吨；铁合金年生产能力1.15万吨；耐火材料年生产能力5万吨；铜采选能力日处理原矿量750吨；铅、锌采选能力日处理原矿量800吨；再生电解铜年生产能力2 400吨；电解铝年生产能力5 000吨；铝镁加工材年生产能力55 070吨；铜材年生产能力2 000吨。还有稀土、钨钼材料等稀有金属的生产。形成了以齐齐哈尔钢厂、东北轻合金加工厂、西林铅锌矿为国家重点企业，以西林钢铁厂、哈尔滨轧钢厂、牡丹江耐火材料厂、小岭铁合金厂、松江铜矿、佳木斯铝厂等为地方骨干企业，辅以一批小型铁矿、炼铁厂、炼钢厂、轧钢厂、有色金属冶炼加工厂，以及冶金辅助材料、冶金机修企业等大、中、小并举的格局。1985年，黑龙江省冶金工业总产值为10.125亿元，铝镁加工材和焦炭自给有余。
　　　　至1985年，全省冶金工业与国民经济发展的需要及全国兄弟省市比较，还存在产量小、品种少、发展慢、结构不合理等问题，钢材自给率仅有29.4%，铁矿石自给率仅有30%。在全国29个省、市中，黑龙江省1985年生铁产量排第24位，钢和钢材产量排第16位，人均产钢量22.9公斤，为全国人均产钢量44.5公斤的一半。这种状况与黑龙江省五大（大农业、大林业、大机械、大煤炭、大石油）基地的地位很不相称，形成“五大一小”（小钢铁）的局面，有色金属的资源优势还没有变成经济优势。