牡丹江铁道局成立于1936年10月1日，是5个管理国线的铁道局中成立最晚的一个。首任 局长是日本人斋藤固。
　　　　据《牡丹江铁道局五年史》称，日本侵略者决定成立牡丹江铁道局的背景和原因是：① 图牡、牡林线相继建成，又收买了中东铁路，使这一地区的线路增多。②1936年起日本决定 向东北移民100万户计500万人，半数以上移向牡丹江铁道局管内地区。③加紧东满开发，掠 夺煤、木资源。④接近苏联边境，加强北部军事力量。⑤打通自北满经朝鲜三港（清津、罗 津、雄基）到达日本的最短铁路。
　　　　因此，受到日本上层的重视。从建局到1939年3月间，前来该局视察的就有：满铁总裁1 次，副总裁5次，关东军司令官6次，日本政府大臣、大将5次、皇族6次，伪满皇帝溥仪巡狩 1次。配属的日本人员占全局的47．5%，在各铁道局中排位第一。
　　　　1937年6月15日对滨绥线进行改轨，当月17日即改轨完毕。至此，全东北轨距统一。
　　　　
　　　　牡丹江铁道局组织系统分7大部分：
　　　　局机关各部室（同哈尔滨铁道局）。
　　　　牡丹江、图们、佳木斯、东安铁道管理部。
　　　　牡丹江铁道工场。
　　　　牡丹江生计事务所。
　　　　各站段。
　　　　牡丹江、图们、佳木斯、东安、绥芬河医院，横道河子保养院。
　　　　教习所。
　　　　全局人员共32177人，按营业里程每公里平均约15人。局机关内1544人，基层生产单位2 8531人，其他单位2102人。
　　　　主要运输设备有：客运机车29台，货运机车235台，其他机车45台，合计309台；客车45 7辆，其中一等及一等卧铺车10辆，二等及二等卧铺车20辆；货车全东北运用，数量同哈尔滨 铁道局。