清末，一些供穆斯林读书的清真小学在省内相继兴起。但这种没有教学管理组织的办学 方式，难以使伊斯兰教教育事业顺利发展。瑷珲私立清真初等小学校因经费等问题停办，便 是一例。为保证这一新生事物的健康发展，清真寺与回族穆斯林中有识之士，共同创办起带 有社会自助性质的宗教兼民族团体。1911年（清宣统三年），绥化县回族穆斯林沙广明、马 兆祥等人出面发起成立全省第一个伊斯兰教团体——绥化县清真教育会。“私立绥清初等小 学校。经办学人员发起成立教育会，已达学龄，须次第升学，人人皆识字，以普及教育为宗 旨。”①（①采辑《绥化县教育志》。）1912年，王宽等人出面倡议，在北京成立中国回教 俱进会，以联合国内回教人民协赞共和，坚持统一，偕同进化，以期巩固国基，阐发回教教 义，提高回民福利为宗旨。各省相继设俱进会支部。隶属于中国回教俱进会。省垣清真寺（ 今齐齐哈尔清真东寺）绅董王宝瑞拟成立黑龙江省垣回教俱进会支部，几经周折，终经黑龙 江省行政公署批准，于1913年宣告成立。同年9月4日，丁永林、马兆祥等10人成立绥化县回 教俱进会支部。嗣后，省内有百户以上的回族穆斯林的多数城镇，也陆续相应地成立支部。
　　　　1925年，黑龙江省回族共治会在齐齐哈尔宣告成立，会址设在清真东寺，章程规定“以 治理本城回族一切公益事业为宗旨”。并在东寺内创办学校，设有教务股、总务股。全省部 分清真寺也先后成立相似机构。早期有安达清真寺，于1925年6月1日成立起回族共治会。
　　　　东北沦陷时期，日本侵略者插手宗教事务，于1933年8月在日本关东军的直接策划下，在 长春始创“新京伊斯兰教协会筹备会”。同年，成立哈尔滨“伊斯兰教协进会”。会址设在 哈尔滨清真东寺。省内牡丹江、密山、穆棱等少数市县也相继成立“伊斯兰教分会”。1934 年7月3日，成立全东北的“满洲伊斯兰教协会”。川村狂堂为总裁，丁一青（又名丁兰亭） 为会长，王殿忠、马殿显为名誉会长，韩集斋为理事长。嗣后，该会在黑龙江少数大城市清 真寺内设立支部，各市、县、镇的清真寺多数设立分会。如满洲伊斯兰协会呼兰分会于1935 年4月14日成立。该会以满洲伊斯兰协会简章为依据，其宗旨是：“1．本会得处理本地伊斯 兰教内一切公益事项；2．本会为研求宗教促进文化得设各项研究会及讲演会等；3．本会应 负责改善教民生活普及教育使兴社会俱进；4．本会得受总会及各官署委办事项或签复咨询事 项；5．本会得代表本地居住伊斯兰教徒建议于总会或各官署。本会设名誉会长1人、副会长 2人、干事15人、评议7人，资金来源于会费、特别捐助金、寺产、募集等渠道。”1936年11 月，伪“满洲伊斯兰教协会”改称为“满洲回教协会”，统领各省支部和分会。黑龙江也相 应改称满洲回教协会某地支部或某地分会。迄1940年5月，全省先后成立了2个支部、34个分 会。支部和分会所在地，凡20岁以上回族穆斯林均是会员。伪“满洲回教协会”为全面控制 黑龙江伊斯兰教，总监王殿忠（回族，伪满洲国军司令）函令尚未成立支部或分会的清真寺 尽快成立。
　　　　1940年3月9日，王殿忠函告齐齐哈尔清真东寺，早日成立支部。该寺被逼无奈，次年成 立支部。部分清真寺也被迫成立分会。日本关东军为加强“满洲回教协会”势力，1940年8月 12日将东北三省伊斯兰教知名教长、社会知名人士聘为该会参事。哈尔滨、齐齐哈尔、阿城 等10几名黑龙江伊斯兰教上层人士被其聘任。
　　　　据1936年伪《满洲国回教协会章程》规定，其活动宗旨，在于“宣扬大东亚精神，实现 民族协和”。显见该宗教团体的出现和一再改组，是服务于日本帝国主义侵华战争和长期统 治中国东北总目标的，但为了不“刺激民族意识”，乃标榜“普及回民教育，改善回民生活 ，努力达到阐明教义”，给黑龙江人民以民间宗教团体以假象，混淆视听，笼络人心，麻痹 回族穆斯林。
　　　　伪“满洲回教协会”为了效忠日伪政府，实现既定“宗旨”，在黑龙江有的地方成立“ 宣传班”等小团体，致力于“陶冶青年精神”，宣传奴化思想。齐齐哈尔市于1935年成立的 日满青年会，便是其一。
　　　　日本关东军御用团体伪“满洲国协和会”（会址在长春）也曾下令黑龙江地区各“省会 ”所在地清真寺成立分会。齐齐哈尔清真东寺于1934年成立“满洲国协和会龙江回教分会” 后，相继有滨江省、三江省、黑河省、北安省、牡丹江省成立伪满洲国协和会回教分会。
　　　　伪“满洲国协和会”与“满洲回教协会”保持着“管理和精神上的联系”。“两会”为 日本帝国主义侵略大唱赞歌，为日伪政权推行“全民皆劳”等反动政策起到极坏的作用。省 内各支部、分会自成立之日，就已名存实亡。“两会”下达任务，能拖就拖，表面上应付， 暗地里消极怠工。全省会员暗中普遍孕育着反满抗日的思想，其中不乏爱国志士积极支持或 参加反满抗日斗争。如黑河市回族穆斯林中就有抗日联军的秘密交通员。有识之士还在会员 中揭露日本关东军的暴行，宣传反满抗日思想。如海伦县清真寺教长杨景元经常向穆斯林揭 露伪满统治者的罪行。1937年秋，杨景元被日本关东军关押后，施以酷刑，逼迫他“认罪” 。他却宁亡不屈，经全体会员多次出面抗议并联名担保，当局无奈只得将入狱3月之久的杨景 元无条件地释放。黑龙江“两会”随着伪满政府的灭亡而自行解体。此外，省内部分清真寺 为本坊穆民的公益事业而成立的小团体。多为自助性质的，不负有政治使命。如齐齐哈尔市 清真东寺经市警察厅特务科批准，相继成立了公事结社、生产资金救济部、日满牛羊肉商组 合会等小团体均属此列。