甲种宪兵队改为伪宪兵团及宪兵分团。警务课是宪兵团的主要机构，较大的伪宪兵团警务课下设有警务、特务、司法三个系，分别承担军官风纪等军事行政警察业务，思想对策，防谍任务，以及惩处军人违法业务等。
伪满宪兵队改组为伪宪兵总团后，其数量也有所增加。1939年以后，相继在佳木斯设立了伪第7宪兵团，在通化设立了伪第8宪兵团，在通辽设立了伪第9宪兵团，在海拉尔设立了伪第10宪兵团，在密山设立了伪第11宪兵团。到1939年秋，伪宪兵总团人数达1900余人。《长春文史资料》（2），第129页。后由于1940年独立宪兵队解散，伪满宪兵人数一度有所减少，但1941年以后又有所增加。
这一期间，伪满宪兵除组成了对苏作战准备的独立宪兵队之外，还临时组成了若干专门宪兵队。①伪宪兵特别工作班，亦称特别技查班，共组成了三个班，专门从事无线电侦察及其他谍报业务，配合日伪军特务机关搜集情报。曾先后被派遣到内蒙锡林郭勒地区、三江地区、通化地区等地，进行特务情报活动，以及搜捕抗日地下人员。《档案资料选编》（4），第391～397页。②冀东地区宪兵派遣队。1938年6月，伪宪兵总团司令部派出以宪兵上尉石川与一为队长由30余名宪兵组成的伪宪兵派遣队，随同伪兴安南警备司令部派遣的伪骑兵3个团，到冀东蓟县等地，进行讨伐作战，搜捕八路军和抗日群众。③三肇地区宪兵派遣班。1940年12月至1941年8月间，日伪对三肇地区实行大讨伐，为此从伪宪兵第4团中抽出30余名宪兵组成派遣宪兵班，在伪第4军管区主任顾问皆藤大佐的指挥下，配合日伪大讨伐。期间曾协助日伪军警镇压王岗伪军飞行队起义。《档案资料选编》（4），第355页。
1941年日本发动太平洋战争后，伪满洲国被纳入日本法西斯“战时体制”，日伪的镇压更为残酷。1942年1月，关东宪兵队司令部向下属各宪兵队发布了《昭和17年度思想对策服务要点》的命令，要求下属宪兵队将“思想对策”转入战时体制。其要点是：①警防与镇压苏联和中国关内对伪满的思想策动；②重点搜捕与镇压在东北知识界中的共产党及抗日组织；③彻底调查汉满蒙朝等各民族的反日思想动向，并予以防范和镇压；④警防与镇压太平洋战争爆发以来东北人民对日伪经济统制与掠夺的“扰乱”与反抗。《档案资料选编》（4），第240页。
关东宪兵队为把“思想对策”深入到社会基层，认为必须弄清各阶层民众的心理状态和思想情况，彻底开展“思想秘密战”。为此，关东宪兵司令部于1942年7月又抛出了《关东宪兵队警务工作指针》，作为“思想秘密战”的指导方针。其要点是：①要把特务情报网安插到各民族各阶层的各个生活领域，把握民众对日伪统治的真正思想动向；②注意区分各民族的特性，把握各民族的思想动向；③注意通过流通、消费等各生活领域中反映出来的社会现象，捕捉民众动向的实质；④把握地区特点和特殊人，以此来弄清当地民众的思想倾向；⑤在商社及社团基层机构建立“可靠而持久”的秘密情报网，监视民众动向。参见傅大中《关东宪兵队》，第222～227页。
为贯彻这项“指针”，宪兵队录用一些效忠日本的朝鲜人和中国人为宪补和宪兵补，在各阶层、各领域精心培育了许多“优秀可靠”的特务和密探，在东北各地实行白色恐怖的特务统治。首先，宪兵队利用对其他警务机构和业务的统制权，在各机构，团体建立起秘密情报网，监视官吏，鱼肉百姓。如在伪都新京，由特高课特别情报班班长渡边千之等控制、利用吕荣寰的长子等人监视伪满高官；由思想对策班在建国大学、法政大学、师道大学等大学中发展密探，监视爱国师生。其次，通过密布各地的谍报网，加强对各民族，各阶层民众思想动向的侦察和监视，对社会传言严加追查，甚至连学生转学、百姓娱乐等生活琐事也不放过，动辄就以莫须有的罪名迫害民众。再次，将“思想对策”与防谍业务结合在一起，即把在边境地区对苏防谍业务与在东北内地破坏中共等反日地下组织结合在一起。一面派假情报员扰乱民心，一面加强对重点地区、重点目标的监控。为此，关东宪兵司令部于1943年6月发布了《如何查明苏联思想策略的真相》的文件，提出采取先入为主的积极工作方式，从调查和研究民众思想动向入手，发现线索，果断处理，并确定了四类地区和六种重点人，实行法西斯特务统治。
这一时期，伪满宪兵的力量也得到了加强，特别是加强了特高（特别高等警察）课业务。从1939年伪满宪兵队改编为伪宪兵总团后，各宪兵团就设有特高系（有的称特务系），随着战局日趋紧张，伪宪兵团不断强化特高业务，除加强原有对伪满军的监控等业务外，又增加了思想对策、防谍、基础调查等业务。所谓“思想对策”，主要指对伪满军内部思想言行的监控，研究和制定各种防范措施和对策。所谓防谍，可分为两方面，一方面是伪军内部的防谍，即防止反日活动从外部影响伪军；一方面是外部防谍，即对伪军的外部联系进行调查、监视，以消除伪军周边的反日因素。1943年以后，伪宪兵团中的特高系升格为特高课（后称特务课），在伪宪兵总团参谋处第3课的指挥下，特务警察活动进一步加强。
与此同时，伪宪兵数量也不断增加。1943年以后，在锦州设立了伪第12宪兵团，在内蒙科右前旗设立了伪第13宪兵团，在鞍山设立了伪第14宪兵团。至伪满垮台前夕，伪满宪兵团共有15个，分团37个，伪宪兵总人数达2700多人。《日伪宪兵与警察》，第219页。
伪满宪兵作为日本宪兵队的帮凶，这一时期的主要特务活动有：①监控伪军和搜集情报。伪满宪兵对各地的伪军军事机构及军人，以及伪满政府机构中与军事相关的部门等实行监视侦察，调查其思想动向，将掌握的情报通报给日本宪兵队等警务机构，采取压制、逮捕和镇压活动。中央军事机构、军队等是其重点监控对象，而且连与军事部门相关的宗教团体、娱乐场所等，都设有伪满宪兵的秘密侦探网，对伪军的内部和外部均实行严密的监控。②强化思想对策，伪满宪兵通过四处密布的侦察网，密切注意伪军内部及外部联系的思想动向。这项工作主要由特高课负责。其方法是，及时捕捉各种可疑线索，展开秘密调查，并与其他警务机构协同镇压。其实伪满宪兵往往捕风捉影，巧立罪名、滥杀无辜。③防谍工作是伪满宪兵的一项重要工作内容，对伪军内部来说，家属探访，雇用员工等，都要经过宪兵的审查；对那些受过惩处的官兵，都由宪兵严密监视，防止进行反日活动。从外部关系看，涉及军事设施的工程，伪军对外联系的有关团体等，都受到宪兵的监控。总之，伪满宪兵以伪军为主要监控对象，从内部到外部，从军官到士兵，以及与伪军和军事设施相关的各领域各层次，都受到宪兵的监视、侦察。
日本关东宪兵队作为日本帝国主义侵略和殖民统治的工具，特别是“九·一八”事变后成为关东军进行法西斯殖民统治和镇压抗日的凶神，通过密布情报网的特务方式，以极其残酷的手段，屠杀中国人民，镇压抗日力量，犯下了不可饶恕的罪行。
一疯狂镇压反满抗日运动
“九·一八”事变后，面对日本法西斯的侵略，中国各民族、各阶层人民进行了不屈不挠的斗争。日本法西斯则动用军警宪特等镇压机构，以残酷的手段镇压反满抗日运动。关东宪兵队除配合关东军进行大规模的军事围剿之外，在平时指挥其他镇压机构，成为实行白色恐怖的主导力量。
在日本统治东北的14年中，以宪兵队为首的日伪当局进行了较大规模的逮捕与镇压。
1“六·一三”事件
1936年6月，日本关东宪兵队下达命令，对北满共产党地下组织进行了一次有预谋，有计划的大规模逮捕和镇压。
1936年初，中共在东北建立了东满、南满、北满、吉东4个省委和哈尔滨特委，领导东北抗联和人民坚持抗日斗争，对日伪统治给予了沉重打击。因此，日伪当局始终把中共作为镇压的主要对象。是年春，齐齐哈尔宪兵队侦知当地新闻、教育界有反满抗日活动。经调查判明，在满洲里、齐齐哈尔、牡丹江等北满地区，有大量的共产党人秘密活动，于是关东宪兵队决定在北满实行大逮捕。为此，由时任关东宪兵队司令部“思想对策”主任兼警务部第3课长的宇津木孟雄起草制定了侦察计划和命令方案，并向各个宪兵队进行了传达。
6月初，关东宪兵队向关东军司令部报告了侦察结果，得到实行大逮捕的批准。原定于6月底某日实施，由于6月6日海拉尔军队抓捕的北满特委任福路等人于押送途中逃跑，关东宪兵队司令部提前于6月10日下达了逮捕命令。并召开紧急会议，制定了《以哈尔滨为中心的一齐检举共产党计划一览表》进行了周密部署。《档案资料选编》（8），第42页。
从6月13日开始，日伪警宪特在齐齐哈尔、哈尔滨、海拉尔、牡丹江等地，一齐出动实行大逮捕。仅第一批抓捕人数就达149人，其中哈尔滨52人，齐齐哈尔38人，海拉尔11人、牡丹江48人。此后继续在各地抓捕，总人数达213人，其中教育工作者87名《黑龙江文史资料》（28），第14页。；大多是教育界、报界的爱国人士。如黑龙江《民报》社长王甄海，《大北新报》画刊社编辑金剑啸，伪龙江省教育厅长王宪章（国民党黑龙江省党部常委），教育厅体育股长姜赓年，龙江省立日语专修学校教师麻秉钧，省立第一师范教师王柱华等人。
日伪当局对抓捕的爱国抗日人士进行残酷刑讯，据时任齐齐哈尔宪兵分队上等兵的土屋芳雄交代：曾采用灌凉水、上大挂、棒打等酷刑残害被捕者，有的被当场迫害致死。在日本宪兵队审讯王宪章时，他高声怒斥敌人：“士可杀不可辱，头可断不可侮”，并挥拳与敌搏斗，当即被宪兵枪杀。《黑龙江文史资料》（2）；第14页。日本宪兵队对被捕者进行刑讯折磨后，分别做出了死刑和不同刑期的判决。1936年8月，日伪将在齐齐哈尔被捕者王甄海、金剑啸、麻秉钧、王柱华、阎达生等5人判处死刑，26人被判徒刑；8月15日，王甄海等5人于齐齐哈尔北郊英勇就义。10月，日伪对丁立足等52名在哈尔滨被捕者，判处死刑15名，无期徒刑5名，有期徒刑25名，其他缓刑。《档案资料选编》（8），第31～50页。
这一事件是日伪镇压共产党及反满抗日的第一次大规模的行动。
2“四·一五”事件
1937年4月15日，日伪宪警特对北满以哈尔滨为中心，以及南满奉天、抚顺等地的中共地下组织又一次进行了大规模的逮捕和镇压，并残害了一大批无辜群众。
1937年3月，哈尔滨日本宪兵队从叛徒的供词中，获得了中共哈尔滨特委的组织机构及有关人员的活动情况，于是召开警宪特务镇压机构会议，制定了大逮捕计划，确定在日本宪兵队的统一指挥下行动。从4月15日晨开始，日伪当局在苇河县等哈东特委活动地区，逮捕中共抗日人员及无辜群众207名，其中中共苇河县委书记杨树森、地下党员伪苇河县警务科警长张霭如等均被逮捕，使哈东特委地下组织遭到严重破坏。
同时，在哈尔滨逮捕哈特委书记韩守魁等110人，在安达、双城、阿城等地也抓捕了数十人。《档案资料选编》（8），第117页。接着又将逮捕扩大到奉天、大连等地，至11月，共有中共党员、团员及爱国群众745人被捕入狱，其中198人被杀害。《东北沦陷十四年大事编年》第228页。中共哈东特委、哈尔滨市委、奉天市委、大连市委，以及海伦、呼兰、抚顺等县委、特支等遭到严重破坏。
在“四·一五”逮捕中，日伪还制造了“法政大学事件”和“口琴社事件”。据时任中共哈尔滨市委书记张瑞麟的回忆，市委宣传部长冯策安与交通员艾风林根据市委决定，假扮夫妻建立临时家庭，以掩护地下活动。其行动被伪哈尔滨警务厅特务科密侦郎树勋探知。在“四·一五”大逮捕时，冯策安被捕后在敌严刑下出卖了原法政大学毕业生、中共党员于维范和刘芳声。敌在逮捕2人时，从其家中搜出法政大学同学名录和结义金兰谱，认为是中共地下组织名单，于是敌人按名单抓捕了赵魁（中共党员）关文明等12人。
口琴社是成立于1935年的进步群众文艺团体，地下党员姜椿芳、金剑啸等参加其活动。该团体曾演奏进步抗日乐曲，在群众中有很大影响。在“四·一五”日伪抓捕冯策安时，将同院的口琴社职员唐嘉伟捕去，唐在敌严刑拷打下，供出口琴社活动及其成员。于是日伪从4月18日抓捕了侯小古、王湘等原口琴社成员10余人，并将这一事件当成共产党案件上报伪中央警务司。
日伪对“四·一五”事件的被捕者施尽吊刑、电刑、上大挂等种种惨不忍睹的酷刑，使被捕者轻者失去健康，留下终身伤痕和残疾。如对艾风林刑讯时，日本宪兵泉屋扯开她的外衣，赤裸出她的胸部，用木棍拨打她的乳房，狂笑不止。对法政大学学生赵魁审讯时，残忍地往生殖器上狠踢，当场被活活踢死。仅法政大学被捕的12人中就有7人因刑讯致死。《日军暴行录：黑龙江分卷》第178页。
3“三·一五”事件
“七·七”事变后，抗联和党领导的抗日救国会在三江地区十分活跃，给日伪以沉重打击。于是日伪将“思想对策”的重点由滨江地区转向以佳木斯、汤原、依兰为中心的三江地区。对中共北满临时省委和吉东省委领导下的反日组织及抗日救国会，进行了一次大检举、大逮捕。