当韩复榘主鲁时，派兵进剿，收效甚微，后改剿为托，于一九三二年二月将刘黑七部调往长清、高唐、夏津一带，改编为“山东警备军”，韩复榘任总指挥，刘黑七任副总指挥。但不到半年，刘黑七又不听调遣，并于同年窜入河北，在霸县挖了韩复榘的祖坟，后入热河，打败了汤玉麟的省防军，强驻开鲁、林西一带。

一九三三年春，日军攻陷热河，刘黑七见日军气威，遂降日，被委任为第三路军总指挥，下辖三个军，曾配合日寇茂木骑兵旅团侵占沽源等地。同年八月，又通电参加冯玉祥、吉鸿昌的抗日同盟睪，被委任为第十七军军长，曾參加收复多伦等地的战斗。九月，同盟军失败刘部又被何应钦收编，任察东剿匪司令。

一九三四年二月，由于同汤玉磷冲突，部队哗变，刘黑七又率部南窜至鲁西，后又窜河南，山西与军阀刘柱国混战。又复东向，与刘峙部接战后，于同年三月一天，窜鲁西，欲二次回鲁南老巢，时韩复榘仍主鲁，因与刘黑七有不解之仇，蒋介石亦令韩复榘严剿，故不待刘黑七返鲁南，韩复榘即动用五个师的大部和民团，围追堵截欲求全歼。

梁山—战，歼其百余人，郓城一战，歼其七十，复窜汶上，安驾庄，长清，均遭反复拦击，刘黑七匪残部化整为零，潜入山中。

韩复榘乃发通缉令，悬赏缉拿，刘匪经莱芜、蒙阴一带，期潜回老巢，入沂水境，遭堵击，窜莒县，又被歼五十，陷重围，突围后向南窜江苏，复受合击乃再入山东，破重围后经莒县入诸城，欲到青岛补给立遭沈鸿烈堵击，乃转高密，又遭联庄会伏击；复回诸城，走莒县，入日照，折回莒县，屡遭袭击，匪部溃败，复入江苏赣榆朱汪被王佐良迎击，再返山东，向莒县流窜，沿途又多次遭痛击，死伤殆尽。

刘黑七见大势巳去，即将余部交“师长”刘怀志带领（后瓦解）。刘黑七于四月二十二日只身从海上逃往天津，在日租里潜居。韩复绢得知后，曾派人刺杀，但仅伤其嘴和脚。同年秋，刘伤愈后，两次曾想联络旧部起事，末成。

翌年秋，亲自到宣化刘德胜部网罗人马，发展至三千多人。

一九三四年春，刘黑七又窜回了山东。当时的山东省主席韩复榘，决心重兵追剿，灭掉刘黑七。韩复榘在泰安北张夏车站亲自督战，住在铁甲车上。

刘黑七所部伤亡很大，刘黑七把所部分成了四路过了铁路。刘黑七的最后一股土匪是从韩复榘铁甲车下边的桥洞中乘黑夜通过的。刘黑七被追剿到诸成后，遭受了伏击，被打伤了肚子，但没有被打断肠子。

这时，刘黑七把残兵分为两路，一路蹿至安邱南部经沂山准备回蒙山，一路沿海，南去日照，经过莒南北部，想蹿回蒙山潜伏起来，待机来一个东山再起。刘黑七本人绕道赣榆，在赣榆当地大土匪头子黄泥头（张星三）的帮助下，由红石崖乘帆船至青岛，秘密住在四川路的一家棚户里，枪伤使他的肚子肿了，待了半个月，微露出两个子弹头。刘黑七自己用一个铁夹子硬把子弹拔了出来，又养了几天，秘密到天津日租界去了。

一九三五年的冬初，当日本人在华北成立傀垒政府，在蒙古利用封建王爷德王、云王等闹****，在冀北以殷如耕为首成立“冀东政府”之际，刘黑七又活动起来，他从天津卫到了宣化，大力招集散兵游勇以及小股土匪，半年时间，又纠集了四千多人。

自从“七七”事变爆发，刘黑七认为机会又到了，于是，他便跟着日寇开进了山东，渡黄河转胶东，在掖县、平度一带休整。

不久，刘黑七“反正”了。刘黑七于三六年初，再次回天津，投靠日本帝国主义，“七七”事变后，刘收拢旧部，准备为日军效力，日寇沿津浦路向山东进攻时，刘黑七被委任为“皇协军前进总司令”，率部跟随日寇三次回山东，始驻鲁北，后转胶东在掖县、即墨等地招兵买马，到这三八年又扩充至三千多。因向赣榆进攻时，被东北军五十七万毅等团和赣榆榆地方军民打败后，对小鬼支援不力，很是恼火。

由于，这个原因，也就不大服从小鬼子在临沂战场上的指挥了，又由于战场的混乱，从而发生了互击和械斗，几乎被解除武装，乃于年底撤出胶东，打着“反正抗日办的旗号。开进鲁中山区，被国民党苏鲁战区司令于学忠改编为“新编第三十六师”，刘又重新当上国民党的师长。