Masuknya Jepang ke Indonesia di awal tahun 1942, membawa perubahan yang cukup banyak bagi rakyat Indonesia. Pada awalnya rakyat Indonesia menyambut kedatangan Jepang dengan keyakinan bahwa bangsa Jepang akan membebaskan bangsa Indonesia dari penjajahan Belanda. Anggapan seperti ini terjadi karena jauh sebelum bangsa Jepang menguasai Indonesia, orang-orang Jepang telah disebarkan di wilayah Indonesia untuk melakukan propaganda terhadap rakyat Indonesia. Melalui propaganda ini rakyat Indonesia menjadi yakin bahwa Jepang bermaksud baik. Setelah menduduki Indonesia, bangsa Jepang mulai merangkul golongan nasionalis untuk bekerjasama. Hal tersebut dilakukan dengan tujuan agar golongan nasionalis yang memiliki kedudukan penting dalam masyarakat dapat membantu pemerintah Jepang untuk memobilisasi rakyat. Selain golongan nasionalis, golongan Islam juga menjadi perhatian pemerintah Jepang. Sikap golongan Islam yang anti Barat membuat pemerintah Jepang ingin bekerjasama dengan golongan ini. Kerjasama dengan golongan Islam dilakukan oleh pemerintah Jepang dengan tujuan penghapusan pengaruh Barat dan mobilisasi rakyat untuk kepentingan perangnya. Kebijakan pemerintah Jepang terhadap golongan Islam sangat lunak. Di masa pendudukannya, pemerintah Jepang rnempcrbolehkan organisasi Islam yang telah ada sejak masa penjajahan Belanda yaitu Majelis Islam A'la Indonesia (MIAI) tetap ada. Setelah MIAI dibubarkan karena dianggap kurang menguntungkan bagi Jepang, pemerintah Jepang kembali mendirikan salu organisasi bagi umat Islam yaitu Majelis Syuro Muslimin Indonesia (Masyumi). Selain itu, pemerintah Jepang juga mendirikan kantor urusan agama dan mengadakan pelatihan bagi para ulama. Pada masa pendudukan Jepang pula tokoh-tokoh golongan Islam Indonesia menduduki jabatan dalam pemerintahan. Memasuki tahun 1944, pemerintah Jepang mulai mengalami berbagai kekalahan. Hal tersebut kemudian membuat pemerintah Jepang menjanjikan kemerdekaan bagi bangsa Indonesia. Janji tersebut kemudian mulai direalisasikan dengan membentuk Badan Penyclidik Usaha Persiapan Kemerdekaan Indonesia (BPUPKI). Keadaan pemerintah Jepang yang semakin terdesak juga membuat pemerinlah Jepang mengizinkan berdirinya organisasi semi militer bagi para pemuda muslimin yaitu Barisan Hizbullah. Organisasi ini secara resmi didirikan pada tanggal 3 Desember 1944. Pada awal pembentukannya, jumlah anggota Barisan Hizbullah dibatasi hanya 14 ribu orang. Kemudian pada bulan Februari 1945, diadakan pelatihan bagi anggota Barisan Hizbullah di Cibarusa. Peserta latihan Barisan Hizbullah di Cibarusa berjumlah 500 orang. Peserta latihan tersebut merupakan wakil dari tiap-tiap keresidenan yang ada di Jawa. Lama latihannya adalah tiga bulan, terdiri dari latihan jasmani dan rohani. Selesai dari pelatihan di Cibarusa, mereka semua dikembalikan ke daerah asal masing-masing. Kemudian mereka melatih pemuda di daerahnya sehingga terbentuklah organisasi Hizbullah pada tingkat yang terendah yaitu tingkat kelurahan, kecamatan, atau kabupaten. Hal serupa juga dilakukan oleh para alumni latihan Hizbullah Cibarusa yang berasal dari keresidenan Semarang. Dari seluruh wilayah yang ada di keresidenan Semarang, organisasi Hizbullah di kabupaten Demak merupakan yang paling maju jika dibandingkan dengan wilayah lainnya. Hal tersebut ditandai dengan terbentuknya batalyon Bintoro Demak yang telah terkoordinasi dengan baik. Balalyon Bintoro merupakan cikal bakal dari terbentuknya Barisan Hizbullah divisi Semarang yang merupakan organisasi Hizbullah pada tingkat keresidenan. Kemudian untuk lebih memudahkan koordinasi, maka Barisan Hizbullah divisi Semarang bergabung dengan divisi Surakarta menjadi divisi Sunan Bonang. Adanya dua kekuatan bersenjata di Indonesia, yaitu TRI di satu sisi dan laskar serta barisan di sisi yang lain membuat pemerintah berkeinginan untuk menggabungkan kedua kekuatan bersenjata ini menjadi satu. Pada tanggal 5 Mei 1947, keluarlah penetapan Presiden yang memutuskan menggabungkan TRI dan laskar serta barisan ke dalam satu organisasi tentara yaitu TNI. Kemudian bergabunglah Hizbullah divisi Sunan Bonang dengan TIi ke dalam Resimen 6 Brigade 24 Divisi IV/Panembahan Senopati.