Pondok Pesantren Al Karomah berada di Desa Moga Kecamatan Moga Kabupaten Pemalang. Pondok pesantren yang diasuh oleh KH Muhamad Hasyim berdiri sejak 2016. Sebelum terbentuk menjadi pondok pesantren seperti yang sekarang ini, dulunya KH Muhammad Hasyim hanya mengisi Majlis Taklim di rumahnya. Banyak masyarakat sekitar yang mengikuti kegiatan majelis talim tersebut untuk mengikuti dzikir berjama’ah, sholawat dan mengkaji pelajaran keagamaan.

Seiring berjalanan waktu, banyak jama’ah yang ingin menitipkan putra-putrinya untuk belajar pada KH Muhamad Hasyim. Karena saat itu beliau belum memiliki tempat yang memadai maka dibangunlah bangunan seperti gubug untuk para santri belajar agama.