KSPPS BMT Mitra Umat bermula dari gagasan anak-anak mudapekalongan, dari berbagai kecamatan di pekalongan. Bermula dari seringnya mereka berkumpul berdiskusi dan rapat membahas tentang pendirian Mitra Umat. Pemikiran dari semua personil yang terlibat dalam pertemuan, diskusi dan rapar-rapat adalah menjadi bermakna dan sangat penting bagi terbentuknya KSPPS Mitra Umat.

Basis idealisasi atau pemikiran dari pertemuan, diskusi dan rapat-rapat tersebut adalah bagai mana caranya menghilangkan rentenir atau bank tongol dalam kehidupan masyarakat yang sangat menjerat kehidupan ekonominya, atau paling tidak bagaimana memberikan suatu solusi alternatif lain yang diharapkan dapat menandingi bank tongol tersebut. Alhasil pemikiran lebih di kerucutkan pada suatu bentuk kelembagaan keuangan mikro yang berbasis syariah.

Dan kebetulan pada tahun 1995 masih hangat-hangatnya konsep Baitul Maal Tamwil yang dikembangkan oleh ICMI yang memiliki kecenderungan yang sangat tepat untuk mengemukakan kelembagaan tersebut dalam menandingi bank tongol. Alhasil lagi berhasil dirumuskan suatu filosofis gerakan untuk mengembangkan ekonomi secara syariah, untuk turut serta mengentaskan kemiskinan melalui gerakan BMT, dan memerangi bank tongol atau rente. Hingga sampai pada perkembangan terkini KSPPS Mitra Umat mencoba untuk terus menerus komit terhadap karakter syariah.

Dari rumah saudara Ahmad Ilyas yang juga sebagai salah seorang guru SMP Ma’had Islam, banyak anak muda yang saat itu semuanya belom berkeluarga, dan semuanya cenderung belum mempunyai pekerjaan yang sangat memadai, dengan penuh semangat terus menerus menggodok idealisasi tersebut diatas. Diantara anak-anak muda tersebut dapat disebutkan : Ahmad Ilyas, Imam K., M.C. Huda, M. Zaenal M., M.R. Gustontin, M. Zaenudin , Arief Budiharjo, M. Natsir, M. Sholhan, M. Madrim, Soegiarto, M. Nasrudin, M. Zaki M., Apriliyanto, Sugiyono, M. Nugroho, Slamet S., Umar Hasan, Nur Akwan, M Faturohman, M. Misbakh A., A. Sirodj, A. Sonhaji, M. Syifa, Maedarai, Nova, Novi, dan lain-lain.

Namun demikian, bukan berarti semua terlibat dalam pertemuan, diskusi, dan rapat-rapat menjadi para pendiri di saat rapat pendirian KSPPS Mitra Umat. Bahkan diantara yang ikut dalam rapat pendirian KSPPS Mitra Umat pun ada yang kemudian tidak ikut serta menjadi anggota KSPPS Mitra Umat. Entah mengapa, belum pernah mengemuka alasan dari mereka untuk tidak ikut meneruskan perjuangan di KSPPS Mitra Umat ini. Dan hal yang demikian sudah semestinya menjadi hak dari masing-masing orang yang terlibat dalam proses pertemuan-pertemuan, diskusi dan rapat-rapat untuk meneruskan keterlibatannya maupun tidak.

Dari pertemuan-pertemuan rutin yang hampir diselenggarakan setiap sore dirumah Ahmad Ilyas, muncul banyak gagasan, yaitu berupa : (1) Pendirian Baitul Maal Wa Tamwil, (2) pendirian koperasi sebagai badan hukum yang menjadi payung operasional BMT, (3) Pendirian koperasinya antara koperasi simpan pinjam atau koperasi serba usaha, (4) Banyak macam nama untuk koperasi dan BMT, (5) Dan lain-lain gagasan dan pemikiran. Dan akhirnya diputuskan untuk mendirikan BMT dengan nama Mitra Umat dengan badan hukum koperasi, yaitu berupa koperasi serba usaha dengan nama Koperasi Serba Usaha Mitra Umat, dengan kesekretaritan KSPPS Mitra Umat di rumah saudara Ir. MC. Huda.

Oleh karena itu dibentuk panitia pendirian KSPPS BMT Mitra Umat yang diketuai oleh Arif Budiharjo, SE. Kemudian pada tanggal 21 Mei 1995 tepatnya diaula MAN 2 pekalongan diadakan rapat pendirian KSPPS Mitra Umat, dengan susunan kepengurusan adalah sebagai berikut :

1. Ketua I : Imam Kamaludin
2. Ketua II : Ahmad Ilyas
3. Ketua III : Apriliyantro
4. Sekertaris : Ir. M.C. Huda
5. Bendahara : M. Rizal Mulyawan, SE

Dan susunan Pengawas sebagai berikut :

1. Ketua : R.M. Firdaus
2. Anggota : M. Slamet Sudiono, M. Nugroho D.S.