Yayasan Perguruan Al-Ihsan berdiri pada tahun 1989 di Kelurahan Mabar Kecamatan Medan Deli Kota Medan. Didirikan oleh 3 (tiga) orang tokoh masyarakat yang peduli pada dunia pendidikan Islam, yaitu :
- Almarhumah Hj. Murtasiah
- Almarhum H. Amri
- Hj. Suryati
Ketiganya bersepakat mendirikan Lembaga Pendidikan Islam berbentuk Madrasah di bawah naungan Kementerian Agama. Pada bulan Juli 1989 Madrasah Diniyah Awaliyah Al-Ihsan mulai beroperasi.
Banyak tantangan yang dihadapi oleh para pendiri. Hj. Suryati mengatakan “Di awal kami mendirikan Madrasah, banyak pihak-pihak yang menghalangi.” Akan tetapi berkat keikhlasan dan kesabaran, para pendiri tetap Istiqomah hingga saat ini lembaga ini tetap eksis di dunia pendidikan.