Yayasan Perguruan Al-Ihsan berdiri pada tahun 1989 di Kelurahan Mabar Kecamatan Medan Deli Kota Medan. Didirikan oleh 3 (tiga) orang tokoh masyarakat yang peduli pada dunia pendidikan Islam, yaitu :
- Almarhumah Hj. Murtasiah
- Almarhum H. Amri
- Almarhumah Hj. Suryati
Ketiganya bersepakat mendirikan Lembaga Pendidikan Islam berbentuk Madrasah di bawah naungan Kementerian Agama. Pada bulan Juli 1989 Madrasah Diniyah Awaliyah Al-Ihsan mulai beroperasi.
Banyak tantangan yang dihadapi oleh para pendiri. Almarhumah Hj. Suryati mengatakan “Di awal mendirikan Madrasah, banyak pihak yang mendukung, tetapi ada juga beberapa pihak yang menghalangi.” Berkat keikhlasan dan kesabaran, para pendiri tetap Istiqomah hingga saat ini lembaga ini tetap eksis di dunia pendidikan.