Pada 1918, H Abdullah Ahmad mendirikan PGAI untuk mempersatukan ulama tradisional dan modern. Organisasi ini diakui hukum pada 17 Juli 1920. PGAI didirikan gedung asrama dan madrasah pada 1930, menjadi cikal-bakal Panti Asuhan Yatim PGAI. Madrasah ini mengajarkan ilmu umum dan agama dengan sistem sekolah Belanda. Meskipun ditutup pada 1946 karena berbagai kesulitan, PGAI tetap aktif hingga sekarang dengan jenjang pendidikan mulai dari TK hingga SMA.