Pelajar Islam Indonesia didirikan 
di Yogyakarta pada tanggal 4 Mei 1947, didirikan oleh Djoesdi Ghozali. Seorang mahasiswa Fakultas Hukum Sekolah Tinggi Islam (STI) sekarang Universitas Islam Indonesia (UII). Ia lahir pada tanggal 20 Oktober 1923 di Klaten. Pendidikan dasar ditempuh di Sekolah Rakyat dan lulus 1934 kemudian menyelesaikan sekolah menengahnya di Madrasah Mambaul Ulum Solo pada tahun 1942.Faktor pendorong untuk membentuk organisasi PII adalah dualisme sistem pendidikan di kalangan umat Islam Indonesia yang merupakan warisan kolonial Belanda, yakni terpisahnya pondok pesantren dan sekolah umum yang masing-masing dinilai memiliki orientasi yang berbeda. Pondok pesantren berorientasi ke akhirat sementara sekolah umum berorientasi ke dunia. Akibatnya pelajar Islam juga terbelah menjadi dua kekuatan yang satu sama lain saling menjatuhkan, santri pondok pesantren menganggap sekolah umum merupakan sistem pendidikan orang kafir karena produk kolonial Belanda. Hal ini membuat para santri menjuluki pelajar sekolah umum dengan “pelajar kafir”. Sementara pelajar sekolah umum menilai pondok pesantren kolot dan tradisional; mereka menjulukinya dengan sebutan “santri kolot”.
Melihat kondisi tersebut, pada tanggal 25 Februari 1947 ketika Djoezdi Goezali sedang melakukan iktikaf di Masjid Besar Kauman Yogyakarta, terlintas dalam pikirannya untuk membentuk suatu organsasi bagi pelajar Islam yang dapat mewadai segenap lapisan pelajar Islam. Gagasan ini lahir dari perenungan di Masjid Kauman kemudian disampaikan dalam pertemuan di gedung SMP Negeri 2 Secodiningrat, Yogyakarta. Rekan-rekan yang turut hadir dalam pertemuan tersebut, antara lain; Anton Timur Djaelani, Amien Syahri dan Ibrahim Zakhasyi, dan Noersjaf semua yang hadir kemudian sepakat untuk mendirikan organisasi pelajar Islam.
Hasil kesepakatan yang diamini oleh rekan-rekan Djoezdi Ghozali kemudian disampaikan dalam Kongres Gerakan Pemuda Islam Indonesia (GPII), pada tanggal 30 Maret-1 April 1947 di Gedung Muallimin. Djoezdi Gozali mengemukakan gagasan tersebut kepada peserta kongres. Dalam hasil pertemuaan ini menghasilkan kebulatan tekad untuk membentuk organisasi pelajar islam yang tunggal dan independen dengan nama Pelajar Islam Indonesia (PII).
Untuk lebih merealisasikan dari kesepakatan dalam kongres GPII di gedung Muallimin, pada hari ahad, 4 Mei 1947 digelar pertemuan di Kantor GPII Jalan Margomulyo No.8 Yogyakarta. Pertemuan itu dihadiri oleh beberapa organisasi pelajar Islam lokal sayap pelajar yang siap untuk dilebur ke dalam organisasi Pelajar Islam yang akan dibentuk. Di sana juga telah hadir Djoesdi Ghozali, Ibrahim Zarkasyi, dan wakil-wakil organisasi Pelajar Islam lokal yang telah ada. Mereka adalah
1. Yahya Ubeid dari Persatuan Pelajar Islam Surakarta (PPIS),
2. Multazam dan Shawabi dari Penggabungan Kursus Islam Sekolah Menengah (PERSIKEM) Surakarta,
3. Dida Gursida dan Supomo NA dari perhimpunan Pelajar Islam Indonesia (PPII) Yogyakarta.
Dalam pertemuan tersebut yang dipimpin oleh Djoesdi Ghozali itulah diputuskan berdirinya organisasi Pelajar Islam Indonesia (PII). Tepatnya pada pukul 10.00 WIB tanggal 4 Mei 1947. Dalam pertemuan, sekaligus juga ditetapkan Anggaran Dasar (AD) dan Anggaran Rumah Tangga (ART) PII. Serta menyusun pengurus Besar PII periode pertama, yang terdiri atas
Ketua Umum : Djoesdi Ghozali
Wakil I : Thoha Mashudi
Wakil II : Mansur Ali
Sekretais Jenderal : Ibrahim Zarkasyi
Bendahara : Karnoto
Bagian Pendidikan : Amin Syahri
Bagian penerangan : Anton Timur Djaelani
Bagian keputrian : Tejaningsih
Maesaroh Hilal
Anggota : Mashudi
Multazam
Sowabi
Suparna MA
Noersjaf
Sebelum berdirinya PII, organisasi pelajar di Indonesia sudah berdiri terlebih dahulu organisasi Ikatan Pelajar Indonesia (IPI) pada tanggal 27 September 1945. Lahirnya IPI sebelum berdirinya PII sudah tersebar di berbagai lapisan masyarakat pelajar di Indonesia, organisasi IPI sendiri dari awal berdirinnya dimaksudkan sebagai satu-satunya organisasi pelajar untuk seluruh Indonesia. Akan tetapi dalam perkembangannya, IPI tidak mampu menghimpun pelajar dari Sekolah Menengah Islam maupun pondok pesantren. IPI yang ketika berdirinya sudah melakukan Pasive Stelsel Keanggotaan, maka berdirinya PII mendapatkan reaksi dari IPI (Ikatan Pelajar Indonesia), mereka menilai bahwa pendirian PII akan menimbulkan perpecahan dikalangan pelajar. Oleh karena itu, diadakan pertemuan antara Pelajar Islam Indonesia (PII) dan Ikatan Pelajar Indonesia (IPI) pada tanggal 9 Juni 1947 di Gedung Asrama Teknik Jalan Malioboro, Yogyakarta. Hasil pertemuan ini dituangkan dalam “Perjanjian Malioboro” yang isinya antara lain tentang pengakuan hak hidup PII oleh IPI. Perjanjian ini di tandatangani oleh Sekjen PB IPI Busono Wiwoho dan Sekjen PB PII Ibrahim Zarkasy. antara lain memuat bahwa “Berdirinya Organisasi PII di samping IPI adalah dianggap perlu, terutama untuk mengerjakan hal-hal yang berhubungan dengan agama Islam, sedangkan yang berhubungan dengan soal-soal umum dikerjakan bersama-sama oleh IPI dan PII”
Selanjutnya, dimana ada IPI maka di situ akan didirikan PII. Keberadaan IPI ketika itu yang sudah terdapat di seluruh wilayah Indonesia,khususnya di semua sekolah menengah. Anggota IPI yang beragama Islam kemudian membantu berdirinya PII. Sebaliknya, PII juga bersedia bekerjasama dengan IPI dalam masalah yang bisa dikerjakan secara kolektif dan bersifat nasional. Dalam perjalanan kedua organisasi itu kemudian terlihat perkembangan yang menunjukkan kemajuan PII lebih pesat daripada IPI. IPI kemudian berubah nama menjadi IPPI (Ikatan Pemuda Pelajar Indonesia) dan lebih berorientasi pada soal kepemudaan hingga belakangan mulai terpengaruh paham komunis. Atas dasar itu, PII tidak lagi melanjutkan kerjasama dengan IPPI, terutama sejak dipimpin oleh Suyono Atmo.
Lahirnya Brigade PII
Tak lama setelah PII berdiri pada tahun, pada tahun 1947 Belanda melancarkan agresi militer yang pertama. Dalam agresi ini kader PII terlibat dalam revolusi fisik melalui pembentukan Brigade PII di Ponorogo pada 6 November 1947 yang dipimpin oleh Abdul Fattah Permana. Brigade PII adalah badan otonom PII yang berbentuk kelasykaran/ketentaraan. Walaupun baru diresmikan pada tahun 1947, sebenarnya sebelumnya telah ada aktivitas ke-brigade-an di PII. Satuan yang telah ada sebelum peresmian Brigade PII adalah TPI (Tentara Pelajar Islam Aceh). Terdapar sebanya 12.000 orang anggotanya yang langsung dikoordinir di bawah komando Komandan Koordinator Pusat Brigade PII saat itu. Di antara pimpinan TPI Aceh ialah Hasan Bin Sulaiman, Hamzah S.H., dan Ismail Hasan Metareum SH Brigade PII merupakan salah satu dari pasukan rakyat yang berjuang melawan penjajah. Pada masa kemerdekaan Republik Indonesia, terbentuk lasykar-lasykar dari rakyat banyak yang turut membantu TKR (Tentara Keamanan Rakyat)antara lain TRI Hizbullah, BPRI (Baris dan Pemberontakan RI), TRIP (Tentara Republik Indonesia Pelajar Jawa Timur), Sabilillah, Tentara Pelajar IPPI, TPI (Tentara Pelajar Islam Aceh), CM Corps – Mahasiswa, CP (Corps Pelajar Solo) dan lain sebagainya
Korps yang baru dibentuk ini ikut serta sebaga pendamping Jenderal Sudirman dalam perang gerilya. Secara khusus Jenderal Sudirman mengapresiasi peran PII dalam pidatonya pada peringatan Hari Bangkit I PII tahun 1948 di Yogyakarta.
“Saya ucapkan banyak-banyak terima kasih kepada anak-anakku di PII, sebab saya tahu bahwa telah banyak korban yang telah diberikan oleh PII kepada negara. Teruskan perjuanganmu. Hai anak-anakku Pelajar Islam Indonesia. “Negara di dalam penuh onak dan duri, kesukaran dan rintangan banyak kita hadapi. Negara membutuhkan pengorbanan pemuda dan segenap bangsa Indonesia.”
jika pada tahun 1945 GPII berhasil mencegah dominasi organisasi Pemuda Indonesia oleh Ideologi Kiri yang terlibat Pemberontakan PKI di Madiun tahun 1948, demikian pula PII berhasil mencegah dominasi organisasi pelajar dari ideologi merah. PII dengan Brigadenya berdampingan dengan laskar – laskar lainnya dari bangsa Indonesia terjun ke medan – medan pertempuran untuk mengusir penjajah yang ingin menjajah kembali negeri ini dan menumpas pemberontakan Pemuda Sosialis Indonesia (PESINDO) di bawah pimpinan Amir Syarifuddin dari Partai Komunis Indonesia (PKI) di bawah pimpinan Muso di Madiun pada tahun 1948.
Peran penting PII yang patut dicatat adalah keterlibatannya dalam Kongres Muslimin Indonesia (20-25 Desember 1949) yang turut melahirkan Badan Kongres Muslimin Indonesia (BKMI) dengan pimpinan terpilih antara lain: KH A. Ghaffar Ismail, Anwar Haryono, dan Wali Al Fatah. Dalam Kongres inilah PII mengajukan 5 (lima) pernyataan sikap yang sangat bersejarah yaitu: Adanya Satu Partai Politik Islam, ialah Masyumi. Adanya Satu Organisasi Pemuda Massa Islam, ialah GPII. Adanya Satu Organisasi Pelajar Islam, ialah PII. Adanya Satu Organisasi Mahasiswa Islam, ialah HMI, dan adanya Satu Pandu Islam, ialah Pandu Islam Indonesia (Hizbul Wathan).
Lahirnya Korps PII Wati
Korps PII adalah Badan Otonom PII yang khusus melakukan pembinaan pelajar putri. Pada awalnya gagasan Korps PII Wati lahir di Training Centre (TC) Keputerian PII se-Indonesia yang dilaksanakan pada tanggal 20-28 Juli 1963 di Surabaya. Dalam TC berkembang kesadaran kuat untuk meningkatkan peranan dan kualitas kader dan kepemimpinan PII Wati serta menghapus citra negatif peran PII Wati hanya sebagai pengelola konsumsi. Selain itu juga ada fakta bahwa kesempatan bagi pelajar puteri untuk mengembangkan diri di PII relatif lebih terbatas dan pendek dibandingkan pelajar putra. Oleh karena itu peserta TC merumuskan gagasan pembentukan suatu wadah alternatif yang diharapkan mampumempercepat proses kaderisasi kepemimpinan puteri dalam masa aktif yang pendek tersebut.
Pada akhir 1963, Bagian Keputrian PW PII Yogjakarta Besar mulai membentuk Korps PII Wati Yogjakarta Besar. Selanjutnya dalam sidang keputerian Muktamar PII X Juli 1964 di Malang, Koprs PII Wati Yogyakarta Besar diwakili St. Wardanah AR, Masyitoh Sjafei dan Hafsah Said mengajukan usulan pembentukan Koprs PII Wati. Sementara Sri Sjamsiar dari PB PII juga mengajukan usul serupa. Kedua usulan itu diterima dalam Muktamar tersebut. Selanjutnya Rapat Pleno I PB PII periode 1964-1966 yang dilangsungkan pada tanggal 6 September 1964 menugaskan Sri Sjamsiar selaku Ketua IV untuk mengkoordinir tindak lanjut Keputusan Muktamar X itu. Sebagai hasil dari tindak lanjut tersebut terbentuk Koprs PII Wati dengan Ketua pertama Siti Habibah Idris.
Dalam perkembangan selanjutnya, Korps PII Wati semakin mandiri. Pengurus Korps PII wati tidak lagi dipilih dari bidang keputrian, namun dipilih dalam musyawarah khusus dalam institusi musyawarah PII. Korps PII wati juga memiliki struktur yang otonom sampai ke tingkat komisariat PII. dan PII Wati senantiasa memberikan warna dalam perjuangan PII dengan fokus kepada isu-isu tentang perempuan dan anak
PII dan Komunisme (PKI)
Seiring Bahaya Merah PKI yang masih mengancam generasi muda Indonesia maka PII merasa terpanggil untuk menentukan sikap. Pada Kongres Pemuda Indonesia di Surabaya (14-15 Juni 1950), PII melihat adanya ketidakserasian karena masing-masing golongan ingin saling menguasai. Blok–blokan ini terjadi karena Kongres Pemuda ini banyak ditunggangi oleh aliran kiri (Pesindo Pemuda Rakyat), bahkan mereka secara terang-terangan memasang gambar foto “suripto”, salah seorang pemimpin pemberontakan PKI di Madiun. Atas dasar inilah Pengurus Besar PII secara tegas memutuskan menolak bergabung dalam Front Pemuda Indonesia. Pada tahun 1965, PII dengan Kesatuan Aksi Pemuda dan Pelajar Indonesia (KAPPI)-nya dibawah kepimpinan M. Husnie Thamrin yang menjadi Ketua KAPPI Pusat menjadi ujung tombak angkatan enam–enam, menumpas G30S/PKI sampai ke akar-akarnya.
Sikap anti Komunis yan meledak begitu G30S/PKI gagal, seperti ditampilkan pada apel Akbar tanggal 3 Oktober 1965 di halaman gedung Front Nasional Jalan Merdeka Selatan 13 Jakarta, yang dihadiri oleh puluhan ribu pemuda, mahasiswa, pelajar Islam anggota PII yang diteruskan dengan pawai keliling kota dengan spanduk-spanduk besar yang berbunyi antara lain “Ganyang Bandit (Soebandrio-Aidit) G 30 S”, “Tendang Soebandrio.” Kemudian tanggal 4 Oktber 1965, bertempat di Taman Sunda Kelapa Jakarta, di selenggarakan rapat umum Komando Aksi Pangganyangan (KAP) Gestapu, yang dihadiri oleh ratusan ribu massa rakyat umumnya kaum Muslimin.
Bersamaan dengan itu massa PII yang dibantu dengan massa GP Anshor menghancurkan gedung CC-PKI. Semenjak itu sampai tanggal 20 Oktober 1965, massa PII secara berturut-turut menghancurkan gedung Pemuda Rakyat, SOBSI, LEKRA, Universitas Ali Archam dn lain-lain, jauh sebelum Kesatuan Aksi Mahasiswa Indonesia (KAMI) terbentuk 25 Oktober 1965, bukanlah sekadar spontanitas praktis karena 7 orang jenderal Angkatan Darat terbunuh, tetapi suatu manifestasi dari sikap anti Komunis yang semenjak lama telah ada di dalam dada kaum Muslimin.
Setelah PKI Bubar dan pemerintahan beralih dari orde lama ke orde baru maka PII mengubah haluannya yakni tidak lagi terjun ke kancah politik praktis dengan kembali kepada ideologi perjuangan semula sebagai organisasi pelajar dengan mengaktulisasikan diri dalam Program GAS (Gerakan Amal Sholeh) yang terkenal dengan slogan Kembali ke Masjid, kembali ke Bangku Sekolah dan Kembali ke Kampung. GAS merupakan usaha PII untuk ikut menanggulangi krisis moral yang melanda generasi muda sekaligus mengarahkan PII untuk bergiat dalam pendidikan dalam rangka membangun bangsa dan negara yang diridhoi Allah SWT.
PII dan Asas Tunggal
Adanya penyeragaman Asas Tunggal Pancasila bagi ormas dan orsospol yang diatur dalam Undang-undang No. 8 Tahun 1985 memaksa seluruh organisasi Islam yang berasaskan Islam untuk menyesuaikan asas organisasinya menjadi Pancasila. Hingga pada tanggal 17 juni 1987 dimana merupakan batas akhir pendaftaran ormas dan orsospol PII sebagai organisasi Islam tetap tidak mau mendaftarkan dirinya.
PII menganggap Islam sebagai asas organisasi tidak bisa digantikan oleh apapun, PII meyakini bahwasanya Islam tidak dapat dipisahkan dan digantikan dengan ideologi apapun, karena Islam mempunyai aturan yang menyeluruh. Dfampak penolakan PII terhdap kebijakan ini ternyata cukup luas bagi keberlangsungan organisasi kedepan. Pemerintah menganggap PII telah bubar karena tidak melakukan registrasi. Setiap kegiatan dan aktifitas PII selalu dicurigai yang akhirnya berdampak pula pada kualitas dan kuantitas PII di Indonesia sehingga keberadaan PII seakan mengambang karena informasi kegiatan yang dilakukan sangatlah minim. Melihat perkembangan yang terjadi setelah lahirnya UU tersebut akhirnya pda tahun 1995 PII memutuskan untuk menyesuaikan diri dengan UU keormasan, hal ini dilakukan untuk kepentingan keberlangsungan lembaga PII ke depannya.