Pembentukan PPSI diawali dari pertemuan-pertemuan informal yang dilakukan di Universitas Gadjah Mada (UGM) pada tahun 2005. Penggagas pertemuan tersebut adalah Drs. Adaby Darban, S.U. (alm.), yang pada waktu itu menjabat sebagai Ketua Jurusan Sejarah UGM. Beliau menginginkan agar jurusan sejarah seluruh Indonesia bisa saling berkomunikasi, minimal saling mengetahui informasi skripsi yang disusun oleh mahasiswa untuk menghindari plagiasi. Jurusan sejarah yang kemudian intensif menggodok gagasan tersebut adalah Jurusan Sejarah UGM dan Jurusan Sejarah Universitas Airlangga.

Pada tanggal 11 Agustus 2006, Jurusan Sejarah UGM menyelenggarakan seminar tentang nasionalisasi perusahaan-perusahaan Belanda di Indonesia. Hadir sebagai pemakalah salah satunya adalah Thomas Lindblad dari Universitas Leiden, yang pada saat itu sedang melakukan penelitian tentang tema dimaksud. Seminar tersebut dihadiri pula beberapa Ketua dan Sekretaris Jurusan Sejarah dari beberapa universitas, antara lain dari Universitas Diponegoro, Universitas Jember, Universitas Airlangga, Universitas Negeri Yogyakarta, Universitas Negeri Semarang, Universitas Muhammadiyah Purwokerto, serta beberapa universitas lain yang memiliki Jurusan/Program Studi Sejarah. Setelah acara seminar usai, dilanjutkan dengan sarasehan mengenai potensi yang harus dikembangkan oleh Program Studi Sejarah.

Pada waktu itu mulai tercetus agar dilaksanakan pertemuan rutin Pengurus Program Studi Sejarah se-Indonesia yang tempatnya bergilir dari satu universitas ke universitas lain. Agenda pertemuannya adalah membahas berbagai perkembangan ilmu sejarah, kurikulum, kerja sama penelitian, seminar, dan lain-lain. Bahkan pada waktu itu juga mulai muncul gagasan agar dibentuk sebuah organisasi yang mewadahi Program Studi Sejarah se-Indonesia dengan tanpa membedakan latar belakang perguruan tinggi.

Perlu diketahui bahwa Program Studi Sejarah di Indonesia bernaung di bawah tiga perguruan tinggi, yaitu perguruan tinggi umum, perguruan tinggi kependidikan, dan perguruan tinggi Islam. Pertemuan yang dilangsungkan pada tanggal 11 Agustus 2006 menghasilkan kesepakatan bahwa agenda yang telah disusun pada waktu itu akan dibahas lebih lanjut pada pertemuan tahun 2007. Pada waktu itu Program Studi Sejarah Universitas Airlangga mengajukan kesanggupan untuk menjadi tuan rumah pada pertemuan tahun 2007.

Pertemuan Pengurus Program Studi Sejarah tahun 2007 dilaksanakan di Fakultas Sastra (belum berganti nama menjadi Fakultas Ilmu Budaya)  Universitas Airlangga. Pertemuan yang berlangsung tanggal 29-30 Agustus 2007 dibuka oleh Rektor Universitas Airlangga, Prof. Dr. Fasih, Apt. Salah satu pesan yang disampaikan oleh beliau pada waktu itu itu adalah, bahwa Ilmu Sejarah adalah ilmu yang sangat penting karena menyangkut jati diri bangsa dan merupakan alat pemersatu bangsa. Jika ingin menjadi bangsa yang besar, maka kita harus memahami perkembangan peradaban bangsa dari waktu ke waktu, dan hal itu membutuhkan peran strategis Ilmu Sejarah. Hadir sebagai pembicara utama pada waktu itu adalah Prof. Dr. Bambang Purwanto, M.A. dari Program Studi Sejarah UGM, Prof. Dr. Sugianto Padmo, M.A. dari Program Studi Sejarah UGM, dan Prof. Dr. Ketut Surajaya, M.A. dari Departemen Sejarah UI. Salah satu tema yang pada waktu itu dibahas cukup intensif adalah mengenai rumusan kompetensi lulusan Program Studi Sejarah, baik ilmu sejarah murni maupun pendidikan sejarah.

Rumusan kompetensi lulusan yang ditawarkan pada waktu itu adalah, untuk ilmu sejarah murni antara lain: memiliki pengetahuan sejarah Indonesia dalam konteks global; menguasai dasar-dasar ilmu sejarah dan mampu melakukan penelitian sejarah yang didukung oleh penguasaan bahasa sumber yang dapat diterapkan dalam berbagai media; serta mampu menyelesaikan persoalan-persoalan kekinian dengan perspektif sejarah. Adapun rumusan kompetensi untuk lulusan pendidikan sejarah antara lain: memiliki pengetahuan sejarah Indonesia dalam konteks global; memiliki kemampuan melakukan pembelajaran sejarah secara menarik; mampu menanamkan nilai-nilai sejarah dan mengapresiasi nilai-nilai sejarah dalam kehidupan dan pembelajaran.

Pada pertemuan di Universitas Airlangga juga disepakati bahwa pertemuan tahun 2008 akan dilaksanakan di Universitas Hasanuddin Makassar. Pertemuan di Makassar berhasil dilaksanakan pada 11-12 Desember 2008 dengan tuan rumah Program Studi Sejarah Universitas Hasanuddin. Tidak terdapat rumusan spesifik yang dihasilkan dari pertemuan tersebut karena fokus  kegiatan lebih ke seminar sejarah. Pada waktu itu juga disepakati bahwa pertemuan selanjutnya akan dilaksanakan di Universitas Lambung Mangkurat, Banjarmasin, Kalimantan Selatan pada tahun 2009. Namun, pertemuan yang direncanakan dilaksanakan di Banjarmasin tersebut tidak bisa dilaksanakan karena terdapat kendala teknis.

Kegagalan pertemuan di Banjarmasin telah menyebabkan kevakuman yang cukup lama, selama lima tahun tidak ada pertemuan Program Studi Sejarah. Barulah pada akhir tahun 2012 mulai direncanakan lagi untuk menghidupkan agenda tahunan, yang dimotori oleh Program Studi Sejarah Universitas Airlangga dan Program Studi Sejarah UGM. Pada sebuah pertemuan informal disepakati bahwa pertemuan akan dilaksanakan lagi tahun 2013, dengan tuan rumah Program Studi Sejarah UGM. Pertemuan tahun 2013 dilaksanakan tanggal 11-12 Desember. Hadir pada waktu itu Dirjen Kebudayaan, Prof. Dr. Kacung Marijan, M.A. Pertemuan dikemas dalam acara Sarasehan Jurusan Sejarah Se-Indonesia dengan tema “Arah dan Perspektif Baru Pengembangan Keilmuan dan Pembelajaran Sejarah Indonesia di Perguruan Tinggi.” Sarasehan yang berlangsung selama dua hari diikuti sekitar 70 peserta perwakilan dari Program Studi Sejarah se-Indonesia. Beberapa hal yang dibahas antara lain perkembangan ilmu sejarah, pengelolaan lembaga, metode dan teknologi pembelajaran, pasar kerja bagi lulusan, dan pertanggungjawaban profesi sejarawan.

Pertemuan Yogyakarta tanggal 11-12 Desember 2013, menghasilkan sebuah dokumen yang bersisi kesimpulan pertemuan, yang disebut Dokumen Yogyakarta. Dokumen tersebut berisi 12 poin permasalah dan rekomendasi yang  harus dipecahkan bersama. Pada pertemuan tersebut juga disepakati bahwa pertemuan tahun berikutnya akan dilaksanakan di Surabaya dengan tuan rumah Program Studi Sejarah, Fakultas Ilmu Budaya, Universitas Airlangga. Pertemuan di Surabaya dilaksanakan tanggal 19-20 November 2014 bertempat di Hotel Novotel, dihadiri hampir seratus utusan dari berbagai Program Studi Sejarah se-Indonesia, baik Ilmu Sejarah, Pendidikan Sejarah, dan Sejarah Kebudayaan Islam. Pertemuan ini menjadi pertemuan bersejarah karena berhasil mendeklarasikan berdirinya Perkumpulan Program Studi Sejarah-se-Indonesia, disingkat PPSI. Komponen organisasi lainnya juga berhasil disiapkan, yaitu Anggaran Dasar dan Anggaran Rumah Tangga (AD/ART), serta menetapkan Ketua PPSI, Dr. Linda Sunarti dari Program Studi Sejarah Universitas Indonesia.