Berdirinya Perhimpunan Indonesia berawal dari didirikannya Indische Vereeniging (IV) pada tahun 1908 di Belanda. Organisasi ini didirikan antara lain oleh Sutan Kesayangan dan R.W. Noto Suroto. Organisasi ini bertujuan sebagai perkumpulan sosial mahasiswa Indonesia di Belanda untuk memperbincangkan masalah dan persoalan Tanah Air. Memasuki tahun 1913, beberapa tokoh lndische Partij dibuang ke Belanda. Pembuangan ini mempertemukan tokoh IP dan IV, sehingga terjadi diskusi yang melahirkan pemikiran baru, yaitu Hindia untuk Hindia. Perkumpulan ini diketuai oleh Iwa Kusumasumantri. Adapun asas pokok perkumpulan ini, yaitu sebagai berikut.
a. Mengusahakan suatu pemerintahan untuk Indonesia, yang bertanggung jawab hanya kepada rakyat Indonesia.
b. Indonesia harus menentukan nasibnya sendiri.
c. Persatuan dalam menghadapi Belanda.
Untuk menunjukkan sikap nasionalismenya, para pengurus organisasi ini kemudian mengubah nama majalah Hindia Putera dengan Indonesia Merdeka. Pada edisi pertama majalah Indonesia Merdeka diungkapkan bahwa penjajahan Indonesia oleh Belanda dan penjajahan Belanda oleh Spanyol memiliki banyak persamaan. Selain itu diungkapkan pula alasan tidak disebutnya negara Hindia Belanda karena hampir sama dengan orang Belanda yang tidak mau menyebut negaranya dengan Nederland-Spanyol. Para mahasiswa mengetahui hal ini setelah mempelajari mengenai perjuangan Belanda melawan Spanyol.
Organisasi ini juga berpendapat bahwa kemerdekaan adalah hak setiap bangsa yang ada di dunia, termasuk hak bangsa Indonesia yang masih terjajah. Semangat perjuangan politiknya yang jelas menuju Indonesia merdeka menjadikan organisasi ini disegani oleh oranisasi-organisasi sejenis di kalangan negara-negara terjajah di Asia. Propaganda tentang tujuan dan ideologi baru bangsa Indonesia disosialisasikan secara lebih gencar oleh organisasi ini dengan menerbitkan buklet dalam rangka memperingati hari jadi yang ke-15 pada 1924.
Indische Vereeniging (IV) pada 3 Februari 1925 berubah namanya menjadi Perhimpunan Indonesia. Dalam majalah Indonesia Merdeka, ditulis bahwa perubahan nama ini diharapkan dapat memurnikan organisasi dan mempertegas prinsip perjuangan organisasi. Sementara, dalam artikel yang muncul pada bulan yang sama dengan judul Strijd in Twee Front (Perjuangan di Dua Front), menyatakan bahwa perjuangan selanjutnya akan lebih berat dan pemuda Indonesia tidak akan ada yang dapat menghindarinya.
Mereka harus berusaha mengerahkan semua kemampuannya jika ingin mencapai kemerdekaan. Para pemimpin Perhimpunan Indonesia menyatakan bahwa organisasi mereka merupakan organisasi pergerakan nasional. Sebagai kelompok elite serta golongan menengah baru, mereka harus memainkan peran pentingnya sebagai agen pengubah masyarakat dari masyarakat terjajah menjadi masyarakat merdeka, dari masyarakat terbelenggu menjadi masyarakat bebas, dan dari masyarakat yang bodoh menjadi masyarakat yang pintar.
Untuk mewujudkan cita-cita tersebut diperlukan wadah negara kesatuan yang merdeka dan berdaulat. Salah seorang pemimpin Perhimpunan Indonesia, Moh. Hatta, dengan penuh semangat menyerukan bersatunya semua unsur nasionalis Indonesia. Di antara empat pikiran pokok ideologi Perhimpunan Indonesia, pokok pikiran “merdeka” merupakan kuncinya. Keempat pokok pikiran itu adalah kesatuan nasional, kemerdekaan, nonkooperatif, dan kemandirian.
Ideologi Perhimpunan Indonesia yang terdiri dari empat gagasan telah disetujui pada Januari 1925. Keempat gagasan tersebut adalah sebagai berikut:
1) membentuk suatu negara Indonesia yang merdeka
2) partisipasi seluruh lapisan rakyat Indonesia dalam suatu perjuangan terpadu untuk mencapai kemerdekaan;
3) konflik kepentingan antara penjajah dan yang dijajah harus dilawan dengan mempertajam dan mempertegas konflik. Konflik ditujukan untuk melawan penjajah; dan
4) pengaruh buruk penjajahan Belanda terhadap kesehatan fisik dan psikis bangsa Indonesia harus segera dipulihkan dan dinormalkan dengan cara terus berjuang mencapai kemerdekaan.
Berkembangnya paham marxisme, leninisme, dan sosialisme di Eropa mengenai perjuangan kelas dan konflik antara kaum kapitalis dan kaum proletar telah mempengaruhi cara pandang tokoh-tokoh pergerakan nasional yang tinggal di Belanda, Eropa. Oleh tokoh-tokoh pergerakan nasional, paham-paham tersebut diaplikasikan dalam ideologi pergerakan nasional. Mereka memandang bahwa rakyat negeri jajahan adalah sebagai kaum proletar yang tertindas akibat imperialisme yang identik dengan kapitalisme.
Tokoh pergerakan, seperti Semaun, dibuang ke Amsterdam, Mohammad Hatta, Ali Sastroamidojo, Gatot Mangkupraja, dan Subarjo adalah penganut paham-paham baru dari Eropa tersebut. Paham marxis, leninis, dan sosialis telah memberikan dorongan kepada mahasiswa dalam menumbuhkan semangat perjuangan bangsa kulit sawo matang Indonesia dengan bangsa kulit putih Belanda. Dalam melakukan kegiatan politiknya, para mahasiswa Indonesia di Belanda sering mengadakan pertemuan, diskusi ilmiah dan politik diantara mereka sendiri serta dengan berbagai mahasiswa lainnya di negeri Belanda.
Tujuannya adalah untuk mengembangkan persamaan pandangan serta menggalang simpati baik dari Indonesia, dunia internasional, maupun dari orang Belanda sendiri tentang Indonesia merdeka. Oleh karena itu, PI menganjurkan agar semua organisasi pergerakan nasional menjadikan konsep Indonesia merdeka sebagai program utamanya. Seruan mahasiswa Indonesia di negeri Belanda terhadap organisasi pergerakan di Indonesia untuk meningkatkan aktifitas politik mendapat sambutan di Indonesia. Salah satu di antaranya adalah PKI.
Aktifnya Ahmad Soebarjo dan Moh. Hatta yang masing-masing pernah mengetuai PI, membuat perkumpulan ini semakin disorot dunia internasional. Hal ini terbukti pada saat kongres Liga Demokrasi dan Perdamaian Internasional tahun 1926, Moh. Hatta menyatakan tuntutan atas kemerdekaan Indonesia. Pada kongres selanjutnya tahun 1927 di Berlin, pernyataan Moh. Hatta tersebut mendapat dukungan luas, tidak hanya dari kalangan tokoh-tokoh Indonesia tetapi juga tokoh Belanda, Aktivitas PI ini menyebabkan Hatta dan kawan-kawan dituduh melakukan pemberontakan oleh Belanda. Pada tahun 1927, tokoh-tokoh PI di antaranya Moh. Hatta, Nasir Pamuncak, Abdul Majid Djojonegoro, dan Ali Sastroamijoyo ditangkap. Selain itu, PKI juga mengulangi aksinya di pantai barat Sumatra. Namun kedua aksi ini mengalami kegagalan. Pemberontakan PKI yang gagal di Banten dianggap tanggung jawab PI di Negeri Belanda. Setelah terjadi pemberontakan tersebut pemerintahan kolonial Belanda berusaha menangkap para pemimpin PI di Belanda.
Hatta dianggap memiliki hubungan dekat dengan Moskow, sebagai markas gerakan comintern. Akibat tuduhan itu mereka ditangkap, kemudian diadili atas tuduhan makar terhadap pemerintah. Karena pembelaan mereka, akhirnya mereka dibebaskan setelah tidak terbukti terlibat dalam pemberontakan tersebut. Dalam pidato pembelaannya, mereka menjelaskan bahwa PI hanya sekedar membicarakan kemungkinan tindak kekerasan, kecuali pemerintah Belanda memikirkan tentang kemerdekaan Indonesia.
Pembebasan mereka dari tuduhan tersebut dirayakan oleh anggota-anggota PI dan partai-partai nasionalis Indonesia, karena dianggap sebagai suatu kemenangan gerakan nasionalis atas negeri kolonial Belanda. Karena kemenangan tersebut, maka kaum nasionalis Indonesia di Belanda semakin mendapat simpati massa di Belanda. Perhimpunan Indonesia mempunyai peran penting dalam pergerakan nasionalis Indonesia, walaupun organisasi ini berdiri di Belanda dan banyak bergerak di negeri tersebut. Peran tersebut antara lain:
1) sebagai pembuka keterkungkungan psikologis bangsa Indonesia dan kekuasaan sistem kolonial;
2) pengembang ideologi sekuler sehingga bisa mendorong semangat revolusioner dan nasionalis;
3) mempersatukan unsur golongan ke dalam organisasi secara keseluruhan;
4) memperkenalkan istilah Indonesia untuk mengembangkan jati diri nasional dan tidak bersifat kedaerahan; dan sebagai organisasi kebangsaan yang paling orsinil dalam mempropagandakan ideologi Indonesia Merdeka.
Pergerakan PI dianggap radikal karena posisi mereka tanpa ikatan sosial politik tertentu dan tidak memiliki kepentingan sehingga mereka tidak khawatir dalam bertindak secaraterang terangan melawan belanda kerasnya perlawanan PI didukung pula oleh pernyataan presiden AS (Amerika Serikat) Woodrow Wilson mengenai hak untuk menentukan nasib bangsa sendiri. selain itu, kebangkitan nasionalisme di Asia-Afrika mendorong PI untuk memasuk kancah Politik.