Mgr. Djajasepoetra mengundang Bruder FIC ke Jakarta untuk membuka SMP dan SMA di daerah Kebayoran Baru. Pada tahun 1962 direncanakan membeli tanah di Cipete, ketika itu ditawarkan sebidang tanah di daerah Blok B, maka segera mulai membangun sekolah SMP / SMA di Jl. Brawijaya. Pada waktu itu banyak hambatan, tetapi pembangunannya berjalan lancar, walaupun ada keterlambatan. Bulan Juni 1965 Br. Honoratus dan Br. Pancrasio sudah menetap di Jakarta. Tanggal 1 Agustus 1965 rencana hari pertama masuk sekolah, tetapi bangunan belum selesai, sekolah sementara diliburkan dan baru tanggal 19 Agustus 1965 kegiatan belajar mengajar dapat berjalan lancar, walaupun WC darurat. SMP mulai dengan kelas I (2 kelas) dan kelas II (1 kelas). Peserta Didik kelas II mendapat Peserta Didik dari SMP Tarakanita di Barito yang dikelola oleh para suster Carolus Boromeus (CB). Pada waktu itu Para suster mengelola Peserta Didik putra dan putri tetapi akhirnya yang putera diserahkan kepada Bruder FIC dengan sekolah Pangudi Luhur sedangkan Suster CB mengelola Peserta Didik putri saja.

            Tenaga guru pertama Br. Honoratus dan Br. Pancrasio, SMP Pangudi Luhur Jakarta mendapat tenaga tetap dari Bruderan Aloysius, yaitu Bp. Budiyono dan 2 lagi dari susteran CB yaitu Bp. FX. Soemantoyo dan Bp. Sutarno. Guru tetap ada 7 orang ditambah beberapa guru honorer. Pada tanggal 1 Agustus 1965 Yayasan Pangudi Luhur sudah siap mulai babak baru di Jakarta. Berjalan satu bulan muncul pemberontakan G-30-S PKI sehingga mempengaruhi kelancaran proses belajar mengajar. Pada tahun itu sekolah diperpanjang. Tahun pertama ujian meluluskan 100 % peserta didik sehingga nama sekolah Pangudi Luhur mulai terkenal. Tahun berikutnya peserta didik baru untuk SMP menjadi 3 kelas. Bulan Agustus 1968 gedung baru mulai dibangun di daerah Cipete. Pembangunan baru berjalan 14 hari, kemudian semua aktivitas ditunda karena ada masalah. Pada bulan Januari 1969 masalah dapat diatasi berkat bantuan dan dukungan dari Gubernur DKI, Bp. Ali Sadikin. Gedung SMP Pangudi Luhur dapat diselesaikan pada bulan Oktober 1969.

              Pada bulan Januari 1970 tahun ajaran baru SMP Pangudi Luhur dipindah ke gedung yang baru di Cipete (gedung sekarang). Dalam perpindahan dilakukan oleh peserta didik sendiri dengan membawa meja dan kursi mereka masing-masing dengan kendaraan becak, andong ataupun ada yang jalan kaki, alat-alat besar diangkut dengan truk sehingga proses perpindahan berjalan lancar. Pada bulan Mei 1970 gedung baru diberkati oleh Mgr. Djajaseputra. Mulai Tahun Pelajaran 1975 SMP Pangudi Luhur mulai menerima Peserta Didik puteri. Hal ini merupakan tonggak baru SMP Pangudi Luhur di Jakarta.

             Dari tahun ke tahun pembangunan fisik selalu ada pembenahan. Tahun 1990 dilakukan renovasi gedung untuk ruang perpustakaan, ruang kelas 7, laboratorium IPA, bahasa, serta aula. Tahun 2002 diadakan renovasi gedung 3 lantai untuk ruang kelas 8 dan 9 serta menambah perlengkapan/peralatan proses belajar mengajar. Tahun 2014 diadakan renovasi tampak depan dari penampilan pintu utama (mengubah perwajahan sekolah). Demikianlah sejarah singkat dan sampai saat ini masih ada banyak hal yang dikembangkan di sekolah ini.