Kira-kira jam 5 pagi, 1 April 1960, Yang Dipertuan Agong Pertama, Tuanku
Abdul Rahman ibni Almarhum Tuanku Muhammad telah mengejutkan permaisuri
Baginda, Tuanku Kursiah binti Almarhum Tunku Besar Burhanuddin. Baginda mengadu
sakit dada.
Raja Permaisuri Agong Tuanku Kursiah segera memanggil pembantu istana
dan menghantar Baginda ke sebuah hospital di Jalan Bangsar, Kuala Lumpur.
Bagaimanapun, Baginda mangkat sewaktu di dalam perjalanan. Doktor yang
memeriksa mengesahkan Baginda mangkat kerana diserang sakit jantung.
Berita kemangkatan Baginda telah diumumkan oleh Perdana Menteri Pertama,
YTM Tunku Abdul Rahman Putra Al-Haj. Berita kemangkatan Baginda ini telah
menggemparkan seluruh negara dan mendapat liputan besar-besaran di dada-dada
akhbar.
Tuanku Abdul Rahman mangkat 2 tahun 8 bulan setelah ditabalkan sebagai
Yang Dipertuan Agong yang pertama. Usia Baginda pada hari kemangkatan Baginda
ialah 64 tahun 8 bulan. Jenazah Almarhum Tuanku Abdul Rahman telah dimandi dan
disembahyangkan di Istana Negara. Istiadat Penghormatan Terakhir berlangsung di
Dewan Jamuan Istana Negara.
Pada 2 April 1960, perarakan mengiringi jenazah Baginda telah diadakan
di Kuala Lumpur, di mana jenazah Baginda telah dibawa dengan keretapi ke
Seremban, kemudiannya ke Istana Besar Seri Menanti. Jenazah Baginda kemudiannya
dimakamkan di Makam Diraja Seri Menanti, selepas Asar 5 April 1960.
Semua Raja-Raja Melayu dan wakil masing-masing telah hadir di Istiadat
Pemakaman Yang Dipertuan Agong Pertama itu. Putera sulung Baginda, Tuanku
Munawir telah diangkat sebagai Yang Dipertuan Besar Negeri Sembilan, bagi
menggantikan Baginda.