Pada tahun 1928, Sultan Abdullah telah menitahkan supaya
sebuah masjid baharu dibina di atas tapak masjid lama di zaman pemerintahan
Sultan Ahmad Al-Mu’azzam Shah, yang dirobohkan.
Masjid yang diperbuat daripada batu itu siap dibina dalam
tahun 1930. Ia tersergam indah dan terletak berhampiran Istana Pantai, tempat
bersemayam Sultan Abdullah. Menurut sejarah, Sultan Abdullah berkenan untuk
merasmikan masjid tersebut. Tetapi malangnya, baginda jatuh gering pada masa
itu. Putera baginda, Tengku Mahkota Abu Bakar telah merasmikan pembukaan masjid
tersebut pada 8 Januari 1932 dan memberi nama Masjid Abdullah, sempena nama
ayahanda baginda.
Masjid Abdullah dijadikan sebagai Masjid Rasmi bagi
Bandar Diraja Pekan dan Sultan Abdullah semasa hayat Almarhum turut bersolat
Jumaat dan berjemaah di masjid ini. Apabila Tengku Mahkota Abu Bakar menaiki
tahta sebagai Sultan Pahang dalam tahun 1932, baginda juga meneruskan amalan
ayahanda baginda itu.
Masjid Abdullah kekal menjadi masjid utama di Pekan
sehingga tahun 1976, sebelum sebuah masjid baharu telah dibina bersebelahan
dengan tapak Masjid Abdullah ini. Kini Masjid Abdullah sedang diubahsuai untuk
dijadikan Muzium Islam