Mesjid Jami merupakan mesjid tertua yang ada di Tarempa. Perkiraan di bangun sekitar tahun 1925.
Mesjid ini juga menjadi saksi bisu sejarah saat perang dunia kedua.
Menurut pemerintah setempat, masjid yang sebelumnya diketahui bernama Masjid Teluk Siantan ini, pernah menjadi persembunyian warga dan sempat dihujani bom oleh tentara Jepang saat perang.
Mesjid ini pernah dikunjungi Wakil Presiden pertama Republik Indonesia Muhammad Hatta tahun 1954.
Dari beberapa literatur, masjid ini sebelumnya dibangun oleh Datuk Kaye Muhd Usman bin Datuk Kaye Muhd Yasin pada tahun 1880 m.
Lokasi sebelumnya berada di Pulau Kukup. Kemudian, terpaksa dipindahkan ke darat oleh warga dan Pemerintahan kolonial Belanda sekitar tahun 1920 karena air laut pasang yang masuk menggenangi masjid.
Setelah mesjid, tak jauh dari sana ditemukan pula sebuah vihara tua, Vihara Gunung Dewa Siantan.
Vihara ini diperkirakan dibangun pada tahun 1960. Paling ramai dikunjungi pada saat imlek dan hari besar agama tionghoa.
Berkunjung ke sini cukup memakan energi, karena lokasinya cukup tinggi atau berada di bebatuan.
Dari Vihara ini kita bisa menyaksikan pemandangan desa Tarempa, laut dan aktivitas nelayan.
Kesulitan berwisata ke desa Tarempa hanya soal transportasi.
Sebagai daerah kepulauan, tidak semua daratan di wilayah Anambas termasuk desa Tarempa bisa ditempuh dengan jalan darat.
Pada umumnya transportasi di daratan menggunakan sepeda motor.
Untuk spot-spot yang berdekatan tentunya masih bisa berjalan kaki.