Masjid fenomelan ini terletak di Jalan Pangeran Jayakarta, Kampung
Terate Udik, Kelurahan Masigit, Kecamatan Jombang, Kota Cilegon, atau sekitar 1
kilometer dari pusat Pemerintahan Kota Cilegon. Letak masjid tepat berada di
tengah-tengah perkampungan. Hanya beberapa meter agak ke dalam dari jalan raya.
Masjid berbentuk empat persegi panjang ini, jika dilihat dari
bentuk bangunannya masih nampak kekunoannya. Hanya bangunan bagian belakang
yang terlihat baru. Ada juga sedikit penambahan bangunan guna keperluan
masyarakat menunaikan ibadah di masjid ini.
Kesan kuno itu terlihat dari mahkota atau kubah masjid yang
terbuat dari terakota seperti umumnya bentuk khas masjid-masjid kuno di
Indonesia.
Yang menarik adalah bagian-bagian pintu itu tingginya tidak lebih
dari 1,50 meter, sehingga orang yang masuk ke masjid tersebut harus menundukkan
kepala. Yang lebih menarik dari Masjid Tengah Kampung Terate Udik ini punya
kisah legenda yang hingga kini masih tersimpan dalam benak warga sekitarnya.
Legenda yang sudah mengakar di masyarakat Kampung Terate Udik dan daerah lain
di Kota Cilegon itu adalah kisah para kiai dan tokoh ulama pada masa lalu.
Masjid tersebut kerap dijadikan tempat untuk menentukan dan
mendapatkan kata mufakat, serta berikrar mengucapkan sumpah. Hingga saat ini,
bila menemui jalan buntu dalam menyelesaikan suatu permasalahan atau
perselisihan, maka Masjid Tengah Terate Udik inilah yang menjadi tempat untuk
bersumpah. Bukan hanya masyarakat Terate Udik, tapi dari berbagai daerah di
Provinsi Banten maupun luar Banten. Karenanya, masjid ini kemudian lebih
kesohor dengan nama Masjid Sumpah Terate Udik.