Pembangunan gampong mesjid Ulim Baroh diawali ole Keinginan sekelompok orang untuk membangun sebuah pemukiman ratusan tahun yang lalu dan nama Gampong mesjid Ulim baroh didasari dengan adanya sebuah mesjid tua pada zaman itu, Karena kecintaan masyarakat terhadap mesjid itu kemudian Masyarakat sepakat member nama gampong dengan Nama \\\"Mesjid\\\" yang kebetulan berada di daerah utara tau baroh dalam bahasa Aceh, Maka namanya menjadi Gampong mesjid Ulim Baroh. Dan merupakan salah satu desa yang terletak dikemukiman Ulim Baroh Kecamatan Ulim.