Awal Januari 1877, Madrasah Amanatul-Muslimin telah dibina di atas tanah wakaf di Jalan Pengkalan Kapal, Alor Setar. Lokasinya yang berhampiran dengan pengkalan kapal dan perahu suatu ketika dulu, menjadikan surau ini amat penting sejak dulu. Para petani dari daerah pedalaman membawa hasil pertanian dengan perahu di samping berurus niaga di bandar Alor Setar. Bagi yang tidak sempat pulang, surau inilah dijadikan tempat mengerjakan ibadat dan berehat.

Kini bangunan yang berusia seabad itu telah bertukar wajah baru apabila bangunan moden empat tingkat telah menggantikannya pada tahun 1995. Sebuah badan amal bernama "Persekutuan Khairat Kematian Amanatul-Muslimin" telah diwujudkan di situ sejak 68 tahun lalu yang kini (termasuk bangunan surau) ditadbirkan oleh Tuan Haji Othman Hanafiah bersama 14 orang ahli jawatankuasanya.