Sekolah ini dibuka pada 23hb November 1907 oleh Ku Yahya bin Ku Zainal Abidin, Penguasa Pelajaran Kedah yang pertama. Pada mulanya sekolah ini menggunakan sebuah rumah yang disewa di Jalan Baharu (kini Jalan Putera). Guru pertama yang mengajar ialah Che Aminah dari Pulau Pinang. Pada hari pertama hanya terdapat 5 orang murid sahaja. Pelajaran yang diajar ialah menulis dan membaca Jawi, kira-kira, sulam-menyulam dan kait-mengait. Ini dijalankan di sebelah pagi sementara di sebelah petang pula diajar membaca Al-Quran.

Pada tahun 1908, sekolah ini ditutup beberapa minggu akibat serangan kolera. Seterusnya pada tahun 1911, gangguan pemuda-pemuda terhadap guru dan murid-murid menyebabkan sekolah ini terpaksa berpindah ke Kampung Perak. Perpindahan ini juga adalah kerana bangunan yang sedia ada terlalu buruk. Pada tahun 1914, sekolah ini berpindah ke Jalan Kanchut dan seterusnya ke Lorong Thean Kee pada tahun berikutnya. Sekolah ini kemudiannya berpindah pula ke Kota Tanah. Akhir sekali pada tahun 1926, ketika E.A.G. Stuart menjadi Penguasa Pelajaran Negeri, sekolah ini berpindah ke Seberang Perak dan kekal hingga kini.

Di antara yang pernah belajar di sini ialah Rafeah Mohamad dan Habsah Mohamad iaitu kakak kepada Datuk Seri Dr. Mahathir Mohamad sementara Dr. Mahathir sendiri pula ialah bekas pelajar Sekolah Seberang Perak Lelaki.