Qiblatain berarti “dua kiblat”. Masjid Qiblatain, yang didirikan sesudah Rasulullah SAW hijrah, terletak di atas bukit kecil di utara Harrah Wabrah, Madinah, atau sekitar 4 km di sebelah barat Masjid Nabawi. Masjid Qiblatain merupakan sebuah lapangan terbuka dan hanya beratap pada bagian tempat salat.
Di dalam Masjid Qiblatain terdapat dua buah mihrab. Yang satu terletak di bagian yang beratap, menghadap ke arah Ka’bah dan yang lainnya terletak di lapangan terbuka, menghadap ke arah Baitulmakdis atau Masjidilaksa. Baitulmakdis pernah menjadi kiblat kaum muslimin selama sekitar enam belas bulan.
Perubahan kiblat dari Baitulmakdis ke Masjidilharam terjadi pada bulan Rajab 12. Ketika itu Rasulullah SAW melakukan salat zuhur dengan menghadap ke arah Masjidilaksa. Nabi SAW menghentikan salatnya beberapa saat setelah turun surah al-Baqarah (2) ayat 144, “Sungguh Kami (sering) melihat mukamu menengadah ke langit, maka sungguh Kami akan memalingkan kamu ke kiblat yang kamu sukai.
Palingkanlah mukamu ke arah Masjidilharam. Dan di mana saja kamu berada, palingkanlah mukamu ke arahnya. Dan sesungguhnya orang-orang (Yahudi dan Nasrani) yang diberi al-Kitab (Taurat dan Injil) memang mengetahui, bahwa berpaling ke Masjidilharam itu adalah benar dari Tuhannya; dan Allah sekali-kali tidak lengah dari apa yang mereka kerjakan.”
Kemudian Nabi Muhammad SAW melanjutkan salat dengan memindahkan kiblatnya ke arah Masjidilharam di Mekah. Dengan terjadinya peristiwa tersebut, masjid tersebut diberi nama Masjid Qiblatain yang berarti masjid berkiblat dua.
Ada sebuah riwayat yang diriwayatkan Bukhari dari Abu Nu‘aim. Pada waktu Rasulullah SAW mendapat perintah untuk melakukan perubahan arah kiblat, salat yang dilakukannya pertama kali adalah salat asar.
Ada seorang sahabat yang pergi ke luar kampung menemui sekelompok kaum muslimin yang sedang melakukan salat di masjid dengan menghadap ke Baitulmakdis. Mereka sedang rukuk (membungkuk dengan tangan ditekankan di lutut sehingga punggung dan kepala sama rata) ketika sahabat itu berkata,
“Demi Allah, aku telah melakukan salat asar bersama Rasulullah SAW dengan menghadap ke Masjidilharam. Mereka pun lalu memutar arah kiblat ke Masjidilharam.”
Di samping masjid itu terdapat telaga yang diberi nama Telaga Rumah, kepunyaan seorang Yahudi. Karena sumber air itu penting fungsinya bagi sebuah masjid, atas anjuran Rasulullah SAW, Usman bin Affan menebus telaga itu dari pemiliknya seharga 20.000 dirham dan menjadikannya sebagai wakaf.
Sampai saat ini, telaga tersebut masih berfungsi, selain untuk bersuci dan air minum, juga untuk mengairi taman-taman di sekelilingnya.
Masjid Qiblatain yang sebelumnya dikenal dengan nama Masjid Bani Salaman dipugar beberapa kali, antara lain pemugaran atapnya pada 893 H/1543 M oleh Sultan Sulaiman.
Pemerintah Kerajaan Arab Saudi juga mengadakan perluasan dan pembangunan dengan konstruksi baru, dengan tetap memberi tanda pada kedua mihrab yang menjadi ciri khasnya. Masjid Qiblatain menjadi tempat ziarah jemaah haji dan melakukan salat Tahyatul Masjid.