Mengacu kepada berbagai peninggalan, Yerusalem diduga kuat didirikan oleh kaum Kanaan pada 3.000 SM. Waktu ini terpaut cukup jauh dari kehadiran ketiga agama yang kini menganggapnya sebagai kota suci.
Ada pula yang menyebutkan kesucian kota ini telah ada sejak 3.300-1.200 SM. Nama Yerusalem pun dipercaya berasal dari kata Uru-Salim yang berarti “Tanah yag dibangun oleh Tuhan Salim”. Salim sendiri adalah nama tuhan bagi kaum Kanaan.
“Itu karena nama paling awal Uru-Salim mengacu pada nama Tuhan orang Kanaan,” tulis Haitham F. Al-Rathout, arsitek dan arkeolog dari An-Najah National University of Palestina, dalam bukunya The Architectural Development of Al-Agsa Mosque in the Early Islamic Period: Sacred Architecture in the Shape of ‘Holy’.
Yerusalem juga memiliki kondisi geografis kota dan iklim Yerusalem yang berada di tengah-tengah (moderat). Menurut Haitham, hal inilah yang menarik kaum Kanaan untuk menempatinya.
Bukti kuat yang menunjukkan Yerusalem telah ditinggali sejak 3.000 SM adalah adanya temuan arkeologi yang sebagian besar merupakan bejana tembikar dari kuburan kuno serta adanya struktur dinding pemukiman. Sementara itu, Yerusalem telah memiliki sistem perairan yang cukup canggih pada 1.800 SM.
Selain itu, temuan dokumen lain menyebutkan bahwa teks dari Mesir Zaman Perunggu berjudul Execration Text (1.900 SM) dan Surat El-Amarna (1.400 SM) semakin memperkuat dugaan ini. Di sana, Yerusalem disebut dengan nama Rushalimum yang mirip dengan Uru-Salim.
“Nama itu mirip dengan sebutan Uru-Salim yang tercatat kemudian dalam lempengan tanah liat, penemuan di el-Amarna, Mesir Tengah,” ujar arkeolog, orientalis, sekaligus sarjana agama bernama Jodi Magness dalam The Archaeology of the Holy Land: From the Destruction of Solomon’s Temple to the Muslim Conquest.