Dalam legenda Bangsa Yahudi, ada wanita tua yang meminta tolong kepada Nabi Ibrahim, bahwa berhala (patung) milik wanita tua tersebut di curi oleh orang lain. Nabi Ibrahim kemudian menyatakan bahwa patung sesembahan tersebut bukanlah tuhan karena dia bisa dicuri seperti itu. Wanita tua itupun tersadar dan kemudian ikut membantu dakwah Nabi Ibrahim. Raja Namrud mendengar berita ini dan memanggil wanita tua tersebut kemudian dibunuh.
Nabi Ibrahim menghancurkan semua berhala – berhala yang ada di kuil dengan kapak kecuali berhala yang terbesar. Nabi Ibrahim kemudian meletakkan kapaknya di tangan berhala terbesar yang masih utuh tersebut untuk memberi kesan bahwa berhala induk tersebut cemburu dengan berhala-berhala kecil yang dianggap tidak pantas disembah bersamanya.
Saat penduduk kembali, mereka terkejut ketika melihat keadaan berhala-berhala tersebut dan bertanya-tanya mengenai jati diri pelakunya. Sebagian penduduk kemudian mengatakan bahwa Nabi Ibrahim dikenal suka mencela sesembahan mereka. Nabi Ibrahim kemudian ditanya, “Apakah kamu yang melakukan perbuatan ini terhadap tuhan-tuhan kami, Ibrahim?” Nabi Ibrahim kemudian membalas, “Sebenarnya patung yang besar itulah yang melakukannya. Maka tanyakanlah kepada berhala itu jika dia dapat berbicara.” Setelahnya, mereka membalas, “Sesungguhnya kamu telah mengetahui bahwa berhala-berhala itu tidak dapat berbicara.”
Mendengar jawaban kaumnya, Nabi Ibrahim segera membalikkan keadaan,
“Mengapa kamu menyembah selain Allah, sesuatu yang tidak dapat memberi manfaat sedikit pun, dan tidak mendatangkan mudarat kepada kamu? Celakalah kamu dan yang kamu sembah selain Allah! Tidakkah kamu mengerti?” QS Al-Anbiya’ (21): 66-67
Kelembutan Nabi Ibrahim alaihis salaam berdakwah kepada ayahnya, tidaklah mengundang Hidayah. Ibrahim muda kemudian menjauhkan diri dari ayahnya sembari memintakan ampunan untuk ayahnya kepada Allah. Namun setelah jelas bahwa ayahnya adalah musuh Allah, Ibrahim alaihis salaam berlepas diri darinya.
Dakwah pada kaumnya, sebagaimana seruan para rasul yang lain, Ibrahim alaihis salaam menyeru kaumnya untuk bertakwa kepada Allah, mengESAkan-Nya, dan meninggalkan sesembahan lain. Ibrahim juga menegaskan bahwa berhala mereka tidak mampu memberi rezeki pada penyembahnya.
Kaumnya menyatakan bahwa mereka melakukan penyembahan ini lantaran telah menjadi tradisi sejak leluhur mereka. Ibrahim alaihis salam kemudian bertekad untuk melakukan tipu daya pada berhala-berhala sembahan kaumnya saat mereka pergi.
Kaumnya marah setelah mendengar bantahan Ibrahim. Para penduduk tidak bisa menang debat dengan Ibrahim, sehingga mereka mengalihkan permasalahan dan menggunakan kekuatan untuk membungkam Ibrahim dengan cara berusaha dilemparkan ke dalam api. Dalam Legenda Bangsa Yahudi disebutkan bahwa sebelum dilemparkan ke api, Ibrahim dipenjara selama setahun tanpa makan dan minum.
Pada masa itu, Allah kemudian mengutus malaikat untuk memberi Ibrahim makan dan minum sehingga dia tetap hidup. Kemudian diusulkan kepada Namrudz bahwa Ibrahim harus dibakar hidup-hidup di hadapan khalayak agar para penduduk dapat terus mempercayai Namrudz Perapian. Setelah diputuskan bahwa Ibrahim akan dihukum bakar, para penduduk segera mengumpulkan kayu bakar dari segala penjuru selama berhari-hari, sampai seorang wanita yang sedang sakit juga bernazar akan ikut mengumpulkan kayu bakar jika sudah sembuh. Kemudian mereka menggali lubang yang sangat besar tempat kayu-kayu tersebut dinyalakan.
Api menyala sangat besar sehingga tidak ada yang bisa mendekat, sehingga Ibrahim diikat dan dibelenggu, kemudian dilemparkan ke tengah api menggunakan manjanik. Saat dilempar, Ibrahim mengucapkan “Cukuplah Allah sebagai pelindung kami.”Allah kemudian memerintahkan, “Wahai api! Jadilah kamu dingin dan penyelamat bagi Ibrahim!” Kobaran api tersebut hanya membakar ikatan Ibrahim, tapi tidak tubuh maupun pakaiannya.
Ada yang mengatakan bahwa Ibrahim berada dalam kobaran api selama empat puluh sampai lima puluh hari. Sebuah riwayat menyebutkan bahwa ayah Ibrahim kemudian berkata, “Sebaik-baik Tuhan adalah Tuhanmu, Ibrahim.”
Ka’bah dan Haji
Dalam Al-Qur’an disebutkan bahwa bersama Ismail, Ibrahim meninggikan pondasi Ka’bah.As-Suddiy menyatakan bahwa tatkala diperintahkan Allah untuk membangun Ka’bah, Ibrahim dan Ismail tidak mengetahui tempat yang cocok untuk tempat pembangunan tersebut, Allah mengutus angin yang menyapu segala hal yang ada di sekitar tempat yang akan dibangun Ka’bah. Saat Ka’bah sudah mulai tinggi, Ibrahim menggunakan batu pijakan agar dapat menggapai bagian atas Ka’bah. Batu pijakan tersebut kemudian disebut “Maqam Ibrahim” dan di sana terdapat bekas pijakan kaki Ibrahim. Pada masa ‘Umar bin Khaththab, maqam Ibrahim yang awalnya menempel ke dinding Ka’bah kemudian digeser menjauh dari dinding agar tidak menghalangi orang yang sedang thawaf. Tatkala pondasinya telah sempurna, Ibrahim memerintahkan Ismail untuk mencari batu untuk diletakkan di sudut Ka’bah. Namun sebelum Ismail tiba, Malaikat Jibril membawakan batu tersebut. Batu tersebut adalah “hajar aswad.”
Setelah usai, Ibrahim kemudian diperintahkan menyeru manusia untuk melaksanakan ibadah haji[81] dan mengajarkan tata caranya. Haji tetap terus dijalankan setelah Ibrahim dan Ismail wafat. Menurut sejarawan Marshall Hodgson (1922–1968), umat Kristen Arab juga melaksanakan haji pada masa pra-Islam.
Saat bangsa Arab perlahan mulai jatuh dalam kemusyrikan, ibadah haji masih bertahan, tetapi tercampuri ritual pengagungan pada berhala-berhala dan di sekitar Ka’bah didirikan banyak berhala. Pada masa Nabi Muhammad, ibadah haji kemudian dikembalikan untuk pengagungan Allah semata sebagaimana pada masa Ibrahim dan berhala-berhala di sekitar Ka’bah dihancurkan