Khalid bin Sa'id berasal dari keluarga terpandang di Makkah yang memiliki pengaruh besar dalam masyarakat Quraisy. Ayahnya bernama Sa'id bin Ash, seorang figur yang sangat dihormati sehingga ketika hadir di suatu majelis dan memakai turban ('imamah), orang-orang akan melepas turban mereka karena penghormatan. Khalid adalah keponakan Amru bin Ash, tokoh yang juga dikenal penting dalam sejarah Islam.

Penemuan Khalid terhadap Islam dimulai dengan serangkaian mimpi yang luar biasa. Sebelum Muhammad Shallallahu 'alaihi wa sallam diutus sebagai Rasul, Khalid sering mengalami mimpi-mimpi aneh yang mengingatkannya akan sesuatu yang penting. Dalam mimpinya, Khalid melihat Makkah diselimuti kegelapan yang sangat pekat sehingga ia tidak dapat melihat telapak tangannya sendiri. Tiba-tiba, cahaya bercahaya muncul dari sumur Zamzam dan naik ke langit, menerangi Ka'bah dan sekitarnya. Kegelapan pun menghilang dan cahaya terang menerangi seluruh Makkah. Cahaya tersebut kemudian melesat menuju Yatsrib (Madinah) dengan cahaya yang begitu terang sehingga Khalid dapat melihat pohon-pohon kurma di kota tersebut sedang berbuah.

Pada malam berikutnya, Khalid mengalami mimpi yang mengguncang lagi. Kali ini ia melihat neraka dengan berbagai siksaan mengerikan di tepinya. Ayahnya mendorong Khalid dari belakang hampir membuat dirinya terperosok ke dalam neraka, namun Rasulullah muncul dan berusaha menyelamatkannya. Yakin bahwa mimpi-mimpi tersebut mengandung makna penting, Khalid meminta saudara kandungnya, Amru bin Sa'id, untuk menafsirkannya. Berdasarkan mimpi-mimpi tersebut, Amru memprediksi bahwa dari keturunan Bani Abdul Muthallib akan lahir seorang tokoh besar yang akan menyelamatkan umat manusia. Sumur Zamzam melambangkan Bani Abdul Muthallib karena nenek moyang mereka Abdul Muthallib yang menemukan kembali sumur tersebut setelah lama terkubur.

Kesyahadan dan Masa-Masa Awal Islam

Khalid langsung teringat nama Muhammad karena beliau sangat dikenal di Makkah sebagai pribadi yang jujur dan dapat dipercaya. Untuk menemui Rasulullah, Khalid meminta bantuan Abu Bakar yang merupakan sahabat dekat Rasulullah. Setelah berbicara panjang lebar dengan Abu Bakar, Khalid kemudian dibawa menghadap Rasulullah. Ketika Khalid menanyakan ajaran apa yang dibawa Rasulullah, beliau menjawab dengan jelas bahwa beliau mengajak manusia menyembah Allah yang tidak memiliki sekutu, dan Muhammad adalah hamba dan utusannya. Rasulullah meminta Khalid meninggalkan ajaran menyembah batu yang tidak dapat mendengar, melihat, atau memberi manfaat dan bahaya.

Jawaban Rasulullah menghilangkan keraguan Khalid. Ia langsung memeluk Islam dan menyadari bahwa itulah ajaran yang benar. Menurut para ahli tarikh Islam, Khalid adalah pria kelima yang masuk Islam, setelah Ali bin Abi Thalib, Abu Bakar, Zaid bin Haritsah, dan Sa'ad bin Abi Waqqash. Namun demikian, Khalid merahasiakan agama Islamnya dari keluarga besar untuk menghindari risiko buruk, terutama dari ayahnya yang sangat fanatik dengan ajaran syirik.

Ketika Rasulullah mulai berdakwah secara terang-terangan, identitas orang-orang yang telah masuk Islam terbongkar satu persatu. Sa'id bin Ash sangat marah ketika mengetahui anaknya telah meninggalkan agama nenek moyang. Kemarahan Sa'id demikian dahsyat hingga ia memukul kepala Khalid dengan tongkat hingga tongkat itu patah. Sa'id mengecam anaknya dengan kata-kata kasar, mengatakan bahwa Khalid berani mengikuti Muhammad padahal beliau menentang kaumnya dan menghinakan dewa-dewa mereka. Sa'id bahkan mengancam tidak akan memberi Khalid makanan, namun Khalid menjawab dengan tenang bahwa jika ayahnya tidak memberinya makan, maka Allah yang akan memberinya rezeki melalui karunia-Nya.

Pengusiran dan Hijrah ke Habasyah

Sa'id akhirnya mengusir Khalid dari rumah dan mengancam akan memperlakukan anak-anaknya yang lain dengan cara yang sama jika berani berbicara dengan Khalid. Meskipun kehilangan banyak fasilitas dan kenyamanan hidup, Khalid tetap tabah dan istiqomah dalam keimanannya. Rasulullah kemudian menampung Khalid yang tinggal sebatang kara. Namun, ketika gangguan dari Quraisy semakin keras, Rasulullah menghimbau Khalid dan beberapa sahabat lain untuk hijrah ke Habasyah. Rombongan muhajirin tersebut dipimpin oleh Ja'far bin Abu Thalib.

Peristiwa ini membuat Sa'id bin Ash sangat malu dan geram karena anaknya memeluk Islam. Ia memutuskan pindah ke Dharibah untuk menenangkan diri, namun beban pikiran terus bertambah ketika putranya yang lain, Amru bin Sa'id, juga mengikuti jejak Khalid masuk Islam. Tidak hanya itu, Amru mengajak Aban dan Al-Hakam untuk hijrah bersama-sama ke Habasyah. Beban pikiran yang terus bertubi-tubi membuat Sa'id jatuh sakit. Dalam kondisi terpuruk itu, keluar pernyataan dari Sa'id bahwa jika dia sembuh, maka tuhan yang disembah anak-anaknya tidak akan disembah oleh orang-orang Makkah selamanya. Ketika Khalid mendengar berita ini, ia berdoa kepada Allah agar ayahnya tidak diberikan kesembuhan, dan doa tersebut terkabul karena Sa'id akhirnya meninggal dunia.

Kehidupan di Habasyah dan Kembali ke Madinah

Khalid dan Amru menjalani kehidupan yang bahagia di Habasyah. Di bumi hijrah tersebut, Khalid dikaruniai satu anak lelaki dan satu anak perempuan yang diberi nama Sa'id dan Amah. Rombongan muhajirin di Habasyah baru kembali pada tahun 7 Hijriah, pada saat Rasulullah sedang berada di Khaibar mengepung orang-orang Yahudi yang berkhianat. Rombongan tersebut langsung menyusul Rasulullah dengan membawa istri dan anak-anak mereka. Rasulullah sangat bahagia menerima kedatangan para muhajirin, bahkan memberikan mereka bagian dari ghanimah (harta rampasan perang) meskipun mereka tidak ikut serta dalam pertempuran.

Dalam suatu kesempatan, Khalid mengungkapkan kesedihannya karena tidak dapat membantu Rasulullah dalam berjihad. Rasulullah merespons perkataan Khalid dengan membesar-besarkan hati, mengatakan bahwa jika sahabat-sahabat Khalid hanya hijrah sekali, maka Khalid dan rekan-rekannya telah hijrah dua kali, sehingga ini merupakan keutamaan khusus mereka.

Peran Sebagai Sekretaris dan Petugas Zakat

Setelah berada di Madinah, Rasulullah memaksimalkan potensi yang dimiliki Khalid dengan menugaskannya sebagai sekretaris yang menulis surat dan dokumen-dokumen penting. Khalid adalah sahabat yang menulis teks perjanjian antara Rasulullah dengan warga Thaif. Khalid juga ditunjuk untuk menulis surat balasan Rasulullah kepada Musailamah yang mengklaim diri sebagai nabi palsu. Selain itu, Khalid dipilih untuk menulis surat-surat Rasulullah kepada para raja dan pemimpin-pemimpin kabilah di jazirah Arab.

Salah satu hal yang menarik adalah cincin yang dipakai Rasulullah ternyata adalah milik Khalid bin Sa'id. Rasulullah pernah melihat cincin unik yang dipakai Khalid dan menanyakan ukiran yang ada di dalamnya. Khalid menjawab bahwa ukiran tersebut bertuliskan "Muhammad rasul Allah". Rasulullah kemudian meminta cincin tersebut dan memakainya sebagai cincin kenegaraan hingga beliau wafat. Setelah Rasulullah meninggal, cincin tersebut diwariskan kepada Abu Bakar, kemudian kepada Umar, dan akhirnya kepada Utsman. Sayangnya, pada masa pemerintahan Utsman, cincin legendaris tersebut hilang.

Selain berperan sebagai sekretaris, Rasulullah pernah mengangkat Khalid sebagai petugas pengumpul zakat untuk wilayah Yaman. Khalid dikirim bersama Muadh bin Jabal yang bertugas sebagai pendakwah (dai). Kedua sahabat senior tersebut tinggal di Yaman hingga terdengar berita bahwa Rasulullah telah wafat. Akhirnya, mereka berdua kembali ke Madinah dan memulai peran baru di bawah kepemimpinan Abu Bakar As-Shiddiq dalam melanjutkan misi dakwah dan administrasi negara Islam.