Abdurrahman mendampingi Rasulullah Shallallahu Alaihi wa Sallam dan hidup bersama beliau pada tahun-tahun yang sulit dan hari-hari yang penuh cobaan. Juga pada saat-saat susah dan senang dan pada masa-masa damai dan perang. Ia benaung di bawah naungan majelis-majelis beliau, dan memperhatikan perilaku beliau yang merupakan cerminan terbaik dan paling sempurna dari Al-Qur’an.
Pada bulan Rajab tahun kesembilan Hijrah, Nabi Shallallahu Alaihi wa Sallam mendapat kabar bahwasanya Romawi mengumpulkan kekuatan untuk memerangi beliau. Maka beliau segera bermaksud untuk mendahului mereka dan memberi pelajaran kepada mereka. Beliau mengumpulkan orang-orang dan menjelaskan maksud beliau kepada mereka. Karena jauhnya perjalanan dan sulitnya keadaan pada saat itu, maka beliau meminta mereka untuk bersiap-siap dan menyiapkan bekal masing-masing, hingga terkumpul sebuah pasukan yang besar berjumlah tiga puluh ribu tentara.
Sebagaimana ia mendapingi Rasulullah Shallallahu Alaihi wa Sallam pada masa damai, Ibnu Auf juga menemani beliau pada masa perang. Dan bagaimana ia ada bersama beliau setiap kali beliau bepergian, dalam shalat-shalat dan ibadah haji, dalam berbagai majelis untuk mendengarkan ajaran beliau, ia juga bergabung di bawah panji beliau dalam seluruh peperangan yang beliau ikuti. Maka sejak pertama ia menjejakkan kakinya dalam kapal dakwah, dan bergabung dalam perjalanannya yang penuh berkah dan petunjuk, ia telah bertekad untuk tidak berpisah dengan pribadi Rasulullah Shallallahu Alaihi wa Sallam dan menolong agama Allah serta memikul beban dakwahnya.
Abdurrahman mendapat kehormatan untuk mendampingi Nabi Shallallahu Alaihi wa Sallam sejak awal dakwah Islam. Ia menemani beliau selama periode Mekah, dan tidak pernah berpisah dengan beliau kecuali selama ia hijrah ke Habasyah. Kemudian ia meneruskan kebersamaan tersebut di Madinah Al-Munawwarah. Dan Waktu yang ia habiskan dalam mendampingi Nabi Shallallahu Alaihi wa Sallam pun membentang hingga kurang lebih dua puluh tahun.
Sebagian dari shahabat yang hijrah ke Habasyah kemudian kembali lagi ke Mekah Al-Mukarrahamah dan bermukim di sana hingga kaum Anshar melakukan dua bai’at Aqabah kepada Nabi Shallallahu Alaihi wa Sallam. Lalu Allah mengizinkan Nabi-Nya untuk hijrah ke Madinah, dab beliau pun mengarahkan para shahabatnya untuk hijrah ke sana. Mereka pun pergi mendahului beliau baik secara perorangan maupun bersama-sama.
Abdurrahman masuk Islam pada awal dakwah, dan bergabung dengan kafilahnya yang penuh berkah. Bersama kelompok yang pertama masuk Islam lainnya ia bergabung dalam madrasah Islam yang pertama di rumah Al-Arqam yang berada di bukit Shafa, dan yang merupakan pusat dakwah dan madrasah pembelajaran risalah. Di sanalah berkumpul nya pemuda-pemuda yang masih memiliki kejujuran dalam hatinya, untuk menjalankan dakwah mereka bersama Rasulullah Shallallahu Alaihi wa Sallam dalam senyap.
Di samping kemuliaan garis keturunan yang di anugerahkan Allah kepada Abdurrahman, ia juga dikaruniai dengan ketampanan dan social yang berwibawa. Sehingga ciri fisik yang menonkol ini memberikan nilai tambah kepada kebersihan jiwanya, dan memperlihatkan apa yang ada dalam hatinya. Orang yang pertama kali bertemu dengannya akan terpesona oleh ketampanannya, dan keindahan bentuknya, serta wajahnya yang berseri-seri. Juga matanya yang indah, dengan tubuh yang tinggi, terlihat elok dari jauh, dan indah dipandang dari dekat. Orang-orang merasa segan dengan wibawanya, dan banyak mata yang mencuri pandang kepadanya. Semoga Allah meridhainya.
Di mekah Al-Mukarramah yang dipili Allah untuk menjadi tempat bangunan paling suci di muka bumi (Al-Ka’bah Al-Msyarrafah), dan dengan ilmunya yang azali dan kemuliaan-nya yang begitu agung Allah telah menetapkan bahwa dari sana akan terpancar sinar dari risalah yang paling agung yang dianugerahkan Allah kepada para hamba-Nya. Disanalah akan dibangkitkan Rasul-nya yang paling mulia Muhammad Shallallahu Alaihi wa Sallamuntuk memproklamirkan ajaran tauhid, dan membawakan cahaya serta kebaikan kepada seluruh dunia.
Dengan tingkat kemasyhuran yang begitu tinggi yang dimiliki oleh Abu Ubaidah di antara para shahabat Rasulullah Shallallahu Alaihi wa Sallam serta tingginya kedudukannya di sisi kaum muslimin, serta banyaknya berita tentang kehidupannya sejak awal keislamannya, kebersamaan dengan Rasulullah Shallallahu Alaihi wa Sallam dan jihad yang dilaluinya bersama beliau, juga berbagai kisah penaklukannya yang begitu luas dan penuh dengan cerita tentang kemenangan, kita menemukan kebalikan dalam berita tentang keluarga dan hal-hal yang berkaitan dengan kehidupan pribadinya.
Jiwa sang shahabat penakluk besar terus terika kepada tempat Isra’ Rasulullah Shallallahu Alaihi wa Sallam yang juga merupakan kiblat pertama. Di mana ia dan juga Umar diberikan kehormatan oleh Allah untuk membebaskan masjid tersebut dari cengkeraman orang musyrik. Maka langkah-langkah terakhir yang diayunkannya di negeri Syam adalah perjalanannya ke sana, untuk melaksanakan shalat dan mendapatkan pahala yang besar. Namum ajal mendahuluinya saat ia berada dalam perjalanan.