Makam ini terletak dipesisir pantai yang dulunya bernama pesisir Ujung Tua. Tempatnya sangat menarik, sepi dan indah. Karena itulah tempat ini cocok untuk bertawadhu, dzikir, menyepi diri, mengingat dan berserah diri kepada Allah SWT.
Konon, Habib Keling bernama Syekh Umar yang datang ke tanah air (Jawa) bersama dengan Syekh Kuro Kerawang. Karena mereka tidak nyaman, Syekh Kuro meninggalkan Kerawang dan melanjutkan perjalanan syiar Islam ke Pakistan. Selanjutnya dalam kisah itu Syekh Umar melanjutkan ke Cirebon sambil membawa barang-barang permata (berbentuk bulat dan bolong) dan kapalnya karam, meninggal di pantai pesisir utara.
Menurut versi lain, Habib Keling berasal dari Keling (Samudera Pasai), Aceh. Beliau bernama Syekh Umar bin Abdullah anak dari Habib Abdullah yang bermukim di Mangga Dua, Jakarta. Beliau menyebarkan agama Islam Ke Cirebon dan terdampar di Ujung Tua. Beliau sempat mengajarkan ilmu agama di Krangkeng dan meninggal serta dimakamkan di pesisir.

Terlepas pendapat mana yang benar, yang jelas Habib Keling adalah seorang pejuang Islam yang alim, ulet, pemberani dan hidup sederhana. Setidaknya hal itu bisa dibuktikan dengan makin ramainya makam tersebut. Karena sekarang, pada hari-hari tertentu seperti hari raya Idul Fitri dan Idul Adha, serta hari-hari yang berkaitan dengan keagamaan, Makam Habib Keling tersebut banyak dikunjungi warga setempat maupun warga dari luar Indramayu untuk berziarah.
Rute menuju makam sangatlah mudah, karena jika anda sudah berada di makam Sunan Gunung Jati, Cirebon, hanya tinggal butuh waktu beberapa puluh menit saja. Dari Makam Sunan Gunung Jati lanjutkan perjalanan anda ke arah Jakarta. Nanti sebelum masuk Pasar Karangampel, ada SPBU yang berada di sebelahnya Kampus Hijau, Kaplongan. Tidak jauh dari SPBU ada pertigaan, beloklah ke kanan. Ikuti terus jalur utama itu dan anda akan langsung sampai di Makam Habib Keling. Selamat berziarah.