Irak – Bağdat – Dicle kenarındaki Şünuziye kabristanında.
Bağdat’ta doğdu ve orada yaşadı. Doğum tarihi belli değildir. Ailesi aslen Nihavendli olup cam ticaretiyle uğraştıklarından Kavariri nisbesiyle tanınmaktaydı. Bizzat Cüneyd de ipek ticaretiyle meşgul olduğundan Hazzaz lakabıyla tanınmıştır. Ailesinin Nihavend’den Bağdat’a ne zaman geldiği kesin olarak bilinmemektedir.
Cüneyd küçük yaşta tahsile başladı. Ebu Sevr el-Kelbi’den fıkıh okudu. Ebu Ali el-Hasan b. Arefe el-Abdi başta olmak üzere bazı alimlerden hadis dinledi. Dayısı Seri es-Sakati ve Ebu Hamza el-Bağdadi gibi sufilerin sohbetinde bulundu. Zahiri ilimlere büyük onem veren Seri Sakati, onun once şer’i ilimleri oğrenmesini teşvik ettikten sonra, “Allah seni sufi hadisci değil hadisçi sufi kılsın” şeklinde dua etmiştir. Nitekim henüz yirmi yaşında iken fıkıh hocası Ebu Sevr’in ders meclisinde fetva verecek seviyeye gelmişti.
Cüneyd şer’i ilimleri iyice öğrendikten sonra kendini zuhd, ibadet ve tasavvufa verdi. Aslında küçükk yaştan itibaren tasavvufa hevesli idi. Henuz yedi yaşında iken şükrün ne olduğunu soran Seri’ye, “Verdiği nimete güvenerek Allah’a asi olmamaktır” diye cevap vermesi onun bu alanda ne kadar yetenekli olduğunu göstermektedir. Başta dayısı olmak uzere çevresinde büyük sufilerin bulunması, onun küçük yaşta tasavvufa yonelmesine sebep olmuştur denilebilir. Bununla birlikte Cüneyd şer’i ilimlerle de sürekli meşgul oldu. Ca’fer el-Huldi’nin, “Hal ile ilmi Cüneyd kadar mükemmel bir şekilde kendisinde birleştiren başka bir sufi gormedim. Onu gören halinin ilminden üstün, konuşmasını dinleyen ilminin halinden üstün olduğu kanaatine varırdı” demesi ilim ve tasavvuftaki mertebesini göstermektedir. Bundan dolayı “tavüsü’l-ulema” ve “seyyidu’t-taife” gibi unvanlarla anılırdı.
Cüneyd Bağdadi hazretleri , tasavvufun derinliklerine dalmak ve zihni surekli ruhi konularla meşgul olmakla birlikte geçimini sağlamak için ticaretle de uğraşıyordu. İbn Nuceyd, onun dukkanında perde ile ayırdığı bir köşede ibadete devam ettiğini soyler. Cüneyd’in irşad faaliyetine başlayacak bir duruma geldiğini goren Seri Sakati hazretleri onu vaaz vermeye teşvik etmesine rağmen o kendisinde bu ehliyeti görmediğinden çekingen davranmış, ancak manevi bir işaret uzerine meclis teşkil edip konuşmaya başlamıştı. Bununla birlikte Cuneyd Bağdadi hazretleri fena ve tevhid gibi tasavvufun ince ve güç anlaşılan konularını kapalı kapılar ardında anlatmayı tercih ediyor, bazan da bunları fıkıh perdesi altında gizliyordu.
Bircok ünlü sufi Cuneyd Bağdadi hazretleri ‘nin sohbetinde bulunmuş, onun muridi ve halifesi olmuştur. Ebu Muhammed el-Ceriri, Ebu’l-Abbas İbnu’l-Arabi, İsmail b. Nuceyd, Ali b. Bundar es-Sayrafi, Ebu Bekir Şibli, Mimşad ed-Dineveri, Abdullah eş-Şa’rani, Muhammed b. Ali el-Kettani, Ebu Bekir el-Vasıti, Ebu Amr ez-Zeccaci Cuneyd’in sohbetinde bulunan tanınmış sofilerdendir. Bu sebeple tarikatların tamamına yakın kısmı silsilelerinde Cuneyd’ Bağdadi hazretleri’ne yerverirler . Mutlak İmam, Küçük Şafii ve Sadr-i Kebir gibi unvanlarla anılan fıkıh alimi İbn Sureye de onun sohbetinde bulunmuş, ruhaniyetinin tesirinde kalmış ve manevi alandaki bilgilerini ona borclu olduğunu ifade etmiştir.
İbnu’l-Mulakkın’ın kaydettiğine gore Cuneyd Bağdadi hazretleri ölüm doşeğinde iken oturarak namaz kılmış, bunun da bir nimet olduğunu ifade etmiş, istirahat etmesi gerektiğini söyleyenlere namaza durmak suretiyle cevap vermiş ve virdiyle meşgul iken ruhunu teslim etmiştir. Ölümünden az once hatim indirmiş, yeni bir hatime başlayıp Bakara suresinden yetmiş ayet okumuştu. 297 (909) yılında vefat etmiş olup cenaze namazında 60.000 kişinin bulunduğu rivayet edilir. 296 veya 298 yılında vefat ettiğine dair de rivayetler vardır. Bağdat’ın Şunuziye Mezarlığı’nda dayısı ve şeyhi Seri’nin yanında toprağa verilen Cuneyd Bağdadi hazretleri çeşitli İslam ülkelerinde makamları mevcuttur.