Kaljaną sudaro penkios pagrindinės dalys:
Rūkymo vamzdelis (1)
Taurelė, į kurią dedamas tabakas (2)
Viršutinė metalinė dalis (3)
Metalinis vamzdelis (4)
Apatinė stiklinė (arba metalinė) kolba (5)
Yra modelių su keliais rūkymo vamzdeliais: dviem, trim arba keturiais. Kurį pasirinkti perkant, skonio reikalas. Klasikinis kaljanas - su vienu rūkymo vamzdeliu. Anksčiau pagaminti kaljanai su keliais rūkymo vamzdeliais turėjo trūkumą, kadangi vienu metu traukti dūmą gali tik vienas žmogus, kiti turėdavo užspausti rūkymo vamzdelius pirštu. Dabar gaminamuose kaljanuose įtaisyti vožtuvėliai, todėl vienam mėgaujantis kvapniais garais, kiti vamzdeliai užsidaro patys. Keli rūkymo vamzdeliai turi ir privalumą, rūkant nereikės perdavinėti rūkymo vamzdelio.
Surenkant kaljaną reikia atkreipti dėmesį į pagrindinių dalių sandarumą. Ypač svarbu, kad nebūtų tarpelių tarp kolbos (5) ir viršutinės metalinės dalies (3), taip pat viršutinės metalinės dalies (3) ir rūkymo vamzdelio (1).