Первоначально официальной религией в Мерве был зороастризм, именно сюда последний сасанидский царь Иездегерд принес Великий священный огонь и поместил его в одном из храмов-аташкедов. В городе существовала и крупная христианская община. Во время раскопок археологи откопали в северо-восточной части Гяур-калы (╚Крепости неверных╩) остатки христианского монастыря, возведенного на руинах одного из парфянских зданий. Монастырь имел овальный план, в него входил внутренний двор, окруженный сводчатыми кельями.

Мавзолей Мухаммеда ибн Зейда. Мерв

В Мерве были и буддистские общины. В юго-западном углу Гяур-калы располагался буддистский монастырь с высокой ступой, которая была возведена в III веке. Но особым почитанием в Мерве пользовался храм Кей-Марзубан, который в описаниях арабского географа Ибн-аль-Факиха выглядел так:
Был в Мерве большой старинный дом.. Дойдя от земли до высоты человеческого роста, он поднимался к крыше на четырех изображениях по его сторонам ≈ двух мужчин и двух женщин, и внутри его были удивительные изображения ≈ неизвестно, что такое.
И пришли некие люди, заявили, что оно принадлежит им и что их предки построили его; разрушили его и выбрали дерево, которое было в изображениях, а он был домом удивительно сделанным. В год, когда он был разрушен, Мерв и его селения постигли великие бедствия, и люди Мерва утверждали, что он был талисманом для процветания.
Большим уважением пользовался у местных жителей памятник ╚Султан-Санджар╩, о котором старинная легенда повествует следующее.
Была у султана необыкновенная жена ≈ красавица-пери, данная ему с небес на трех условиях: чтобы он никогда не смотрел, как она причесывается; никогда не смотрел на ее пятки, когда она будет ходить, и никогда не обнимал ее за талию. При нарушении этих условий жена немедленно будет опять взята на небо.
Султан счастливо жил со своей необыкновенной женой, но его постоянно терзали мысли об этих странных условиях. И вот однажды он все-таки решил подсмотреть, как она причесывается. Султан увидел, что жена сняла голову, положила ее на стол и стала расчесывать волосы золотым гребнем. Через некоторое время он осмелился посмотреть на пятки жены и увидел, что она не ходит, а плавает в воздухе. Разгневалась красавица-пери и улетела на небо.