直到清同治二年(1862)，全真龍門第二十代宗師王明貞才在上海北門外(今浙江北海道附近)新橋朝陽樓創立全真道觀“雷祖堂”。
清光緒八年(1882)，雷祖殿因道路擴建需要拆除。當時的雷祖堂住持徐誌成在士紳的支持下，在老西門外的壹條坡道——西林的後路上買了壹塊地，重修了雷祖堂。光緒十二年(1886)，擴建了鬥姆殿、三清殿、呂祖殿、客堂、齋堂。
光緒十四年(1888)，徐誌澄到了北京，在清廷官員和北京白雲寺方丈董的協助下，以將雷祖寺改為“海上白雲寺”，即北京白雲寺下殿為條件，向北京白雲寺索要了8000多卷明版《道藏》。雷祖寺改為海上白雲寺後，采納了北京白雲寺的條條框框，逐漸確立了全真派十方叢林的地位，成為東南地區久負盛名的全真道觀。
2002年，因舊城改造，白雲寺再次搬遷，新址位於小北門大井路239號。新落成的白雲寺供奉的80多尊道教造像，全部采用漢代“脫胎”的老工藝制作，其中正殿玉帝坐像高五米，全國罕見。
“上海白雲寺”雖然歷史不長，但廟裏供奉的神靈卻源遠流長。清光緒二十年，將明代鑄造的七尊道教造像(二天師五天王)移關供奉於寺內，加上1984獲得的兩尊明清銅像。目前，上海白雲寺保存著九尊銅像，每壹尊都端莊凝重。
上海白雲寺早期屬於全真派，現在是正統派寺廟。目前是上海市道教協會所在地。
當我們參觀這座寺廟時，它已經被廢棄了。外地遊客很少，幾乎沒有燒香拜佛的信徒，廟裏甚至沒有道士。大概是因為是新建的，不為人們所知。主要原因大概是道教的衰落和信眾的稀少。相比之下，佛教在中國越來越流行，甚至普通人都想去佛寺燒香拜佛，祈求平安。
其實，城隍廟也是壹座道觀。因為位於繁華的豫園商場旁邊，香火還是比較旺的。另外，只要是寺廟，普通人都進，見佛就拜，燒香磕頭，不管佛道。
追根溯源，佛教來自印度，從根上來說是外來文化，而道教才是真正的國粹，不僅起源於中國，而且基本上只存在於中國。