Sau đấu tranh Phật giáo năm 1963, giáo hội Phật giáo Việt Nam thành phố Hồ Chí Minh giao một khu đất có diện tích 40.000 m2 nằm trên đồi Viễn – đồi bác sĩ Tín – cho HT Pháp Tri (Phó Viện trưởng Viện Hóa đạo) và HT Hộ Giác (Tổng Vụ trưởng Tổng hội Hoằng pháp, Tổng Vụ trưởng Tổng hội Thanh niên) để thiết lập một ngôi chùa theo hệ phái Phật giáo Nam Tông. Năm 1969, HT Pháp Tri đại diện chư tăng quản lý việc xây dựng. Chùa được mô phỏng theo kiểu kiến trúc của Bồ Đề Đạo Tràng ở Ấn Độ tức là một tháp giữa làm chánh điện, bốn tháp xung quanh và lấy tên là Xá Lợi Phật Đài. Thời kỳ đó còn nhiều khó khăn, kinh phí không có nên từ năm 1969 đến khoảng năm 1989 chỉ xây dựng được mặt bằng tầng trệt của tháp lớn làm chánh điện bằng gạch xi măng do chùa tự đổ và chưa có tháp xung quanh.
Năm 1992, thể theo lời yêu cầu của ngài Pháp Tri, TT Thiện Nhân về Xá Lợi Phật Đài phụ giúp công việc và đảm nhiệm chức vụ trụ trì. Năm 1992 đến khoảng 1998, công trình xây dựng được một phần nhà bếp, tăng xá, trai đường và 2 phòng của chư tăng tu học.
Năm 1998, chương trình xây dựng công viên lịch sử văn hóa dân tộc của nhà nước ra đời, dự kiến chia làm 4 khu. Nhà nước lấy khu đồi Viễn làm khu 1 để xây dựng đền thờ vua Hùng. Khu 2 tái tạo công trình có mốc lịch sử từ thế kỷ thứ XVII – XIX. Khu 3 tái tạo công trình từ thế kỷ XIX – hiện đại. Khu 4 là khu vui chơi giải trí. Như vậy, chùa Xá Lợi Phật Đài nằm trong khu 1 nên bị giải tỏa, bắt buộc phải di dời qua khu tái định cư Long Sơn hiện giờ. Lúc đầu cũng có nhiều ý kiến muốn giữ lại Xá Lợi Phật Đài trong hiện trạng đất nhưng do quyết định của trung ương là khu 1 chỉ là kiến thiết những công trình thờ các vua Hùng nên chùa phải dời đi. Trong khoảng thời gian lo thủ tục giấy tờ, TT Thiện Nhân xin lại 1 mẫu để khi tái định cư có chỗ xây dựng thoải mái nhưng công trình chỉ cho 5.000 m2. Sau khi thương lượng, họ cấp cho 7.200 m2. Khu tái định cư Long Sơn nếu tính đường chim bay thì cách chùa Xá Lợi Phật Đài cũ khoảng 500 m.
Sau khi nhận đất và hoàn thành các thủ tục giấy tờ, ngày 24/03/2005, thượng tọa bắt đầu khởi công xây dựng chùa Xá Lợi Phật Đài hiện tại. Ngôi chùa có tên Xá Lợi Phật Đài có nghĩa là có tháp thờ Xá lợi Phật. Do muốn gìn giữ tên gọi mà các vị Trưởng lão đã đặt nên khi xây dựng lại Xá Lợi Phật Đài, thượng tọa phải xây dựng tháp để thờ Xá lợi Phật. Còn những công trình khác thì hoàn toàn thay đổi so với kiến trúc chùa cũ. Như vậy là tên cũ vẫn giữ do ngài Pháp Tri đặt là Xá Lợi Phật Đài. Xây dựng khoảng 2,5 năm là xong. Chùa có kiến trúc theo chữ Vương: chánh điện ở giữa có diện tích 450 m2 (15×30 m), tăng xá 2 bên, phía sau là trai đường và phía trước có tháp thờ Xá lợi Phật và 1 tháp chuông. Vị trí chùa khá đẹp với 3 mặt tiền. Hai mặt tiền đường, một mặt sau là công viên.
Mỗi năm chùa tổ chức dâng y Kathina vào ngày 22/9, giỗ của HT Pháp Tri vào ngày 16/10. Còn những ngày lễ rằm tháng giêng, tháng 4, tháng 7 không có lễ thọ đầu đà. Ngày 22 al hàng tháng chùa tổ chức ngày hành thiền tứ niệm xứ. Hiện tại chùa có 4 vị sư đang trú ngụ và tiếp nhận công việc thuyết pháp giảng đạo để giữ gìn truyền thống Phật giáo Nam Tông.
