Chùa Bà Thiên Hậu được nhóm người Hoa gốc Tuệ Thành (tức Quảng Châu thuộc tỉnh Quảng Đông) di dân sang Việt Nam góp vốn và góp công xây dựng vào khoảng năm 1760 và được trùng tu nhiều lần. Chùa nằm trong khu trung tâm của những người Hoa đầu tiên đến tạo lập nên Chợ Lớn sau này.




Sách Đại Nam nhất thống chí ghi: Cách huyện Bình Dương 12 dặm, ở phía tả và phía hữu đường quan lộ. Nơi chợ có đường thông ra tứ phía đi liên lạc như hình chữ "điền", nhà cửa phố xá liên tiếp thềm mái cùng nhau, người Hán, người Thổ ở chung lộn dài độ 3 dặm, đủ cả hàng hóa trăm thức,... đầu phía bắc đường lớn có đền Quan Công, quán Tam Hội, xây cất đối nhau phía tả và phía hữu. Phía tây đường lớn có chùa Thiên Hậu, gần phía tây có Ôn Lăng Hội Quán...




Theo học giả Vương Hồng Sển thì Thiên Hậu Thánh Mẫu (vị thần được thờ chính trong chùa) có tên là Lâm Mặc Nương, người đảo Mi Châu, thuộc Bồ Dương (Phước Kiến). Bà sinh ngày 23 tháng 3 năm Giáp Thân (1044), đời vua Tống Nhân Tông. Sau đó, tám tuổi bà biết đọc, mười một tuổi bà tu theo Đạo giáo. Mười ba tuổi, bà thọ lãnh thiên thơ: thần Võ Y xuống cho một bộ "Nguyên vị bí quyết" và bà tìm được dưới giếng lạn một xấp cổ thư khác, rồi coi theo đó mà luyện tập đắc đạo.




Một lần, cha bà tên Lâm Tích Khánh ngồi thuyền cùng hai trai (anh của bà), chở muối đến tỉnh Giang Tây để buôn, giữa đường thuyền lâm bão lớn... Lúc đó bà đang ngồi dệt vải cạnh mẹ nhưng xuất thần để đi cứu cha và hai anh. Bà dùng răng cắn được chéo áo của cha, hai tay nắm hai anh, giữa lúc đó mẹ kêu gọi bà, buộc bà phải trả lời, bà vừa hở môi trả lời thì sóng cuốn cha đi mất dạng, chỉ cứu được hai anh. Từ đó mỗi khi thuyền bè ngoài biển bị nạn người ta đều gọi vái đến bà. Năm Canh Dần (1110) nhà Tống sắc phong cho bà là "Thiên Hậu Thánh Mẫu"
Chùa xây theo hình ấn, là kiểu kiến trúc đặc trưng của người Hoa, đây là tổ hợp 4 ngôi nhà liên kết nhau tạo thành mặt bằng giống hình chữ "khẩu" hoặc chữ "quốc". Ba dãy nhà ở giữa tạo thành tiền điện, trung điện và hậu điện. Giữa các dãy nhà này có một khoảng trống gọi là thiên tỉnh (giếng trời), giúp không gian chùa thoáng đãng, đủ ánh sáng cho hậu cung và có chỗ thoát khói hương.




Trang trí ở các điện là hình hoa lá, chim thú và hoành phi, câu đối, biển tự thường là màu đỏ, vàng tạo sự ấm áp, tin tưởng. Chùa còn có các bức tranh đắp nổi liên hoàn, các con vật thuộc "tứ linh".
Chùa có gắn các tượng tròn, phù điêu bằng gốm dày đặc từ trên nóc chùa, mái, hiên chùa cho đến các bàn thờ, vách tường... do 2 lò gốm Bửu Nguyên và Đồng Hòa sản xuất vào năm 1908.