Với lợi thế nhất cận thị, nhị cận giang, Xuân Thiên trước kia là một điểm buôn bán sầm uất trên bến, dưới thuyền, có bến đò Đầm, chợ Đầm. Ở thế kỷ XIX, nơi đây là một vùng trù phú, là nơi trung chuyển hàng hóa của các thương nhân đưa hàng từ miền xuôi lên miền ngược và sang Lào cũng như đưa các lâm thổ sản từ miền núi xuống tập kết... Vì làm ăn phát đạt nên nhiều người dân đã tìm đến phố Đầm lập nghiệp, xây dựng nhiều ngôi nhà cổ có kiến trúc đẹp.
Ngôi nhà cổ của gia đình bà Cao Thị Đức đã có lịch sử hơn 100 năm tuổi là một trong một số ít ngôi nhà ở phố Đầm vẫn giữ nguyên vẹn theo kiến trúc cổ. Ngôi nhà được xây dựng với kiến trúc hai tầng mái đỏ, trần nhà được làm bằng lim. Trải qua thời gian ngôi nhà vẫn không hề bị thay đổi, mối mọt.
Cổng vào ngôi nhà đã phủ kín rêu phong nhưng vẫn còn giữ nguyên vẹn những hoa văn, kiến trúc của một thời hoàng kim.
Đây là một căn nhà cấp 4 cổ của gia đình ông Vũ Văn Tuân được xây dựng từ năm 1930, đến nay vẫn còn chắc chắn.
Hầu hết các ngôi nhà cổ đều vẹn nguyên lối kiến trúc và hoa văn độc đáo do chính những người thợ phố Đầm thiết kế, xây dựng.
Những ngôi nhà cổ xưa đều mang nét kiến trúc hai tầng, trần nhà được làm bằng lim. Nhà được xây bằng tường gạch nung và vôi, mái ngói đất sét nung. Những ngôi nhà này mát vào mùa hè, ấm áp mùa đông.
Trước đây những ngôi nhà ở Phố Đầm đều gắn liền với những cửa hàng nổi tiếng như phòng khám răng, hiệu thuốc bắc nổi tiếng Quảng Phát, Nam Ích Long, rồi những tiệm bán vàng, bạc... Đến nay dù không còn làm những nghề gia truyền, nhưng chủ nhân những ngôi nhà này vẫn giữ tên biển hiệu như để hoài niệm thời hoàng kim của ông cha.
Bà Trần Thị Thực, công chức văn hóa xã Xuân Thiên cho biết: Trước những năm 70 thế kỷ XX, xã Xuân Thiên có khoảng 100 ngôi nhà cổ tập trung chủ yếu ở phố Đầm, hiện nay chỉ còn 17 nhà lưu giữ được sự nguyên vẹn với kiến trúc họa tiết, hoa văn độc đáo, mang phong cách cổ xưa.
Những ngôi nhà xuống cấp trầm trọng các gia đình buộc phải sửa chữa lại để thuận tiện cho sinh hoạt hàng ngày.
Ngoài nhà cổ, nơi đây còn có chợ Đầm cổ nổi tiếng mỗi tháng họp 6 phiên.
Ngày 7-1-2020, phố Đầm được Chủ tịch UBND tỉnh công nhận là điểm du lịch cấp tỉnh. Đây là niềm tự hào của người dân phố Đầm và mọi người đều có ý thức, trách nhiệm trong việc bảo tồn, lưu giữ những nếp nhà xưa.