Trên vùng đất Vi Hương cho đến ngày nay còn lưu giữ nhiều di tích văn hoá nghệ thuật và lịch sử quý giá.
Trên một khu đất bằng của một ngọn đồi thuộc xóm Đon Bây hiện còn di tích nền chùa Hoa Sơn (Hoa Sơn tự). Đây là ngôi chùa đã có từ lâu, dấu tích còn lại là nền chùa, xung quanh có móng gạch. Gạch nền là loại gạch nung (gạch vồ), là chất liệu chính để xây dựng chùa, nền chùa có chiều dài 9 m, rộng 8 m. Hiện nay nhân dân Xã vẫn còn lưu giữ được quả chuông đồng cổ, và còn một mảnh bia đá sót lại, trên bia đá ghi một số chữ Hán đã mờ.
Hiện vật có giá trị là quả chuông đồng nặng khoảng 200 kg, chuông hầu như còn nguyên vẹn. Chuông đúc cầu kỳ, cấu trúc đẹp, theo hình chữ U, quai chuông là đôi rồng giao nhau tạo nên chỉnh thể cân đối. Thân chuông chia thành 4 ô, hoa văn đường diềm mỗi ô có một núm chuông. Trên cùng mỗi ô khắc hai hình hoa cúc to, tổng cộng là 8 bông hoa cúc, trong mỗi bông có một chữ Hán, nội dung cả 8 chữ là “Tạo, chủ, hồng, chung, Hoa Sơn, tự, ký” (Bài ký về việc nấu đúc quả chuông lớn chùa Hoa Sơn).
Chuông đồng cổ xã Vi Hương
Bài minh khắc trên quả chuông ghi niên hiệu Lê Vĩnh Thịnh năm thứ 2 (năm 1706). Nội dung cơ bản của bài minh này là ca ngợi cảnh đẹp của quê hương, con người, và ý thức trân trọng bảo vệ di sản văn hoá cổ truyền này, khắc tên những người đã có công đức, tiền của làm nên ngôi chùa để lưu truyền hậu thế. Quả chuông và bài minh thật sự là hiện vật cổ quý hiếm. Những dòng đầu tiên của bài minh có những câu sau:
“Hoa Sơn thắng cảnh
Cổ tích danh lam
Đất thiêng ưu ái
Người sớm siêng năng
Uy linh hữu hiện
Báo ứng phân minh
Nơi này có một”.
Hiện vật này đã khẳng định đây là vùng đất danh lam thắng cảnh và “Đất thiêng ưu ái” “Đất lành chim đậu”. Hàng năm sau mỗi vụ thu hoạch mùa màng, nhân dân thường đến cầu khấn, cảm ơn trời đất và cầu cho muôn vật tốt tươi, phồn thịnh.
Trên ngọn núi Phja Bjoóc (hay còn gọi là núi Hoa Sơn, núi Cứu Quốc) có một hang đá nằm giữa hai khe núi tại lưng chừng dãy núi Phja Bjoóc gọi là hang Píc Cáy, hang này đã được công nhận là di tích lịch sử văn hoá. Đây là một hang đá khá sâu, xung quanh cây cối rậm rạp, cỏ mọc um tùm. Vào năm 1943 đồng chí Võ Nguyên Giáp và một số đồng chí khác như Nông Văn Quang, Dương Mạc Thạch,… đã đến đây hoạt động và tuyên truyền. Hang đá vừa để sống, sinh hoạt, vừa là để dạy chữ. Hàng ngày các đồng chí trong đội Việt Nam tuyên truyền giải phóng quân ra tập quân sự ở một vị trí gọi là Vằng Kheo. Nhân dân ba bản là Píc Cáy, Khuổi Bon, Khuổi Cọ ở gần hang đã bảo vệ và tiếp tế, dẫn đường cho tiểu đội Việt Nam tuyên truyền giải phóng quân. Từ đó, ba bản này là cơ sở trung kiên của cách mạng (Tuy ba bản này thuộc xã Mỹ phương, Ba Bể nhưng gần xã Vi Hương nên thuận lợi cho hoạt động bí mật). Thang 5/1945, trên đường từ Cao Bằng về Tân Trào Hồ Chủ tịch đã đi qua và nghỉ chân ở đây. Các đồng chí Việt Nam tuyên truyền giải phóng quân khi ở đây đã đặt tên cho núi Phja Bjoóc (Hoa Sơn) là núi Cứu Quốc. Núi Cứu Quốc thực sự là ngọn núi có vị trí chiến lược trong cách mạng tháng Tám – 1945 và cuộc kháng chiến chống thực dân Pháp thần thánh của dân tộc ta. Từ năm 1939 đến 1943 các đồng chí Võ Nguyên Giáp, Phạm Văn Đồng, Hoàng Sâm, Mai Trung Lâm, Nông Văn Quang… đã từng ở và hoạt động ở ba bản của núi Phja Bjoóc.
Di tích lịch sử văn hoá khu vực Nà Mặn thuộc thôn Địa Cát: Vào khoảng đầu tháng 2 – 1945 đồng chí Đàm Quang Trung và các đồng chí Ngọc Trình, Thái Cao, Trung Hoà đã đến tuyên truyền, hoạt động ở Vi Hương và trọ ở nhà ông Phùng Đức Chung thuộc thôn Bó Lịn.
Bia Di tích lịch sử Nà Mặn
Trên bãi khu đất bằng (hiện nay là ruộng lúa) thuộc thuở ruộng Nà Mặn đã diễn ra cuộc mít tinh của nhân dân, có cả các chức dịch cũ của Pháp ở địa phương tham gia. Tại cuộc mít tinh này đồng chí Đàm Quang Trung đã cắm lá cờ đỏ sao vàng và phát biểu xác định mục tiêu cách mạng cho nhân dân Xã lúc này là: đánh đổ phát xít Nhật và thực dân Pháp, chúng ta phải đánh Tây, đuổi Nhật để giành chính quyền. Cuộc mít tinh đã tạo ra khí thế cách mạng mạnh mẽ trong nhân dân, làm cho bọn tay sai của Nhật – Pháp hoang mang lo sợ. Khi đồng chí Đàm Quang Trung chuyển đi đã cử đồng chí Ngọc Trình ở lại tiếp tục củng cố và phát triển phong trào cách mạng trong Xã.