Đình Cao Thượng được dân làng xây dựng dưới thời Lê Trung Hưng ở thế kỷ 17. Đình xây dựng theo lối chữ nhị, gồm hai nhà song song với nhau, mỗi nhà có 5 gian, 2 dĩ (chái). Thời xưa, đình Cao Thượng từng được đánh giá là cao to, bề thế nhất vùng Yên Thế Hạ (huyện Tân Yên ngày nay), thờ hai vị tướng của Vua Hùng là Cao Sơn và Quý Minh, được người dân thôn Cao Thượng tôn là Thành hoàng làng. Ông Nhâm cho hay: “Thuở trước, bên trong đình được chạm khắc cầu kỳ, tinh tế với long ổ, long vân đại hội, cửu long tranh châu cùng hình ảnh người cưỡi voi, đoàn quân ra trận, tiên múa và đánh cờ... Ngôi đình có tuổi đời gần 400 năm, tuy nhiên do thời gian và cũng một phần do chiến tranh mà hiện nay đình Cao Thượng không mang phong cách kiến trúc chữ nhị nữa. Hiện đình chỉ còn giữ được vẻ ngoài theo lối chữ nhất, còn bên trong đình đã mai một nhiều. Đặc biệt là về nội thất và những hoa văn, họa tiết có giá trị lịch sử và văn hóa”.
Ông Trần Đình Dũng, Phó giám đốc Trung tâm Văn hóa-Thông tin và Thể thao huyện Tân Yên cho biết: “Vào năm 1884, cuộc khởi nghĩa nông dân Yên Thế chống thực dân Pháp xâm lược nổ ra. Nghĩa quân nhanh chóng lan rộng khắp vùng Bắc Giang hiện nay. Vùng Yên Thế Hạ cũng trở thành một trong những địa điểm của cuộc khởi nghĩa. Địa bàn Cao Thượng có làng dưới chân núi Yên Ngựa và được bao bọc bởi những cánh đồng lúa, thuận lợi cho việc tuyển lựa, bố trí quân và đáp ứng nhu cầu lương thực, thực phẩm cho nghĩa quân. Vì vậy, Đề Thám đã đưa quân về Cao Thượng lập căn cứ. Núi Yên Ngựa trở thành cứ điểm chính của quân khởi nghĩa. Đình và chùa làng Cao Thượng cũng thành nơi nghĩa quân tiến hành các cuộc hội họp và trở thành cơ sở của cuộc khởi nghĩa. Hiện nay, núi Yên Ngựa là một trong 23 di tích và điểm di tích của cuộc Khởi nghĩa Yên Thế (1884-1913)”.
Ngày 6-11-1890, viên tướng Godin, đứng đầu quân đội Pháp mở một cuộc tấn công lớn vào khu vực Yên Thế Hạ, nơi có những người nông dân nổi dậy chống lại quân xâm lược, mục tiêu là đánh chiếm núi Yên Ngựa và tiêu hao lực lượng nghĩa quân. Trên núi Yên Ngựa, chỉ huy nghĩa quân đã cho xây dựng trận địa phòng ngự kiên cố. Quân Pháp đã vấp phải sự kháng cự quyết liệt của nghĩa quân. Cuộc tiến công núi Yên Ngựa diễn ra nhiều ngày, như báo cáo của một viên sĩ quan Pháp thì: “Đó là cuộc đụng độ đầu tiên của quân đội ta với các băng nhóm Yên Thế và nó đã làm cho chúng ta đổ nhiều máu”.
Quân Pháp thêm cay cú, từ Mỏ Thổ cách núi chừng 3km (thuộc thị xã Việt Yên hiện nay), chúng liên tục nã súng cối lên núi. Sau đó cho quân bộ đánh lên. Tất cả cuộc tấn công ấy đều bị nghĩa quân đánh bật xuống. Quân Pháp phải tăng cường quân cứu viện từ đồn binh bên Bố Hạ, Yên Thế sang hỗ trợ. Đề Thám biết tin chỉ để một lực lượng nhỏ ở núi Yên Ngựa cầm cự, cho một lực lượng lớn chuyển lên chặn đánh quân tiếp viện của Pháp. Đội quân tiếp viện đó bị thiệt hại nặng ở Luộc Hạ, cách Cao Thượng chừng 7km (gần với thị trấn Nhã Nam, huyện Tân Yên hiện nay).
Sau đó, Đề Thám nhận thấy việc duy trì lực lượng ở Cao Thượng không khả thi nên ông cho quân số ở núi Yên Ngựa và làng xóm phụ cận rút lui an toàn lên căn cứ chính của nghĩa quân ở Phồn Xương, Yên Thế. Quân Pháp khi vào được Cao Thượng và núi Yên Ngựa thì chỉ thấy trận địa không, chúng điên cuồng ùa vào làng xóm đốt phá đình, chùa và căn cứ núi Yên Ngựa.
Ông Nguyễn Ngọc Toản, Tổ trưởng tổ dân phố Đình, thị trấn Cao Thượng cho biết thêm: “Quân Pháp tràn vào làng, đốt ngôi chùa trăm gian, còn ngôi đình kiến trúc chữ nhị thì bị đập phá. Người dân làng Cao Thượng đổ ra chặn quân Pháp, nhưng cũng chỉ cứu được gian nhà trước, chính là chỗ chúng ta ngồi trò chuyện bây giờ. Còn gian nhà hậu đã bị quân Pháp phá hủy hoàn toàn. Hiện ở trong đình vẫn còn nhiều vết đạn găm trên các cấu kiện kiến trúc như: Cột cái, xà, kẻ. Do không còn gian nhà hậu nên đến tận bây giờ, đình Cao Thượng vẫn “dùng tạm” gian nhà trước để đặt ban thờ. Thời gian đã hơn 130 năm rồi nhưng đến nay, đình cũng vẫn chưa được trùng tu toàn diện để trở lại hình dạng nguyên thủy”.
NGUYỄN TRỌNG VĂN