Sớm có chủ trương cho nâng cấp các nhà văn hóa ở các thôn sau sáp nhập để đảm bảo đủ chỗ cho nhân dân hội họp.
Trong năm 2014 và 2015, xã Bình Yên đã được đầu tư xây dựng mới 7/7 nhà văn hóa thôn (3 nhà văn hóa quy mô 120 chỗ ngồi, 4 nhà văn hóa quy mô 80 chỗ ngồi) theo quy định tại Nghị quyết số 20/NQ-HĐND ngày 13/12/2012 của Hội đồng nhân dân tỉnh, mức hỗ trợ 150 triệu đồng/nhà văn hóa xây dựng mới.
Thực hiện Nghị quyết số 18-NQ/TW ngày 25/10/2017 của Ban Chấp hành Trung ương Đảng (khóa XII) về một số vấn đề tiếp tục đổi mới, sắp xếp tổ chức bộ máy của hệ thống chính trị tinh gọn, hoạt động hiệu lực, hiệu quả; xã Bình Yên đã thực hiện sáp nhập thôn Lập Binh với thôn Đồng Gianh thành thôn Lập Binh (178 hộ), thôn Cao Tuyên với thôn Đồng Min thành thôn Đồng Min (174 hộ). Các thôn mới sáp nhập có số hộ dân lớn nên quy mô nhà văn hóa chưa đáp ứng nhu cầu sinh hoạt của nhân dân.
Ủy ban nhân dân tỉnh giao Ủy ban nhân dân huyện Sơn Dương xây dựng phương án, xem xét cân đối bố trí kinh phí để sửa chữa, nâng cấp các nhà văn hoá trên trong thời gian tới để đảm bảo nhu cầu sinh hoạt chung của các thôn