Danh lam Diên Phúc Tự hiện nay là một công trình trong cụm Di tích lịch sử văn hoá của làng gò đồng Đại Bái (Gia Bình). Diên Phúc tự được xây dựng bề thế từ giữa thế kỷ 17 như văn bia cổ mô tả: Chùa cũ xây dựng trên khu đất ba bề là sông, phía trước là đường, cây cối um tùm.
Tháng 10 năm Phúc Thái thứ 5 (1647) được sự hưng công lớn của gia đình Trung Lễ hầu Nguyễn Công Thận, làng xây lại chùa thành đại danh lam gồm các hạng mục: thượng điện, thiêu hương, gác chuông, hành lang, tam quan và hệ thống tượng phật. Đến tháng 4 năm sau thì hoàn thành, đặt tên chùa là Diên Phúc (vạn sự tốt lành mãi mãi). Văn bia chùa ca ngợi: Quy mô chùa thay đổi hẳn, thật là đặc biệt trong chốn rừng thiền, rỡ ràng như trên thế giới thần tiên. Tuy nhiên thời kỳ kháng chiến chống Pháp ngôi đại danh lam ấy bị phá huỷ hoàn toàn.
Sau hoà bình dân làng dựng tạm ngôi Tam bảo để hành lễ tuần tiết và bảo quản 2 bảo vật của chùa còn lại là tấm bia đá Diên Phúc tự kiến tạo bi kí và pho tượng đá Gia quận công Nguyễn Công Hiệp to gần như người thật. Năm 1997 hoà thượng Thích Quảng Kính về trụ trì tại chùa. Dân làng đã phát tâm công đức xây lại ngôi Tam bảo quy mô gần như thời trước và các tín chủ cung tiến tượng phật mới. Tiêu biểu là cụ Nguyễn Thị Sâm tiến pho Quan Âm, bà Nguyễn Thị Bùi tiến 2 pho Hộ Pháp, bà Nguyễn Thị Cừu tiến pho Adi đà, bà Nguyễn Thị Sâm tiến toà Cửu Long, ông Nguyễn Đức Khai tiến pho Thế Tôn… Từ đó đến nay dân làng liên tục phát tâm xây lại các công trình của chùa theo kiến trúc cổ. Ông Nguyễn Đức Khai cung tiến xây Tam quan. Ông Trần Văn Thắng cung tiến đúc khánh đồng nặng 387 kg, kích thước1,4 x 2,2m trị giá trên 1 tỉ đồng, trở thành bảo vật mới của chùa. Năm 2007 dân làng phát tâm đúc chuông 870 kg kích thước cao 1,4m x đường kính 1,08m. Đồng thời xây mới nhà tổ, nhà mẫu, nhà bia, gác chuông, bao thành bảo tồn giếng cổ. Với các công trình này thì chùa Diên Phúc đã cơ bản được khôi phục giống như ngôi đại danh lam thời trước.Tới đây dân làng xây lại các tháp mộ tổ thì chùa sẽ hoàn thành việc xây dựng các kiến trúc cổ, với tổng kinh phí chừng 5 tỉ đồng (ước tính của Ban quản lý di tích xã Đại Bái). Và như vậy lời văn bia thuở nào đến nay vẫn nguyên ý nghĩa: Xây dựng chùa đã làm sáng rõ đạo lý không thể bỏ được, vạn phúc đều đến, phúc cho mình, phúc cho nhà, phúc cho nước, phúc đến với mọi người trong làng cùng hưởng, tên chùa là Diên Phúc có nghĩa là càng về sau càng sáng rõ.
Đặc biệt chùa Diên Phúc còn lưu giữ kỉ niệm về danh nhân Nguyễn Công Hiệp, người hai lần được triều đình cử làm tư lệnh chiến trường Nghệ An chống các danh tướng Đàng Trong là Hữu Dật và Hữu Tiến. Năm 1652 ông bị quân Nguyễn bắt nhưng chịu chết chứ không quy phục, được vua Lê phong là phúc thần của làng ngay từ thời đó.
