Phần mộ của ông hiện ở tại thôn Mai Trai, xã Vạn Thắng, huyện Ba Vì, (trước thuộc Hà Tây, nay thuộc Hà Nội).
Phan Huy Chú mất ngày 27 tháng 4 năm Canh Tý (28 tháng 5 năm 1840) lúc 58 tuổi. Phần mộ của ông hiện ở tại thôn Mai Trai, xã Vạn Thắng, huyện Ba Vì, (trước thuộc Hà Tây, nay thuộc Hà Nội). Đã sửa lại lần 1, lần 2 năm 2012 và được xếp hạng Di tích lịch sử cấp quốc gia năm 2014.
Ông đã nằm xuống mãi mãi tại thôn Mai Trai, xã Vạn Thắng, huyện Ba Vì, trước đây là Hà Tây, nay là Hà Nội.