Thử quyển xác hữu học lực, từ lão, phi sơ học đạo tập giả sở năng, khâm thử.
- Quyển này thực có sức học, lời văn già, không phải là hạng mới học theo lối viết sáo, có thể làm được.
Liêu có câu đối viếng Đặng Toán, đương làm Tuần phủ Ninh Bình, có tiếng là thanh liêm, mới đắc chỉ về tổng đốc Nghệ Tĩnh, sắp sửa lên đường thì tạ thế:
Phương náo Hoan chi thăng, hồ kị hạc quy, quy Thúy Hạc.
Khởi dữ Ninh hữu ước, hưu tương hồng ấn, ấn Lam Hồng.
- Mới nghe tin đồn ông thăng quan lên châu Hoan ( Nghệ An ) sao ông vội cưỡi hạc về, về núi Thúy Sơn, núi Hồi Hạc ( Ninh Bình )
- Hay là với tỉnh Ninh có ước, nên không đem dấu chim Hồng in ở sông Lam Giang, núi Hồng Lĩnh ( Nghệ Tĩnh )
Câu đối rất hay và tài, láy đi láy lại hai chữ hạc đối với hai chữ hồng.
Hoàng giáp Liêu đã có văn chương lại có khí tiết.
Đời vua Hàm Nghi, làm phụ đạo, ngày thường vào đọc sách và giảng nghĩa cho vua, khi về thì ở nhà Tôn thất Thuyết, dạy con ông này là Tôn thất Đạm và Tôn thất Thiệp.
Ngày 25 – 5 Ất Dậu (1885 ), ông theo vua lên Tân Sở, nhưng đến nửa đường thì sức yếu không đi theo kịp, nên phải dừng lại rồi trốn về quê nhà.
Khi ấy Trung và Bắc Việt vừa mới đặt cuộc bảo hộ. Triều đình muốn tìm những bậc văn nhân có danh vọng ra làm quan, để yên lòng dân. Tổng đốc Nam Định Vũ văn Báo, cho mời ông và cử nhân Phạm văn Phổ, làng Tam Quang, ý muốn để ông làm đốc học Nam Định, Phổ làm tri phủ Nghĩa Hưng. Nhưng hai ông từ chối, nên bị tống giam, bị ngâm vào bể nước, cho lính tráng đứng tắm ở bên bể, cố làm nhục hai ông.
Hai ông ngồi trong bể làm câu đối cho đỡ buồn, một ông ra, một ông đối:
Tại luy tiết chi trung, phi kỳ tội dã.
Tuy khỏa trình ư trắc, yên năng nỗi tai.
- Câu trên: Luận ngữ, thiên Công dã Tràng, điển Công dã Tràng, dẫu phải giam trói, nhưng không phải vì tội mình làm ra.
- Câu dưới: Mạnh Tử, thiên Công tôn Sửu, điển Liễu hạ Huệ vốn có tính khoan hoà nói: kẻ khác làm bậy như là cởi áo chìa vai ở bên ta, cũng không nhơ nhuốc đến ta.
Sau được tha về, lấy cớ là có mẹ già, xin ở nhà phụng dưỡng, nhất định không chịu ra làm quan. Được bốn năm thì mẹ mất, ông có câu đối khóc:
Tằng tứ niên lai, quốc vận gia đình lụy lụy.
Tài tam nguyệt nội, thần tâm tử niệm du du.
- Đã từng bốn năm nay, vận nước tình nhà, thường gặp gian truân.
- Vừa trong ba tháng, lòng người bầy tôi, và lòng người con cảm thấy xót xa.
Đến ngày hết tang, tế xong đám tế buổi sáng, đến chiều ông tự nhiên từ trần, năm ấy 47 tuổi.
Tiến sĩ Khiếu năng Tĩnh ở Trực Mỹ, có viếng câu đối.
Hiển tang độc dị phùng tam Mão.
Tâm sự toàn nghi đối lưỡng than.
- Lúc hiển đạt và lúc hối tàng ( chết ) một điều lạ lùng vào ba năm Mão - đỗ thủ khoa năm Đinh Mão đời Tự Đức, đỗ Hoàng Giáp năm Kỷ Mão đời Tự Đức ( 1879 ), mất năm Tân Mão đời Thành Thái ( 1891 ).
- Tâm sự như thế trọn đạo làm con, đối với hai thân.
Câu đối tài, là dung chữ thân đối với chữ mão.