Ông sở trường về thi ca Quốc văn, nhất là về thể loại phúng thích: vì loại này có tính cách đụng chạm đến người đương thời, nên ít khi được ghi trên giấy để tránh những tai vạ về khẩu nghiệp. Thành ra chỉ có ít bài có dính dáng đến những nhân vật tiếng tăm hay tai tiếng, được truyền tụng trong nhân gian, do đó mới còn lại đến ngày nay.
Ở Nam Định có một cô me Tây gá nghĩa cùng viên Công sứ Pháp, nhân có giúp công vào việc chẩn tế nạn lụt năm Bính Ngọ ( 1906 ), nên được công sứ tư thưởng kim tiền. Khi Công sứ về Pháp, cô ở lại trong cảnh cô liêu, vốn có tính đồng bóng, nên lập điện ở chùa Phù Long để sớm khuya hầu thánh cho giải sầu.
Hiếu Khanh diễu bằng một bài Đường luật ( bài này nhiều người lầm là của Tú Xương, xong Tú Xương tạ thế năm Bính Ngọ, mà việc lập điện trên đây thực hiện vào mấy năm sau )
Rứt cái mề đay ném xuống sông.
Thôi thôi, tôi cũng méc xì ông!
Âu đành chùa đó, âu thành Phật.
Cũng chẳng con chi cũng chẳng chồng.
Chớ thấy câu kinh mà mặc kệ.
Nào ngờ chữ sắc hóa ra không.
Tôi đây cũng muốn như cô nhỉ.
Trót nợ trần hoàn gỡ chửa xong.
Về câu chuyện họ Từ khắc thơ và đục chân vào núi, bài thơ mà nhiều người lầm là của Tản Đà, cũng do Hiếu Khanh khẩu chiếm, và Tản Đà thuật lại trong An Nam tạp chí.
Năm ngoái ông lên đục bốn vần.
Năm nay ông lại đục hai chân.
Khen cho đá cũng bền gan thật.
Chịu mãi cho ông đục mấy lần.
Khi thấy chính quyền mở ra lớp dạy quốc ngữ, và thêm vào chương trình thi hương môn học quốc văn, Tú Xương đã có thơ đả kích.
Nghe nói khoa sau sắp đổi thi.
Những thầy đồ cổ đỗ mau đi.
Nếu không bia đá còn bia miệng.
Vứt bút lông đi giắt bút chì.
Hiếu Khanh cũng cùng quan niệm, cho rằng cái bọn vứt bút lông giắt bút chì, là xu thời đáng bỉ, nên làm một bài phú.
Thầy đồ học quốc ngữ để đi thi.
Này cu-a-cua, này ô-c-ốc.
Vác lều vào trường; cắp sách đi học.
Văn chương mạt kiếp, thằng bé hết hơi.
Âu Á chuyện đời bác đồ tịt ngóc.
Thầy khóa khom lưng kiếm gạo, mặt tầy lệch, cổ tầy cong.
Ông Tây đá đít lấy tiền, câm như hến, nín như thóc.
Nguyên phù thầy chi vi thầy dã.
Nghênh nghênh ngang ngang, dở dở dang dang.
Râu ria một nạm, văn sách ba trường.
Thầy chi mặt hề nhẵn hàng thịt;
Thầy chi văn hề viết sát xương.
Thi thì một hỏng, một vào: o-a-c-h oách.
Tính lại nửa gàn, nửa dở: ư-ơ-n-g ương.
Ư thị hồ:
Thầy nằm thầy kêu, thầy ngồi thày gõ.
Nách cắp vở đồ; tay xách cái lọ.
Học trò kia kìa, quan trường đó nọ.
Thằng vào, thằng ra; văn dễ, văn khó.
Thằng thì kêu trời; thằng thì chửi chó.
Hỏi rằng xong chửa? l-a-m lam huyền làm.
Hỏi rằng nhục không? c-o sắc có.
Hỏi rằng giám trường là ai? Thưa rằng viên công sứ Đạc ( Darles )
Hỏi rằng quan trường là ai? Thưa rằng mấy ông trạ gạc.
Thôi thì:
Cũng chẳng đi học; cũng chẳng đi thi.
Thi cũng không đỗ; đỗ cũng không đi.
Túy lúy càn khôn hề rượu thầy đánh tì tì.
Khoan hoài vũ trụ hề mồm thầy cười khì khì.
…………
Thôi tôi lạy thầy trăm lạy, thầy xếp bút nghiên, lều chõng, thầy đi về.