Nguyễn Thượng Hiền tự Đỉnh Nam, Đỉnh Thần, hiệu Mai Sơn, sinh năm 1866 trong một gia đình phong kiến quý tộc, quê ở làng Liên Bạt, tổng Xà Cầu, huyện Sơn Lãng, sau đổi là huyện ứng Hòa, tỉnh Hà Đông, nay là xã Liên Bạt, huyện úng Hòa, tỉnh Hà Tây.
Ông là người thông tuệ, lại chăm chỉ học ở trường và đọc sách. Năm Giáp Thân, Kiến Phúc thứ nhất (1884), ông 19 tuổi đỗ Cử nhân. Ông đỗ cử nhân, nhưng bỏ nhà đi tu. Sau vì anh ông mất sớm, gia đình đón về bắt lấy vợ. Ông kết duyên với con gái Tôn Thất Thuyết.
Ất Dậu, năm đầu Hàm Nghi (1885), ông 20 tuổi thi Hội trúng cách, chưa kịp truyền loa thì kinh thành thất thủ, nên chưa được công nhận chính thức. Ông ở lại Huế học tập.
Khoa thi năm Nhâm Thìn thành Thái thứ 5 (1892) ông đi thi Hội, vì đã trúng cách trước, nên ông được vào thi Đình, đỗ Hoàng giáp, bấy giờ ông mới 27 tuổi.
Ông đỗ cao nhưng đau xót cảnh đất nước rơi vào tay giặc Pháp, nên không chịu ra làm quan, dâng sớ xin nghỉ 10 năm để đọc sách tu dưỡng. Triều đình chỉ cho nghỉ 3 năm. Hết hạn nghỉ, ông ra nhận chức Toản tu quốc sử quán, sau đổi làm Đốc học Nam Định - Ninh Bình.
Trong thời gian ỉàm việc ở Huế và ở Nam Định, Nguyễn Thượng Hiền được đọc nhiều tân thư của Lương Khải Siêu, Khang Hữu Vy (Trung Quốc).
Sau đó lại được tiếp xúc với nhà cải cách Nguyễn Lộ Trạch, sư Viên Giác và các nhà chí sĩ Tăng Bạt Hổ, Phan Bội Châu, Phan Chu Trinh, nên ông có cảm tình sâu sắc với phong trào chống Pháp. Ông từ quan về núi Nưa (Thanh Hóa) ở ẩn.
Năm 1907 thân phụ mất, ông tìm đường xuất dương hoạt cách mạng. Ông tham gia phong trào chống thuế ở miền Trung bị bọn cầm quyền Pháp kết án tử hình vắng mặt.
Năm 1908, ông xuất dương sang Trung Quốc gặp Phan Bội Châu. Năm 1912, Nguyễn Thượng Hiền tấn thành tôn chỉ bỏ quân chủ của Việt Nam Quang Phục hội. Ông là đại biểu cho Bắc Kỳ trong bộ Bình nghị của Việt Nam Quang Phục hội.
Năm 1914 Phan Bội Châu bị quân phiệt Trung Hoa bắt giam, mọi công việc của Hội đều do ông lo liệu, ông lại thực hiện kế hoạch ba mũi tiến công vào Bắc Kỳ mà ông trực tiếp chỉ huy một đội quân mưu việc đánh úp Lạng Sơn, song việc không thành. Giặc Pháp ráo riết truy bức các nhà cách mạng Việt Nam Quang Phục hội. Nguyễn Thượng Hiền phải bôn tẩu khắp nơi, khi ở Quảng Đông, Quảng Tây, khi ở Bắc Kinh, Thượng Hải, Hàng Châu, có lúc lại sang Xiêm La.
Năm 1915 ông đi Xiêm La liên hệ với hai viên công sứ Đức và Áo, yêu cầu họ giúp đỡ cách mạng Việt Nam. Họ giúp cho một số tiền để mua vũ khí về nước đánh Pháp. Trung Quốc tuyên chiến với Đức và Áo, khủng bố các nhà cách mạng Việt Nam ở Trung Quốc.
Đại chiến thế giới lần thứ nhất kết thúc nước Pháp thắng trận, năm 1925, Phan Bội Châu bị bắt đưa về nước rồi bị quản thúc ở Huế. Nguyễn Thượng Hiền nản chí bỏ đi tu ở một ngôi chùa ở Hàng Châu (Trung Quốc).
Nguyễn Thượng Hiền sáng tác rất nhiều văn thơ yêu nước, bài văn, thơ nào cũng cháy bỏng lòng yêu nước thiết tha, ca ngợi những người vì nghĩa quên mình, kêu gọi mọi người mở mang công nghệ, lập hội buôn, mở trường học để chấn hưng đất nước Nguyễn Thượng Hiền là một nhà văn, nhà thơ xuất sắc. Ý chí bất khuất của ông được thể hiện rõ nét trong văn thơ:
ĐỀ MIẾU MÃ VIỆN Ở LONG THÀNH
Trèo non vượt bể biết bao công
Một trận Hồ Tây chút vẫy vùng
Quắc thước khoe chi mình tóc bạc
Cân đai đọ với khách quần hồng
Dèm chê đã chán đầy mâm ngọc
Công cán ra chi mấy cột đồng
Ai muốn chép công, ta chép tội
Công riêng ai đó oán hờn chung
Khi được tin vợ mất, ông làm câu đối khóc vợ:
"Ngưỡng quan thiên, thiên dĩ vân mai tứ tắc, phủ quan địa, địa dĩ kinh cức hoàng sinh, bôn trì thiên vạn lý, khiết tiết thôn chiên, thượng hải vị năng điền, thệ ngã thử tâm, trường đối, giang sơn oanh lữ mộng;
Thiếu tòng phụ, phụ dĩ vương mệnh xuất bôn, tưởng tòng phu, phu dĩ quốc nạn viễn tỵ, tiền hậu tam thập niên, hàm tân nhữ khổ, bạch đầu ưng cách thậm, đa quản tiên giác, tảo ly trần giới đoạn sầu căn".
Dịch:
Ngẩng trông trời, trời đã mây mù che kín, cúi xem đất, đất đã gai góc mọc đầy, chạy vạy ngàn muôn dặm, ăn tuyết, nhai tanh, bể xanh còn chưa lấp, thề tớ lòng này, đất khách mơ màng non nước cũ;
Trẻ theo bố, bố vâng lệnh chúa ra đi, lớn theo chồng, chồng vì nạn nước xa lánh, sau trước ba mươi năm, nuốt cay, ngậm đắng, đầu bạc lại thêm thương, may bà biết trước, suối vàng dứt hẳn mối sầu xưa.
Lê Thước dịch in trong Hợp tuyển thi văn Việt Nam
(1858 - 1920) quyển II Nxb Văn học, Hà Nội, 1985).
Ông sống lưu vong ở Trung Quốc song vẫn hướng về quê cha, đất tổ Việt Nam, vẫn không ngừng cổ động, khuyến khích lớp lớp con cháu làm cách mạng đánh đuổi thực dân Pháp xâm lược. Sức ông yếu, lại sót sa, nỗi buồn mất nước, nặng lòng thương cảm các đồng chí lần lượt hy sinh, do vậy sức khỏe của ông ngày càng suy sụp. Ông ngã bệnh nặng rồi mất ngày 28 tháng 12 nãm 1925 tại chùa Thường Tịch Quang trên núi Cô Sơn giữa Tây Hồ, tỉnh Hàng Châu, Trung Quốc, thọ 57uổi. Thi hài của ông được hỏa táng, rắc tro xuống sông Tiền Đường theo lời Di chúc của ông.