Vào đầu thế kỷ 16, nhà Lê suy yếu dần. Dưới triều vua Lê Tương Dực (1510 - 1516) việc triều chính hết sức rối ren. Vua ham chơi bời bỏ bê việc nước, bên ngoài giặc giã nổi lên khắp nơi. Trong đám giặc ấy có Trần Cao là mạnh nhất. Trần Cao tụ tập được nhiều người, lập thành quân đội, có khi đến đánh tận sông Nhị Hà, suýt chiếm thành Thăng Long.
Tình hình căng thẳng đến thế mà Lê Tương Dực không màng để ý đến. Một thuộc tướng là Trịnh Duy Sản bất mãn, đang đêm đen quân vào giết Lê Tương Dực đi để lập vua khác (1516). Sau đó, cả triều đình lẫn Trịnh Duy Sản đưa lên rồi giết đi mấy lần vua. Kinh đô rối loạn, có khi không biết ai là vua nữa.
Cuối cùng, Lê Chiêu Tông được đưa lên ngôi, nhưng vì nội loạn phải vào trú ở Tây Kinh (1516). Qua năm 1519, đại thần Mạc Đăng Dung rước được vua về lại Kinh thành rồi tóm thâu mọi quyền hành và loại trừ dần dần các đại thần có thế lực khác.
Mạc Đăng Dung (1483 - 1541) vốn người Cổ Trai, huyện Nghi Dương (Hải Phòng), là cháu bảy đời của Mạc Đỉnh Chi. Lúc còn nhỏ, gia đình rất nghèo, làm nghề đánh cá. Sau này nhờ sức mạnh hơn người, thi đỗ Đô lực sĩ, làm đến chức Đô chỉ huy sứ dưới triều Lê Uy Mục.
Sau khi giúp vua Lê Chiêu Tông trở về lại được Kinh thành thì uy quyền của Mạc Đăng Dung rất lớn, lấn át cả vua, hống hách ra vào cung cấm, các quan có ai can gián thì sai người giết đi.
Vua Lê Chiêu Tông thấy thế lo sợ, tìm cách giết Mạc Đăng Dung, nhưng âm mưu không thành, vua phải bỏ chạy trốn lên Sơn Tây (1522). Tại đây Lê Chiêu Tông lại bị một thuộc tướng buộc phải về Thanh Hóa. ở Kinh thành, Mạc Đăng Dung lập hoàng đệ Xuân lên ngôi, đó là Lê Cung Hoàng. ổn định xong việc ở Kinh thành, vào năm 1524 Mạc Đăng Dung đem quân vào đánh Thanh Hóa, bắt được vua Chiêu Tông và giết đi.
Ba năm sau (1527), Mạc Đăng Dung ép triều thần thảo bài chiếu truyền ngôi cho nhà Mạc rồi lên làm vua, lập triều đại mới, đặt niên hiệu là Minh Đức.
Để trừ hậu loạn, Mạc Đăng Dung cho giết vua Lê và bà Thái hậu đi. Các quan trong triều, các bậc khoa giáp tự tử để giữ chữ trung của Nho giáo rất nhiều.
Để vổ yên lòng người, Mạc Đăng Dung giữ lại hầu hết luật lệ của nhà Lê. Công việc gì cũng theo lệ trước mà giải quyết.
Mạc Đăng Dung còn truy tặng cho những người tuẫn tiết vì nhà Lê, đồng thời tìm con cháu của các quan đại thần cũ mời ra phong quan tước, mong họ về giúp mình.
Làm vua được ít lâu, đến năm 1529 Mạc Đăng Dung truyền ngôi cho con là Mạc Đăng Doanh còn mình thì tự xưng là Thái Thượng Hoàng.
Nhà Minh nhân dịp Đại Việt gặp nội loạn, đem quân đến đóng gần cửa Nam Quan, truyền hịch hứa sẽ thưởng quan tước và hai vạn bạc cho ai bắt được cha con Mạc Đăng Dung đồng thời sai người sang bảo Mạc Đăng Dung vội vàng sai sứ sang hàng.
Năm 1540, quân Minh tiến đến ải Nam Quan, Mạc Đăng Dung sợ hãi, bèn cùng các quan lại cả thảy hơn 40 người tự trói mình đến ải Nam Quang lạy phục xuống đất, nộp đổ điền thổ và sổ dân đinh, rồi lại xin dăng đất năm động để sáp nhập vào đất Khâm Châu của Trung Quốc. Ngoài ra, họ Mạc còn đem vàng bạc tặng riêng cho quan nhà Minh nữa. Nhờ thế, nhà Minh phong cho Mạc Đăng Dung chức Đô thống sứ, hàm quan nhị phẩm nhà Minh.
Trong suốt thời kỳ trị vì, nhà Mạc phải đối phó vất vả chống các nhóm phù Lê. Triều thần nhà Lê, phần tự tử theo vua, phần về mai danh ẩn tích. Phần còn lại tích cực chiêu tập người đứng lên phù Lê. Cuộc phù Lê lúc đầu gặp nhiều thất bại, nhiều tôn thất nhà Lê bị giết chết. Cuối cùng phong trào phù Lê dưới sự lãnh đạo của Nguyễn Kim, đóng được căn cứ tại Sầm Châu (Lào) và phát triển lực lượng
Nguyễn Kim là người làng Gia Miêu, phủ Hà Trung, trấn Thanh Hóa. Ông là con trai của Nguyễn Hoằng Dụ, đại tướng của nhà Lê, đã có công bảo vệ thành Thăng Long khi loạn Trần Cao nổi lên.
Nguyễn Kim được vua Lào cho nương náu ở Sầm Châu. Ông chiêu mộ hào kiệt rồi cho người tìm ra con út của vua Lê Chiêu Tông và tôn lên làm vua. Đó là Lê Trang Tông (1533). Họ ở chiến khu Sầm Châu tám năm trường, đến năm 1540 mới đủ thực lực và thời cơ để trở về, tiến đánh lấy được Nghệ an rồi thâu phục được Tây Đô (Thanh Hóa - 1543).
Nhóm phù Lê làm chủ được phía Nam, được sách sử gọi là Nam triều (từ Thanh Hóa trở vào). Trong khi ấy nhà Mạc vẫn cầm quyền ở Thăng Long, và được gọi là Bắc Triều.
Các hào kiệt kéo về Nam hưởng ứng rất đông như Phùng Khắc Khoan, Lương Hữu Khánh, Trịnh Kiểm... thanh thế của Nam triều ngày càng lớn, chỉ chờ cơ hội là tràn ra đánh Bắc triều.
Trong khi lực lượng của Nam triều đang phát triển thì Nguyễn Kim bị một hàng tướng nhà Mạc là Dương Chấp Nhất đánh thuôc độc chết trong một cuộc hành quân tiến đánh Bắc triều. Tất cả binh quyền lọt vào tay người con rể lạ Trịnh Kiểm.
Trịnh Kiểm liền tổ chức hậu cứ vững mạnh, lập hành điện tại đồn Vạn Lại (Thanh Hóa) để cho vua Lê ở rồi lo chấn chỉnh lực lượng, giữ thế thủ ở Thanh Hóa. Trong nội bộ Nam triều có nhiều thay đổi. Vua Lê Trang Tông mất vào năm 1548, Thái tử Duy Huyên được Trịnh Kiểm lập lên làm vua chỉ 8 tháng, thì cũng mất. Trịnh Kiểm kiếm một người cháu họ xa của Lê Thái Tổ lập lên làm vua. Người này ở ngôi được 16 năm thì bị Trịnh Tùng giết (Trịnh Kiểm đã mất vào năm 1570). Một người khác trong họ Lê được họ Trịnh đưa lên, đó là Lê Thế Tông.
Trong khi ấy, về phía nhà Mạc thì cũng trải qua mấy lần đổi ngôi. Đến đời Mạc Phúc Nguyên, lực lượng của phe này đã tương đối ổn định lại thêm có Mạc Kính Điển, chú của Mạc Phúc Nguyên là một vị tướng thao lược. Vì thế nhà Mạc toan tính việc đánh Nam triều, đồng thời Nam triều cũng chuẩn bị tấn công ra Bắc. Phía Bắc triều đánh vào Thanh Hóa 10 lần. Phía Nam triều tiến ra Bắc đánh cả thảy sáu lần, nhưng hai bên bất phân thắng bại.
Cán cân lực lượng hai bên thay đổi từ sau khi Mạc Kính Điển chết (1580). Quân Nam triều lại càng ngày càng mạnh dưới sự lãnh đạo của Trịnh Tùng. Trịnh Tùng nhiều lần đem quân ra đánh Bắc triều và đến năm 1592 thì bắt được vua Mạc là Mạc Mởu Hợp, đem giết đi rồi rước vua Lê Thế Tông về Thăng Long.
Tàn quân nhà Mạc chạy lên mạn Bắc và được sự ủng hộ của nhà Minh nên tập hợp được lực lượng và hùng cứ ở đất Cao Bằng. Từ đấy, tuy phía họ Trịnh đã làm chủ Thăng Long nhưng không thể nào kiểm soát được vùng Cao Bằng.