Hải quân Nhật trông cậy rất nhiều vào các tiềm thủy đỉnh. Yamamoto tin rằng nếu cuộc tấn công bằng phi cơ của Nagumo thất bại thì các tiềm thủy đỉnh sẽ chu toàn cho cuộc hành quân được thành công. Các tiềm thủy đỉnh loại chữ "I" của Nhật rất lớn, dài tới 320 bộ và có tầm hoạt động xa 12,000 dặm và chạy nhanh 14 hải lý một giờ. Ðây chính là những tuần dương hạm dưới mặt nước. Các tiềm thủy đỉnh này có khả năng chạy từ Nhật sang tới bờ biển California và quay trở lại Nhật mà không cần phải tiếp tế nhiên liệu. Ðó là một khả năng tương đương với một tiềm thủy đỉnh nguyên tử ngày nay. Thủy thủ đoàn trên các tiềm thủy đỉnh này được coi là tài giỏi nhất.
Một số tiềm thủy đỉnh loại chữ "I" chở theo phi cơ nhỏ, và có nhiệm vụ thông báo cho các mẫu hạm của Nagumo biết những chiến hạm địch nào đã thoát cuộc tấn công của Nhật. Việc bao vây Hawaii đối với đoàn tiềm thủy đỉnh thiện chiến này tương đối không khó khăn gì. Các cuộc tấn công của tiềm thủy đỉnh có thể kéo dài trong một thời gian và có thể gây nhiều tổn thất cho địch nhiều hơn là các cuộc oanh kích của không quân.
Các toán tiềm thủy đỉnh bắt đầu rời các căn cứ Kure và Yokosuka một tuần lễ trước khi các mẫu hạm của Nagumo bắt đầu lên đường. Các mẫu hạm của Nagumo sẽ đi theo hải lộ phía bắc, trong khi các tiềm thủy đỉnh dùng hải lộ phía nam. Cả hai lực lượng này hoàn toàn không liên lạc vô tuyến với nhau, vì sợ bại lộ. Trong suốt bốn ngày, các tiềm thủy đỉnh từ giã căn cứ từng nhóm ba chiếc. Năm tiềm thủy đỉnh loại "I" đi sau cùng và mang theo vũ khí bí mật nhất cho cuộc tấn công Trân châu cảng: đó là các tiểu tiềm thủy đỉnh có tên là Target-A.
Các tiểu tiềm thủy đỉnh Target-A là một vũ khí được nghiên cứu lâu dài. Thoạt đầu đại tá Yokou, người tham dự cuộc chiến Nga-Nhật, nghiên cứu lần đầu trong những năm cuối của thập niên 1920. Ðây là một thứ tiểu tiềm thủy đỉnh tự sát, chỉ có một người điều khiển. Khi lâm trận, các tiểu tiềm thủy đỉnh Target-A sẽ được phóng ra từ tiềm thủy đỉnh mẹ. Mỗi tiểu tiềm thủy đỉnh Target-A sẽ mang theo một trái thủy lôi. Khi tấn công chiến hạm địch, sĩ quan sẽ điều khiển cho tiểu tiềm thủy đỉnh phóng đâm thẳng vào chiến hạm địch. Dĩ nhiên khi thủy lôi nổ, phá tan chiến hạm địch thì người sĩ quan điều khiển tiểu tiềm thủy đỉnh cũng chết tan xác cùng với tiểu tiềm thủy đỉnh.
Ðầu năm 1933, tiểu tiềm thủy đỉnh Target-A được bộ tham mưu hải quân chú ý, nhưng tham mưu trưởng lúc đó chỉ đồng ý thực hiện loại tiềm thủy đỉnh này nếu không sát hại sĩ quan điều khiển tiềm thủy đỉnh, do đó kế hoạch không được tiếp tục. Mãi ba năm sau, người ta mới sáng chế ra được một tiểu tiềm thủy đỉnh mà sĩ quan điều khiển có thể phóng được thủy lôi và trốn thoát khỏi tiềm thủy đỉnh. Khi Yamamoto bắt đầu kế hoạch tấn công Trân châu cảng thì tiểu tiềm thủy đỉnh này đã được hoàn thiện hơn, nhưng Yamamoto phản đối xử dụng các tiểu tiềm thủy đỉnh tại Trân châu cảng vì sợ các tiểu tiềm thủy đỉnh không thể quay trở về với tiềm thủy đỉnh mẹ được. Nhưng hai sĩ quan hải quân cố gắng cải thiện các tiểu tiềm thủy đỉnh có được tầm hoạt động xa 175 dặm và có thể lặn năm mươi phút và có tốc lực 20 hải lý. Như vậy tiểu tiềm thủy đỉnh có nhiều cơ hội được tiềm thủy đỉnh mẹ cứu thoát, và do đó được Yamamoto cho phép tham dự chiến dịch tại Trân châu cảng.
Mặc dầu Yamamoto rất quan tâm tới sự an toàn của các sĩ quan điều khiển tiểu tiềm thủy đỉnh, nhưng tất cả 10 trung úy tình nguyện lái 10 chiếc Target-A đều biết sẽ không trở về an toàn. Họ quyết định đánh đắm các mẫu hạm Mỹ, dù phải phóng tiềm thủy đỉnh đâm vào thành tầu của mẫu hạm và chết tan xác khi thủy lôi nổ. Quyết tâm của họ cũng giống như tinh thần của các phi công Thần Phong sau này.
Theo kế hoạch thì các tiểu tiềm thủy đỉnh này sẽ xâm nhập vào Trân châu cảng, nằm im dưới đáy biển suốt ngày trong khi các phi cơ Nhật mở cuộc tấn công. Các tiểu tiềm thủy đỉnh sẽ mở cuộc tấn công bất ngờ vào lúc chiều tối, trong lúc người Mỹ tưởng họ được an toàn. Sau cuộc tấn công, các tiểu tiềm thủy đỉnh sẽ trốn thoát ra khơi nhờ đêm tối. Nhưng tất cả 10 trung úy chỉ huy cho biết họ không có cơ hội trở về an toàn thì tại sao lại bắt họ phải chờ đợi đến đêm tối. Họ muốn được tấn công cùng lúc với các phi cơ. Cuối cùng đô đốc Shimizu, tư lệnh hạm đội tiềm thủy đỉnh, cho phép họ mở cuộc tấn công tùy theo điều kiện chiến trường và sự phán đoán của họ.
Chiều tối ngày 18-11, năm tiềm thủy đỉnh I-16, I-18, I-20, I-22 và I-24 mang theo 10 tiểu tiềm thủy đỉnh Target-A rời căn cứ tại đảo Kure lên đường tiến vào Thái Bình Dương, dưới quyền chỉ huy của đại tá Hanku Sasaki. Sau khi đoàn tiềm thủy đỉnh lên đường rồi, các chiến hạm cũng bắt đầu âm thầm rời biển Inland. Tất cả các mẫu hạm đã lên đường tới điểm tập trung tại vịnh Tankan, nhưng Yamamoto vẫn không biết tại Trân châu cảng có màng lưới chống thủy lôi hay không. Yoshikawa vẫn không thể trả lời rõ ràng nghi vấn này của Yamamoto.
Ðể đánh lạc hướng không cho tình báo Mỹ biết được mục tiêu của mình, Yamamoto ra lệnh cho các chiến hạm Nhật tại biển Inland phải gia tăng mức độ liên lạc bằng radio, và các bản tin bằng radio chỉ nhắc tới các mục tiêu tại chiến trường Trung Hoa, và các mục tiêu của chiến dịch tấn công Ðông nam á. Kế hoạch đánh lạc hướng này của Yamamoto đã thành công. Không những thế, Yamamoto còn ra lệnh cho các thủy thủ còn lại ở Nhật Bản hàng ngày phải kéo nhau đi thăm phong cảnh tại Ðông Kinh. Các quan sát viên ngoại quốc thấy Ðông Kinh đầy nghẹt các thủy thủ và nghĩ rằng hạm đội Nhật vẫn còn bỏ neo tại Nhật và phân nửa thủy thủ được nghỉ phép.
Tình báo Mỹ nhận được rất nhiều các tín hiệu radio từ các chiến hạm Nhật, nhưng các tín hiệu từ các mẫu hạm Nhật hoàn toàn im bặt. Các đô đốc Mỹ ngạc nhiên về sự kiện này, nhưng phỏng đoán các mẫu hạm Nhật vẫn còn tại các căn cứ hải quân Nhật. Nhưng trong lúc các đô đốc Mỹ tin tưởng như thế thì các mẫu hạm của đô đốc Nagumo đang mở hết tốc lực tiến về phía bắc. Nagumo cũng nghiêm cấm các mẫu hạm không được dùng radio. Các mẫu hạm được các khu trục hạm bảo vệ tối đa. Ðến ngày 22-11 thì tất cả các mẫu hạm Nhật đã tới vịnh Tankan trong quần đảo Kuriles. Quần đảo Kuriles gồm có 16 hòn đảo nhỏ nằm tại một vùng hẻo lánh rất ít dân cư. Chính tại đây, Lực lượng Xung kích tấn công Trân châu cảng dừng lại, làm những sửa soạn cuối cùng trước khi tung ra cuộc tấn công bất ngờ.
Khoảng cuối tháng 11, cả Mỹ và Nhật đều biết rằng cuộc thương thuyết giữa hai bên đã thất bại vì không bên nào chịu nhượng bộ. Tuy thế hai bên vẫn tiếp tục cuộc thuơng thuyết để phe quân sự có đủ thời giờ chuẩn bị cho cuộc xung đột. Hoa Thịnh Ðốn tin rằng Nhật sẽ tấn công Phi luật tân, Mã lai á hoặc Borneo. Nhưng người Mỹ không hề nghĩ người Nhật sẽ tấn công Trân châu cảng vì những chuẩn bị rầm rộ của lục quân Nhật về hướng nam. Các chiến lược gia Mỹ cũng nghĩ như bộ tham mưu Nhật rằng khi Nhật tấn công Ðông nam á thì tất cả các mẫu hạm Nhật sẽ phải tham chiến tại đó.
Ngày 24-11 khi các chiến hạm của Nagumo đang được tiếp tế nhiên liệu tại vịnh Tankan thì đô đốc Kimmel, tư lệnh Hạm đội Thái bình dương được thông báo rằng kết quả của cuộc thương thuyết Nhật-Mỹ sẽ không thành công, và lực lượng Nhật sẽ bất thình lình tấn công Phi luật tân hoặc đảo Guam.
Ngày hôm sau, 25-11, đô đốc Yamamoto ra nhật lệnh cho lực lượng xung kích:
1. Lực lượng xung kích phải giữ mọi hoạt động cực kỳ bí mật và sẽ rời vịnh Tankan ngày 26-11 và tiến tới một vị trí chờ đợi chiều ngày 3-12 và ngay lúc đó phải mau lẹ tiếp tế nhiên liệu.
2. Lực lượng xung kích phải giữ mọi hoạt động cực kỳ bí mật và phải thận trọng coi chừng tiềm thủy đỉnh và phi cơ địch và phải tiến vào hải phận Hawaii. Khi cuộc chiến xảy ra, phải tấn công hạm đội Mỹ tại Hawaii và phải đánh cho Mỹ một đòn chí tử. Loạt tấn công đầu tiên của phi cơ sẽ khởi sự vào lúc bình minh ngày X - một ngày chính xác sẽ thông báo sau.
3. Sau khi hoàn thành cuộc không tập, lực lượng xung kích sẽ phối hợp chặt chẽ với nhau và đề phòng cuộc phản công của địch quân, sẽ mau lẹ rời bỏ vùng biển địch và trở về Nhật Bản.
4. Nếu cuộc thương thuyết với Hoa Kỳ tỏ ra thành công, lực lượng xung kích sẽ phải sẵn sàng để rút lui và tập hợp lại.
Ngày 26-11, đô đốc Kimmel nhận được một điện tín của bộ hải quân Mỹ như sau: "Ðiện tín này phải được coi như một sự báo động có chiến tranh." Vào lúc 6 giờ sáng ngày 26-11, khi các mẫu hạm của đô đốc Nagumo rời khỏi vịnh Tankan đầy sương mù thì cuộc tấn công vẫn chưa được quyết định dứt khoát. Quyết định khai chiến còn tùy thuộc cuộc hội thảo giữa nội các và các tư lệnh quân đội. Ngay thủ tướng Ðông Ðiều cũng chưa biết lực lượng xung kích của Nagumo đang chờ đợi để tấn công Hawaii. Hải quân không muốn tiết lộ kế hoạch hành quân cho Ðông Ðiều vì Ðông Ðiều thuộc lục quân. Ngay khi ngoại trưởng Togo hỏi khi nào chiến tranh bắt đầu và muốn khai chiến một cách chính thức theo đường lối thông thường, nghĩa là báo trước cho Hoa Kỳ biết, thì đô đốc Nagano, tham mưu trưởng hải quân, trả lời, "Chúng tôi sẽ mở một cuộc tấn công bất ngờ." Ðô đốc Ito, phụ tá của Nagano nói thêm: "Chúng tôi không muốn chấm dứt cuộc thương thuyết cho đến khi cuộc tấn công bắt đầu để có được hiệu quả tối đa của cuộc tấn công đầu tiên." Ngoại trưởng Togo tức giận đến nỗi đứng dậy bỏ phòng họp ra về.
Tuy đô đốc Nagano đồng ý kế hoạch tấn công của Yamamoto, nhưng quyết định của ông không phải là quyết định cuối cùng. Theo luật lệ Nhật Bản thì chỉ có Nhật Hoàng mới có quyền khai chiến. Vì thế Nagano và tướng Sugiyama vào Hoàng Cung trình bầy vấn đề với Nhật Hoàng. Thoạt đầu Nhật Hoàng Hirohito không chấp nhận ra huấn lệnh khai chiến và muốn mở cuộc họp với các chính khách già. Nhưng lúc đó quá trễ, lực lượng của Nagumo đã rời vịnh Tankan được ba ngày rồi, khi các chính khách tập họp vào lúc 9:30. Nhật Hoàng yêu cầu các chính khách cho biết quan điểm. Phần lớn các chính khách muốn hòa bình và khuyên Nhật Hoàng nên hòa hoãn. Chỉ có hai viên tướng cho biết con đường chiến tranh là con đường duy nhất. Ngay em út của Nhật Hoàng là một sĩ quan hải quân cũng chống lại chiến tranh với Hoa Kỳ.
Ngày 1-12, cuộc hội họp trong Hoàng Cung đi đến quyết định khai chiến với Anh quốc, Hoa kỳ và Hoà lan. Trong cuộc họp này, đô đốc Ito muốn làm vừa lòng ngoại trưởng Togo và đồng ý cho Togo thông báo khai chiến với Mỹ vào lúc 12:30 theo giờ Hoa Thịnh Ðốn, và cuộc tấn công Trân châu cảng sẽ xảy ra vào lúc 2 giờ chiều, cũng giờ Hoa thịnh đốn. Như vậy Hoa Kỳ biết trước được cuộc khai chiến trước một giờ rưỡi. Nhưng cuối cùng các đô đốc khác cho rằng thông báo trước như vậy rất nguy hiểm. Cuối cùng tất cả đồng ý chỉ thông báo trước cho Hoa Kỳ một nửa giờ mà thôi.
Sau đó Nhật Hoàng ký lệnh khai chiến. Thực ra đây là một việc trái ý muốn của Nhật Hoàng, nhưng Nhật Bản không còn con đường nào khác hơn, không thể chấp nhận điều kiện của Hoa Kỳ bắt Nhật phải rút khỏi Trung Hoa và hợp tác với chính phủ của Tưởng Giới Thạch được. Sau khi ký lệnh khai chiến, Nhật Hoàng gửi một thông điệp cho Yamamoto như sau:
"Sau khi ra lệnh khai chiến, ta giao phó trọng trách chỉ huy Hạm đội Hỗn hợp cho đô đốc. Trách nhiệm của Hạm đội Hỗn hợp thật là nặng nề, và thành công hay thất bại của Hạm đội sẽ thay đổi số phận của quốc gia. Ðô đốc đã thành công huấn luyện hạm đội trong nhiều năm qua, và đô đốc phải quyết tâm hoàn thành sự trông đợi của ta bằng cách bành trướng sức mạnh và quyền uy của Hạm đội khắp thế giới và tiêu diệt kẻ thù."
Yamamoto trả lời Nhật Hoàng: "Thần vô cùng xúc động được lệnh Khai chiến của Hoàng Gia khi cuộc chiến bắt đầu. Thần sẽ kính cẩn thi hành mệnh lệnh cao cả của đức Hoàng Thượng. Binh sĩ của Hạm đội Hỗn hợp đã tuyên thệ hết sức tận tụy với nhiệm vụ và sẽ hoàn thành mục đích của thông điệp này. Tất cả đều quyết tâm chấp nhận trách nhiệm và thực hiện mệnh lệnh của đức Hoàng Thượng."
Tuy vậy lệnh tấn công Trân châu cảng vẫn được giữ tuyệt đối bí mật. Chỉ một số nhỏ sĩ quan soạn thảo kế hoạch mới biết được những gì sẽ xảy ra. Mãi tới lúc Yamamoto ra lệnh cho Lực lượng Xung kích tiến vào vùng biển Hawaii thì các binh sĩ khác mới biết. Phản ứng của binh sĩ Nhật thoạt đầu là kinh ngạc, và sau đó là hứng khởi. Kuramoto, một thủy thủ, viết trong nhật ký, "Tấn công Trân châu cảng - một giấc mơ đã thành sự thực! Ðồng bào tại quê nhà sẽ nghĩ gì khi họ biết được tin này? Họ có sung sướng khích động không? Tôi đã trông thấy trước họ sẽ vỗ tay reo mừng. Chúng ta sẽ dạy những tên Anglo-Saxon khốn kiếp một bài học!"
Các đại sứ Nhật tại Hoa Thịnh Ðốn Kurusu và đô đốc Nomura vẫn tiếp tục cuộc thương thuyết, và không hề hay biết gì về Hạm đội Nhật đã ra khơi và sắp khai chiến với Hoa Kỳ. Họ được lệnh từ Ðông Kinh phải tiếp tục cuộc thương thuyết, mặc dù sẽ không đi tới một thỏa hiệp nào. Họ có nhiệm vụ không để Hoa Kỳ nghi ngờ về những sửa soạn chiến tranh của Nhật. Sau khi được lệnh này thì hai đại sứ Nhật biết rằng sẽ có chuyện xảy ra ngay, nhưng họ không thể đoán được cuộc chiến sẽ xảy ra tại đâu và bao giờ. Họ biết rằng họ được chính phủ Nhật xử dụng như một nghi trang, một thứ mồi để lừa đối phương. Nhưng vẫn có một người không nghi ngờ chút nào. Người đó là đô đốc Kimmel, mặc dù Hạm đội Nhật đã lên đường vài ngày rồi. Phương tiện duy nhất để kiểm soát hạm đội Nhật là các phi đội thám thính, nhưng Kimmel vẫn không mở rộng phạm vi hoạt động của các phi công tuần thám.
Trong khi đó sinh hoạt tại Hawaii vẫn là sinh hoạt của thời bình. Ngày 28-11, đô đốc Halsey ghé Hawaii và hội đàm lâu dài với Kimmel trước khi Halsey lên đường đi Guam. Các chiến hạm của Halsey cũng có nhiệm vụ thám thính tìm các chiến hạm địch. Halsey hỏi Kimmel nếu các chiến hạm của ông đụng phải Hạm đội Nhật thì ông sẽ hành động như thế nào. Kimmel khuyên Halsey nên dùng phán đoán của một cấp chỉ huy tại chỗ. Nhưng con đường đi Guam của Halsey thì không thể nào gặp Hạm đội Nhật được. Ðó cũng là điều may cho Halsey. Ngày thứ sáu 5-12, đô đốc Newton chỉ huy Lực lượng Xung kích Thứ Hai, gồm có mẫu hạm Lexington, ba tuần dương hạm và năm diệt ngư lôi hạn, cũng ghé lại Hawaii trên đường đi quần đảo Midway.
Cũng trong tuần lễ đó, đô đốc Hart gửi cho Kimmel và các tư lệnh hải quân khác một bản tin về các dấu hiệu "Gió" do đài phát thanh Ðông Kinh đang dùng. Theo các chuyên viên về mật mã thì khi người Nhật dùng mật hiệu "Mưa Ðông Phong" thì có nghĩa là chiến tranh với Hoa Kỳ, Anh và Hòa Lan. Mật hiệu "Gió Bắc Âm U" thì có nghĩa là sự rạn nứt giữa Nga và Nhật. Các chuyên viên phát thanh tại Hawaii theo dõi 24 giờ một ngày để chờ nghe các mật hiệu này. Ðại tá Safford, chuyên viên mật mã của hải quân Mỹ, đã bắt được mật hiệu "Mưa Ðông Phong" một lần. Ðại tá Safford tin rằng chiến tranh sẽ xảy ra, nhưng người ta không có một sự cảnh giác nào tại Hawaii. Trân châu cảng vẫn chưa sẵn sàng, và các chiến hạm vẫn nằm trong quân cảng, chưa ra khơi để ngăn chặn lực lượng địch.
Các chuyên viên về radio tại Trân châu cảng vẫn ngày đêm theo dõi các làn sóng radio của Nhật để tìm kiếm vị trí của các mẫu hạm Nhật. Nhưng họ không thể nào xác định được vị trí của các mẫu hạm Nhật, vì Yamamoto ra lệnh cấm ngặt dùng radio trên các mẫu hạm. Ðồng thời Yamamoto ra lệnh tung ra những tín hiệu giả, khiến cho người Mỹ không nghi ngờ gì cả. Kế hoạch lừa địch của Yamamoto đã thành công.