昭和16年(1941年)12月8日、日本海軍がアメリカの真珠湾を奇襲攻撃し、日米間の戦争が勃発しました。この年の6月、台湾は日本内閣により南進政策の根拠地としての役割が定められていました。戦争開始の翌日、台湾南部の飛行場から零式戦闘機や爆撃機がフィリピンのアメリカ軍基地を攻撃し、多くのアメリカ軍機を破壊、一挙に制空権を獲得しました。輸送船団も軍隊や物資を南方の各戦区へ運びました。
日本軍が勢いよく各地を席巻している最中の昭和17年(1942年)3月、陸軍省は総督府を通じて、八田與一に「南方開発派遣要員」としてフィリピンでの綿作灌漑計画の立案を依頼しました。この背景には、日本政府と軍部が長期戦を見据えて南方資源の経済開発を考慮していたことがありました。陸軍省、海軍省、拓務省、商工省、農林省の協議の結果、民間の技術者や専門家を選び、「南方開発派遣要員」として軍属の立場で南方地域に派遣することが決まりました。最初の選抜では、現地での生活や産業活動に支障がない語学力と専門知識を持つ者が条件でした。八田與一はその選抜に合格し、彼はすぐに3人の技師を同行者として選びました:
湯本政夫:42歳、総督府地方技師で台中州に勤務。烏山頭水庫の建設時から八田の信頼を得ていた部下。
宮地末彦:35歳、総督府内務局土木課技師で、八田が信頼する技術者。
市川松太郎:33歳、総督府土木課技手で、河川流量調査の専門家。綿作灌漑計画の立案に必要な人材。
八田與一は以前、福建省や海南島での調査経験があり、今回のフィリピンでの調査も2か月で終わると見込んで、特段の準備はせずに4月中旬に基隆から日本本土に戻り、東京でフィリピンに関する資料を入手してから調査を行うつもりでした。フィリピンは台湾からも近く、まるで離島に行くような感覚で、家族との別れにも特段の感慨はありませんでした。
出発前、次女陵子の結婚式の準備で多忙でしたし、結婚式の直前に東京にいる長男晃夫が東京帝国大学工学部に合格したことも、八田家には喜びが増しました。次女陵子の結婚式は盛大に台北で行われました。これは長女正子が4年前に結婚した後、二度目の娘の結婚式でした。長女正子は結婚後、東京に住んでいました。娘を嫁がせた後、夫婦は4月8日に宿舎の前で記念写真を撮りました。八田與一は総督府の公式制服を着ており、この写真が夫婦最後の写真となりました。11日には、以前の部下で嘉義でダムを建設していた技師・山根長次郎の依頼で、現場視察に出向きました。八田は「軍の命令でフィリピンに調査に行くため、しばらく会えないだろう」と告げました。
4月14日、八田は嘉義駅で山根技師に別れを告げ、台北に戻りました。偶然、技師の白木原と長野に出会い、寿司を一緒に食べることになりました。この時、八田は静かに「寿司か、これが最後の寿司になるだろう」と言いました。白木原技師は特に深く考えず、「東京でも寿司は食べられますよ」と答えました。白木原と長野の2人は、この食事が八田與一との最後の昼食になるとは思ってもいませんでした。
1942年(昭和17年)5月4日、八田與一と部下3名は宇品港に到着し、その夜4人で夕食をとり、遠征の安全を祈願した。その夜遅く、八田与一は台湾の家族に手紙を書きました。彼の手紙はいつも「外代樹樣へ」「與一より」でしたが、なぜ今回の手紙は「皆さんへ、父より」と書かれました。この手紙は八田與一の最後の手紙となりました。
1942年(昭和17年)5月6日、太平洋戦争が勃発してからわずか5か月後のことでした。日本軍はアメリカとイギリスの領土を次々と占領し、戦況は日本に有利に進んでいました。日本沿岸ではアメリカの潜水艦が近づくことはほとんどなく、日本海軍は主に作戦の配置に注力し、船団の護衛にはあまり注意を払っていませんでした。しかし、この船団は複数の郵船で構成されていたため、佐世保軍港から駆逐艦と砲艇が1隻ずつ護衛に派遣されていました。
5月8日の夕方、護衛艦は佐世保に戻り始めました。その頃、大洋丸郵船ではフィリピンのコレヒドール要塞が陥落したことを祝う宴が開かれており、船内は歓喜に包まれていました。しかし、アメリカの潜水艦「グレナディアー号」の潜望鏡がこの船団を捕捉し、郵船内の人々はその危険に全く気付いていませんでした。
その夕方、グレナディアー号の艦長であるウィリアム少佐は、大洋丸に向けて4本の魚雷を至近距離から発射するよう命じました。郵船内はまだ宴が続いていましたが、突然、大洋丸の右舷と船尾に激しい衝撃音と爆発が響き、船は大きく揺れました。続いて、船腹にも魚雷が命中し、甲板に積まれていたカルバイド(電石)が爆発の影響で火災を引き起こしました。
乗客たちは混乱し、一部は艦砲射撃を受けたと誤解し、船内に避難しましたが、他の人々は甲板に逃げ出し、救命ボートに乗り込もうとしました。郵船の中からは、避難できなかった人々の悲壮な別れの声として、日本国歌が聞こえてきました。やがて、大洋丸は船尾を高く上げ、深い海の底に沈んでいきました。
この大洋丸沈没事故で、800人以上が命を落とし、500人以上が救助されました。事故後1週間ほどの間に海面に多くの遺体が漂着し、多くの優秀な技師を失いました。
八田與一もその犠牲者の一人でしたが、彼の遺体は発見されませんでした。1か月後、日本の萩市の漁船が漁網にかかった遺体を見つけました。その遺体は、頭部と手足が白骨化していましたが、服装は完全なままでした。ポケットの中から八田與一の革バッグと名刺が見つかり、それによってこの遺体が台湾総督府の八田與一技師であることが確認されました。八田與一は56歳の壮年でこの世を去りました。
遺体は萩市で火葬され、木箱に入れられて台湾に送られました。彼は一生を台湾に捧げ、その愛する第二の故郷に戻ることとなりました。妻の外代樹や家族は深い悲しみに包まれました。
日本政府は八田與一の戦死に対し、彼を正四位勲四等に昇進させ、勲章と官位を追贈しました。台湾総督府も台北の東本願寺で大規模な葬儀を執り行い、「府葬」という最高の栄誉を与えました。嘉南平野の農民たちは八田與一への感謝の念を込め、烏山頭水庫の銅像の前で嘉南大圳「組合葬」として別れの儀式を行いました。八田與一はこうして、彼の第二の故郷である台湾に永眠することになりました。