八田氏は、大正八年（1919）三月に八十数名の技術者を引き連れ、未開発の嘉南平野の荒野や山々を駆け回り、測量調査を行いました。
嘉義に指揮所を設置し、ダムが建設予定の烏山頭にも公務所を設置しました。そして、その年の十月には全ての測量計画を完了して、総督府に提出しました。
当時、八田與一は毎朝5時に指揮所に着き、夜遅くまで働き、睡眠時間は非常に短いものでした。荒れた建設現場への移動にかかる時間を節約するために、目的地までは馬に乗り、移動することがよくありました。このようなハードワークの日々は、彼にとっては苦痛ではなく、むしろ幸せでやりがいを感じていたかもしれません。
彼が設計した当時東アジアで最大のダム工事は、彼の夢の実現に向けて進行中だったからです。若い技術者達も彼の壮大な志を理解しており、彼に協力して、困難な工事貫徹のため共同で続きました。

ある日、八田與一が海岸近くの平原に馬で行き、その日水筒を持ち忘れたので、近くの農家に水を頼もうとしたが、農夫は「水を汲みに行った人はまだ戻ってきません、しばらく待ってください」と答え、「どこまで行ったら水を汲めますか?」と尋ねると、農夫は「曽文溪へ水を汲みに行ったので戻るのに4～5時間かかります」と回答、「井戸ありますか？」とまた尋ねたら、農夫は、「今は乾季で、井戸から水が出ないので、曽文溪まで行って水を汲まなければなりません。」と答えました。
農民からこのようなことを聞き、八田與一は嘉南平野の深刻な水不足にショックを受け、嘉南平野に豊富な水源供給が必要であるという彼の信念をさらに強めました。

塩分濃度の濃い耕作地の地質を改善するには、排水を使用して土壌の塩分を洗い流す必要があります。
この排水路は全長6000キロメートル、工事期間およそ6年間、必要経費は事務費を入れて4300万円だということでした。

各種の変更を加えることで、数々の困難を乗り越え、1928（昭和3）年6月中旬についに完成しました。
ダムの竣工式では、成功を祝いに、堰堤に設置された 6 台のジャイアントポンプが空中に巨大な水柱を噴水しました。

八田氏は工事を始めるにあたって、驚くべき行動に出ました。それは大型土木機械を大量導入することでした。
この工事は人力より機械力が成否を決めると考え、現場の職人が見たことも使ったこともない大型土木機械を、渡米して大量に購入しました。
ドラグラインスチームショベルのうち大型ショベルを5台、小型ショベルを2台、エアーダンプカーは、100両も買いました。
この他エキスカベーター、軌道式スプレダーカー、ジャイアントポンプなどを購入し、ドイツからは56トン機関車12両、ドラグラインショベル2台、20馬力巻揚機1台、コンクリートミキサー4台も手に入れました。
烏山嶺トンネル工事用には、大型削岩機、坑内ショベル、大型エアーコンプレッサーを注文しました。
こんな巨大な機械を初めて見た土木技師たちは、驚いたし、操作方法がわかりませんでした。
大型機械が砂利採掘現場に到着したものの、技師達はかなり苦労をし、砂利を積み込みようとしましたが、1つも荷台には収まりませんでした。
監督者と労働者は八田技師に「どうやっても時間の無駄なので、この機械をやめ、手で掘ったほうが早い」と文句を言いました。
八田技師は「外国人が機械を操作できるのだから、わが国の人が出来ないわけはない、機械の操作方法を学びましょう。これらの機械を使用しないと、ダムの完成は2倍以上の工期がかかるし、今回これらの機械が使えなくなってしまうと、購入資金の無駄遣いはおろか、今後の土木工事は人力に頼らざるを得なくなります。自信を持ってください。近い将来、完全に運転できるようになると信じています。練習してください。」と指示しました。
この指示により、技師と労働者達は機械操作の練習に励みました。 努力の甲斐があって、労働者はついに機械を操作できるようになりました。