昭和20年8月を過ぎても任務解除の命令が届かなかったため、赤津勇一陸軍一等兵（昭和24年9月逃亡昭和25年6月投降）、島田庄一陸軍伍長（昭和29年5月7日射殺され戦死）、小塚金七陸軍上等兵（昭和47年10月19日同じく射殺され戦死）と共に戦闘を継続し、ルバング島が再び日本軍の制圧下に戻った時のために密林に篭り、情報収集や諜報活動を続ける決意をする。日本では昭和20年9月に戦死公報を出されたが、1950年に赤津が投降したことで、小野田ら3人の残留日本兵が存在することが判明する。

フィリピンは戦後間もなくアメリカの植民地支配からの独立を果たしたものの、両国の協定によりアメリカ軍はフィリピン国内にとどまることとなった。これを「アメリカ軍によるフィリピン支配の継続」、またフィリピン政府を「アメリカの傀儡」と解釈した小野田はその後も持久戦により在比アメリカ軍に挑み続け、島内にあったアメリカ軍レーダーサイトへの襲撃や狙撃、撹乱攻撃を繰り返し、合計百数十回もの戦闘を展開した。

使用した武器は九九式短小銃、三八式歩兵銃、軍刀等であり、その他放火戦術も用いた。この際、弾薬の不足分は、島内に遺棄された戦闘機用の7.7x58SR機関銃弾（薬莢がセミリムド型で交換の必要あり）を九九式実包の薬莢に移し替えて使用していた。これらの戦闘において、アメリカ軍レーダー基地司令官を狙撃し、重傷を負わせる等、多くの戦果を上げている。地元警察との戦闘では2人の部下を失い、最後の数年は密林の中、単独で戦闘を続行している。30年間継続した戦闘行為によって、フィリピン警察軍、民間人、在比アメリカ軍の兵士を30人以上殺傷した。

手に入れたトランジスタラジオを改造して短波受信機を作り、アメリカ軍基地の倉庫から奪取した金属製ワイヤーをアンテナに使って、独自で世界情勢を判断しつつ、友軍来援に備えた。また、ゲリラ戦での主な食料として、島内の野生牛を捕獲して乾燥肉にしたり、自生するヤシの実を拾っていた。これにより、良質の動物性タンパク質とビタミン、ミネラルを効率良く摂取していた。