恩 已經解決了

從xxx.txt讀取出來變成char txt [ ]資料型態
再用sscanf轉成16進位int型態
加減乘除完畢 在轉成char txt [ ] 型態 在寫回xxx.txt檔案 裡面