Jabatan Akauntan Negara Malaysia, Cawangan Tawau, Sabah telah memulakan operasinya pada tahun 1980 bertempat di Bangunan SIM Jalan Chester, Tawau dan beroperasi dibawah kawalan Jabatan Akauntan Negara Malaysia, Cawangan Kota Kinabalu, Sabah. Pada tahun 1996, pejabat cawangan telah berpindah ke premis tetapnya di Tingkat Empat, Wisma Persekutuan, Tawau, Sabah.

Mulai tahun 1998, Jabatan Akauntan Negara Malaysia, Cawangan Tawau telah diberi taraf cawangan penuh dan bertanggungjawab terus kepada Pengarah, Bahagian Pengurusan Operasi Cawangan di Ibu Pejabat dan Ketua pejabat diberi gelaran Pengarah Cawangan. Ketika itu Ketua Pejabat Cawangan diterajui oleh Akauntan bertaraf W41 dengan dibantu oleh 12 kakitangan sokongan bagi menguruskan semua urusan perakaunan bagi pejabat Persekutuan dan Negeri di Bahagian Tawau. Pada tahun 2001, gred jawatan Pengarah Cawangan telah dinaikkan kepada gred W48.

Bagaimanapun, pada tahun 2007 selaras dengan penyusunan semula pejabat cawangan, taraf cawangan penuh untuk seluruh cawangan JANM di Sabah telah ditarik balik dimana cawangan-cawangan diletakkan di bawah Pengarah Negeri, JANM Negeri Sabah. Bermula pada tahun 2007, segala perkara berkaitan pengurusan pejabat Cawangan Tawau hendaklah dirujuk kepada Pengarah JANM Negeri Sabah tetapi perkara-perkara berkaitan operasi cawangan masih lagi dirujuk kepada Pengarah Bahagian Pengurusan Operasi Cawangan (BPOC). Selaras dengan penyusunan semula pejabat cawangan, bilangan perjawatan juga telah bertambah daripada 19 orang kepada 40 orang dalam tahun 2007.