Abe Shinzo dijadwalkan mengadakan konferensi pers pada hari ini untuk menjelaskan keputusannya.
Abe telah mengunjungi rumah sakit dua kali selama dua minggu terakhir, memicu spekulasi bahwa kesehatannya memburuk.
Ini adalah kedua kalinya Shinzo Abe meninggalkan jabatannya karena masalah medis - mengundurkan diri pada tahun 2007, karena penyakit radang ususnya, setelah hanya menjalani satu tahun masa jabatannya.
Dia kembali ke jabatan puncak pada tahun 2012 setelah menang telak dalam pemilihan umum di Majelis Rendah.
Masa jabatan tujuh tahun ini menjadikannya pemimpin terlama di Jepang yang pernah ada.
Abe bisa menjalani satu tahun lagi di kantor.
Masa jabatannya sebagai presiden dari Partai Demokrat Liberal yang berkuasa akan habis pada September tahun depan.