首次提及日之丸旗可追溯至 701 年。傳說在 13 世紀蒙古入侵時，一位名叫日蓮的佛教徒將一面印有太陽的旗幟贈送給將軍（最高軍事地位），讓士兵隨身攜帶。日之丸成為國家的象徵，並在 1575 年的長篠之戰中被使用。日本最古老的旗幟至少可以追溯到 16 世紀，作為武田家族的家傳之寶保存在雲保寺。
1854 年，日本船舶被命令懸掛 hinomaru 以區別於外國船舶。其後，在 1870 年，桧丸被宣佈為日本的貿易旗幟，並在 1870 年至 1885 年間成為日本的第一面國旗。雖然對許多日本人來說，國家象徵的想法似乎很奇怪，但政府認為這對於與其他國家的互動是必要的。1853 年海軍准將佩里登陸後，決定引入更廣泛的識別標誌，包括國旗、國歌和皇室印章。將日之丸定為國旗的立法於 1885 年廢除。
在日本建立帝國的過程中，日之丸的使用越來越多。在早期與中國的戰爭勝利之後，日之丸重新出現在慶典和遊行中。在當時的教科書中，這面旗幟被描繪成各種標語，表達對天皇和國家的忠誠。
日之丸旗是日本在第二次世界大戰期間和國家被佔領時的旗幟。當時，懸掛該旗幟需要得到盟軍許可。1947 年 5 月，日之丸的懸掛限制被取消。1948 年，日之丸旗允許在國定假日懸掛，1949 年 1 月起，日之丸旗允許在任何時間懸掛，無需許可。因此，直到 1950 年代早期，學校和家庭都積極展示日之丸旗幟。
第二次世界大戰後，日本國旗受到批評，因為它與國家的軍國主義過去有關。戰後，日本國內沒有使用日之丸國旗，但後來當國家恢復外交地位時，日之丸國旗在國外被用作政治武器。當東京主辦 1964 年夏季奧運會時，國旗的問題再次出现。國旗上太陽盤的大小和顏色的深淺都有所改變。1989 年，裕仁天皇逝世後，人們對國旗提出了道德質疑。
2000 年，自民黨的日本首相小淵惠三（Keizo Obuchi）提出法案，將日之丸（Hinomaru）列為國家的正式象徵。然而，類似的法案早在 1974 年就曾被考慮，但未能通過。反對黨抗議該法律，並希望由公眾來決定這個問題。副秘書長鸠山由纪夫 (Yukio Hatoyama) 認為該法案會進一步分化社會和公立學校，但還是投了贊成票。該法案於 1999 年 7 月 22 日在眾議院獲得通過，並於 8 月 9 日在參議院獲得通過。