在近邻日本，从七世纪中期开始，就有人用中文写诗，其作品被称为“汉诗”。
　　现存最早的日本汉诗是大友皇子（648-672）所作，其中有首《述怀》诗说：“道德承天训，盐梅寄真率。羞无监抚术，安能领四海。”其口吻与皇储的身份完全契合。孝谦天皇天平胜宝三年（751），第一部日本汉诗集《怀风藻》面世。此书收存诗117首，数量虽然不多，但作者基本上是上层统治者的精英人物，如当时的皇帝、贵族、官吏、儒生以及僧侣等等，共64人。他们模仿中国六朝的诗风，形式上以五言诗为主，在日本文坛很快刮起了一股“中国风”。如刀利宣令的《秋日于长王宅宴新罗客赋得稀字》诗云：“玉烛调秋序，金风扇月帷。新知未见日，送别何依依。山际愁云断，人前乐绪稀。相顾鸣鹿爵，相送使人归。”此诗颇具我国齐梁诗之余韵，高标初唐风格，和魏晋六朝之作相比，在诗风上也几无差别。又，藤原宇合的《奉西海道节度使之作》诗，虽只短短四句，却也写尽了人们厌战的心声：“往岁东山役，今年西海行。行人一生里，几度倦边兵。” 藤原宇合是日本的贵族公子，曾在唐玄宗开元五年（717），以遣唐副使的身份到过中国，直接得到过华夏文化的浸润，其作品完全可以和初、盛、中唐时期的诗歌写作高手媲美。
　　日本汉诗的风靡于世，和我国唐代著名诗人白居易密切相关。由元稹的《白氏长庆集》可知，那时的白诗在朝鲜是“本国宰相辄能辨别之”。因此它的声名远扬，很快由朝鲜传到日本，深受日本社会上下人士喜爱。 在今天的日本，还遗存着不少白居易的神社旧址。
　　日本汉诗的发展高峰在平安时期（794-1192），大约相当于我国的中、晚唐至南宋时期。据文献记载，此一时期，继《怀风藻》以后，又相继出现了《凌云集》、《文华秀丽集》和《经国集》三部汉诗集。由于天皇积极参与编创，无疑提高了汉诗的地位，有力地推动了它在日本的广泛传播，同时，汉诗在形式上也有了新的变化。
　　此后的奈良、江户直至明治维新时代，汉诗在日本很受文人重视，开始出现了专事汉诗创作的专业作家，并且产生了许多诗社。他们互相切磋，不断创作，形成了特色鲜明、风格相对稳定的、独特的“日本汉诗”。这一文学现象很快受到中国学者的注意和重视。1883年6月，俞樾编成日本汉诗集《东瀛诗选》，辑录汉诗4500余首，凡40卷，补遗4卷，由此可见日本汉诗繁荣兴盛之一斑。