日本作为和中国一衣带水的一个国家，中日的交流也源远流长。最早可以追溯到汉朝时期，那时候双方交往并不深，最初《汉书》对其只有“乐浪海中有倭人，分为百余国，以岁时来献见云。”这短短十九个字的记载。
到汉光武帝时期，倭奴国派人到洛阳朝贡，汉光武帝授予了其金印紫绶。建武中元二年，倭奴国奉贡朝贺，使人自称大夫，倭国之极南界也。光武赐以印绶。《后汉书·东夷列传》
当时的日本存在三十多个大小的国家相互攻伐，倭奴国就是其中之一，由于它的有利地理位置，所以率先来到了洛阳进行朝贡。而倭奴国的到来是希望得到中国的青铜器、武器、农具及各种生产技术，谁得到更多的技术谁就能在战争中获得优势，如果能得到中国的册封的话，将会提高其政治地位。从倭奴国到来之后，陆续又有很多日本小国过来朝贡。1784年，在现在日本福冈的志贺岛村，两位农民在挖水渠的过程中挖到了一个金光闪闪的东西，据考证这个东西就是公元57年汉光武帝赐给倭奴国的金印，金印上分三行印着“汉/委奴/国王”五个汉字。
在魏晋南北朝时期，倭国也与中原王朝有所往来，由于中原动乱，中原王朝并没有过多的关注倭国。到达隋唐时期双方的交往才密切起来，但当倭国第一次来到长安觐见时，就发生了让隋文帝很不高兴的事情。倭国派出第一个遣隋使得时间是公元598年，这一年正好是隋朝派遣30万大军征伐高句丽之后，同时日本也准备在两年后征伐新罗。此时的倭国已经统一了200多年，社会各方面也有很大的发展，而中国刚结束乱世没多久。在这种情况下倭国觉得与隋朝的差距没有以前那么悬殊了，自尊心也大大增强，于是想和隋朝进行“对等外交”进行交流。另一方面可能是为了刺探隋朝的态度，看隋朝将如何对待新罗和他们的纷争。
开皇二十年（公元600年）倭王派人来到长安，隋文帝让人问倭国有什么风俗。倭国使者说：“倭王以天为兄，以日为弟，天不亮就起床听政，听政时倭王坐如来像，待太阳升起后，就把政务交给弟弟——太阳”。中国古代皇帝自称“天子”，然而倭国使臣一来就说倭王是天的兄弟，这话一出口可想而知隋文帝的反应了。一个小小的倭国就想在这件事上占自己的便宜，隋文帝虽然生气，但作为天朝上国没必要和一个没见过世面的小国计较，于是训令倭国把这一称谓改掉。上令所司 访其风俗。使者言倭王以天为兄，以日为弟，天未明时出听政，跏趺坐，日出便停 理务，云委我弟。高祖曰：“此太无义理。”于是训令改之。《隋书·列传·卷四十六》
从这次来隋朝之后，到614年的短短15年中，双方来往了5次。而在大业三年（607年），这次倭国与隋朝交往中又发生了一件让隋炀帝不高兴的事情。倭国从第一次来隋朝之后就知道了隋朝的强大，之后的多次过来就是想要多多学习中国先进的文化、生产知识。大业三年，倭国外交官小野妹子出使隋朝，这次虽然没有“以天为兄”这样的字眼了，但国书中的“日出处天子至书日没处天子无恙”这句话也并不比之前的那句要好。隋炀帝看见这句话之后很不高兴，于是对鸿胪卿说：“蛮夷书有无礼者，勿复以闻。”显然隋炀帝虽然不高兴，但是也没准备计较，只是想着眼不见心不烦。为了维护好和周围的外交关系还派裴世清出使倭国。
而在裴世清随小野妹子出使倭国之时隋朝的国书竟然丢了，到了日本之后，小野妹子也没有把隋炀帝不高兴的事告诉倭王。很有可能国书里面有隋炀帝教训倭王的话语，从后来裴世清到倭国之后只是把倭王称为王而不是“倭皇”，就可以看出隋朝方面是并没有把倭国放在同等地位的，而是像周边小国一样实行的“宗藩体系”。据《隋书》记载裴世清到达倭国受到了倭王的亲自接见，并向倭王宣了谕，顺利地完成了朝命。但《日本本纪》中却记载说裴世清根本没有见到天皇，国书也是由人进行宣传的。《日本本纪》还记载了之后倭国又进行了第三次和第四次访隋，并在国书中称倭王为“东天皇”，称隋炀帝为“西皇帝”，显然倭国是力争在外交上与隋朝建立平等关系。但在《隋书》中记载从倭国使臣随裴世清来隋朝进贡之后就再也没有往来，显然是在这之后倭国的做法彻底的触怒了隋朝。
到了唐朝时期，由于唐太宗实行开明的民族和对外政策，对日本大规模到来的遣唐使给予了优厚的待遇，并准许日本不用一年一贡，还让高表仁持符节前去抚慰。但就是这样，倭国不但不感恩，还一直想着对抗大唐。高表仁这次过去并没有达到目的，没有宣示朝廷之命就回来了。史书也只是说高表仁与倭王子发生了争礼事件，表示没有抚慰倭国的能力。虽然没有写到底是争论的什么事情，但是从之前倭国访隋就可以看出，倭王子应该是想以倭皇这样平等的地位来接待高表仁，对于这样的要求，作为天朝上国的使臣肯定不会接受，愤然离去也是正常的事了。太宗矜其道远，敕所司无令岁贡，又遣新州刺史高表 仁持节往抚之。表仁无绥远之才，与王子争礼，不宣朝命而还。
让倭国真正认识到和大唐差距的事情是中日之间的第一次战争——白江口之战。此战中大唐和新罗联军彻底战胜了倭国和百济联军，后来大唐更是灭掉了不可一世的高句丽。这一战完全把倭国的自信心打掉了，从此倭国变得表面无比顺从，更加不遗余力的学习中国文化。之后到武则天时期，倭国认为这个名字不好听于是恳请武则天赐名，于是有了现在日本这个国名。
日本一直力图与中国平起平坐，当中国强的时候就蛰伏起来学习。当日本认为自己强大了就开始起小心思，从后来的明朝抗倭援朝，清朝的甲午中日战争到近代的中国抗日战争，无不显示着日本的野心。害人之心不可有，防人之心不可无，隋唐就是对日本太过于放纵，导致日本的野心不断滋生。表面是日本在隋唐争面子，实际上日本的野心从来没有消失过。
