《三国志》的记载

《三国志》“吴书·吴主权传”、《后汉书》“东夷列传”也有提及徐福东渡之事。《三国志》提到了徐福到达亶洲(一作澶洲)并滞留不归。在《三国志》的记载中，亶洲与夷洲在同在中国外海的东南方向，并相距不远。有人认为夷洲就是台湾，亶洲就是日本，与倭国是一个地方的两个名字。

《三国志》“魏书·倭人传”记载倭国“计其道里，当在会稽、东冶之东”，说明那时候中国人认为倭国在中国外海的东南方向。《后汉书》也是同样的记录。

《义楚六帖》的记载

到了五代的后周时，济州开元寺僧人义楚在《义楚六帖》(又称《释氏六帖》)的卷二十一“国城州市部”的“城廓·日本”中，首次明确提到徐福最终到达的是日本(也叫倭国)，今日的秦氏(日本古代渡来豪族)为其后代，仍自称秦人。并说徐福到达后，将富士山称为蓬莱。

此为目前所知最早明确指出徐福滞留不归之地是日本的中国文献。不过有观点认为，义楚的记载很可能和日本的传说有关。因为义楚有一个日本醍醐天皇时代的僧人好友叫宽辅(法号弘顺大师，927年到达中国)，义楚没有到过日本，关于富士山的记载很显然来自他的日本好友的说法。

《日本刀歌》

宋代欧阳修的《日本刀歌》明确指明徐福所滞留的地方就是日本，并且认为徐福东渡时携带了大量的典籍，才使得在中国遭秦始皇焚书坑儒的典籍在日本得以保留。但是这种说法的真实性难以考证。1339年日本南朝大臣北畠亲房所著《神皇正统记》将此事作为信史记录，称“孔子全经唯存日本矣”。