據說中國的日語教學始於明朝。
1896年，清政府派出的13名官學赴日本留學，拉開了近代留學日本的序幕。與此同時，董文館、董文館、日本館等日語教學機構相繼在中國開辦，掀起了學習日語的熱潮。
1900年，唐寶岱、簡主編的《東方語言規範化》壹書正式出版，這是我國第壹部全面、正式的日語教材。
20世紀30年代，中國出版了數十種有關日語和日本學的書籍，包括翻譯、編譯、教科書和工具書，內容涉及日語語法、詞法、修辭、篇章、成語和日本文化、社會、政治、經濟、軍事等各個領域。
此外，還出現了以八國語言研究和日語學習為主的雜誌，如1934創刊的《日語與日語》，1937創刊的《中國日語》。掀起了日語學習的小高潮，奠定了我國日語教學的基礎。
但由於日本的侵華戰爭，整個40年代很少出版日本研究和教育的書籍。