‘ประเทศญี่ปุ่น’ เป็นอีกประเทศหนึ่งที่มีความโดดเด่นทางด้านการเดินทางด้วยรถไฟ โดยประวัติศาสตร์ความเป็นมาทางด้านรถไฟของประเทศนี้ก็มีความเป็นมาอันยาวนานเลยทีเดียว รถไฟสายแรกของประเทศญี่ปุ่น เกิดขึ้นมาในปี ค.ศ. 1872 เส้นทางระหว่างเมือง Tokyo กับ Yokohama ผู้สร้างคือบริษัท Japan Government Railways โดยมีประเทศอังกฤษช่วยดูแล รางมีความกว้าง 1.067 เมตร
หลังจากนั้น รัฐบาลญี่ปุ่นก็หาทางขยายเส้นทางรถไฟออกไป แต่เนื่องจากปัญหาอย่างจึงทำให้การขยายเส้นทางเป็นไปอย่างล่าช้า ด้วยเหตุนี้รัฐบาลญี่ปุ่นจึงอนุญาตให้เอกชนมาสร้างพร้อมขยายทางรถไฟต่างๆ โดยบริษัทแรกที่รับข้อเสนอนี้คือ Nippon Railways โดยการขยายเส้นทางก็เป็นไปอย่างราบรื่น หลังจากนั้นก็มีบริษัทเอกชนเจ้าอื่นๆ เข้ามาร่วมมากมาย
ปี ค.ศ. 1906 เกิดการเปลี่ยนแปลงขึ้น โดยสาเหตุมาจากการออกพระราชบัญญัติ Railway Nationalization ซึ่งมันก็ คือ การแปรรูประบบรางรถไฟจากเอกชนให้มาเป็นของรัฐ จึงทำให้ระบบรางทั้งหมดควบรวมกันเป็นเครือข่ายขนาดใหญ่ของรัฐ ขั้นตอนดำเนินการนี้เสร็จสิ้นในปี ค.ศ. 1907 รวมระยะรางที่ซื้อมา ทั้งหมด 4,525 กิโลเมตร แต่การรวมรางในครั้งนี้ ก็กลายมาเป็นสาเหตุ ที่ทำให้รัฐมีค่าใช้จ่ายสูงมาก จนไม่มีงบประมาณเหลือที่จะขยายเส้นทางอื่นๆ เพิ่ม รัฐจึงหาทางแก้ปัญหาด้วยการร่าง พรบ.ใหม่ ซึ่งอนุญาตให้เอกชนมีสิทธิ์ในการสร้างกิจการรถรางเบา หรือ Light Railway ขึ้น ในปี ค.ศ. 1910 ต่อมาการนำหัวรถดีเซลมาใช้เริ่มขึ้นในปี ค.ศ. 1929 โดยนำเข้ามาจากประเทศเยอรมัน
ปี ค.ศ.1931 การพัฒนาทางด้านรถไฟของประเทศญี่ปุ่นเป็นไปด้วยดี ซึ่งสามารถสร้างระยะทางของรางได้ทั้งหมด 14,574 กิโลเมตร ต่อมาเมื่อมาถึง ค.ศ. 1938 ประเทศญี่ปุ่นต้องผจญสงครามโลกครั้งที่ 2 จึงทำให้ระบบรถไฟต่างๆ ถูกทหารจัดการ พร้อมแปรรางเอกชนมาเป็นของรัฐอีกครั้ง รางรถไฟหลายแห่งถูกรื้อออกไปเป็นออกไปจำนวนมาก เนื่องจากขาดแคลนแร่เหล็ก และมีการลดการให้บริการทางรถไฟลงมาก เพื่อนำไปใช้ทางทหาร เท่านั้นยังไม่พอจากผลพวงของสงคราม ยังทำให้ทางรถไฟจำนวนมากได้รับความเสียหายอย่างรุนแรง
เมื่อสงครามสิ้นสุดลง ประเทศญี่ปุ่นตกเข้าสู่สภาวะข้าวยากหมากแพง หากแต่การเดินทางด้วยรถไฟนั้นกลับเป็นที่ต้องการมาขึ้น โดยในขณะที่รถไฟที่เหลือเพียงไม่มาก จึงทำให้ความต้องการสูงเกินจะรับไหว
โดยในขณะนั้น ประเทศสหรัฐอเมริกาที่ได้เข้ามาครอบงำญี่ปุ่น ก็จัดการปฏิรูปการรถไฟญี่ปุ่นให้เปลี่ยนเป็นบริษัทมหาชน และเรียกว่า การรถไฟแห่งประเทศญี่ปุ่น ก่อตั้งในปี ค.ศ. 1949 โดยการปฏิรูปนี้ ก่อให้การก่อสร้างระบบรถไฟอย่างรวดเร็ว อีกทั้งยังมีการเปลี่ยนแปลงระบบนำไฟฟ้ามาใช้แทนดีเซล และยกเลิกรถจักรไอน้ำทุกขบวน