鐵道從16世紀左右開始運用於鑛山後，現在已是不可或缺的大眾運輸、貨物運輸的工具。

英國威爾斯（Wales）在1807年開通世界第一條用來輸送旅客的馬車鐵道，而世界第一條用蒸氣機關車牽引的鐵道一樣位於英國蘇格蘭，是於1825年開通的斯托克頓和達靈頓鐵道（Stockton and Darlington Railway）。隨後美國與法國於1827年開通第一條鐵道，德國也於1835年開通第一條鐵道。

而蒸氣機關車模型第一次到達日本則是在1853年，由俄羅斯的軍艦運送到長崎，並供當時的高官等人觀摩。同年，在黑船事件中將軍艦駛入江戶灣（今東京灣）浦賀的美國海軍將領馬修・貝里（Matthew Perry），不僅為長達200年日本鎖國時期畫下句點，更在1854年再次造訪日本時，贈送了一台蒸氣機關車模型給當時的將軍「德川家定」。而英國則是在1858年把預計於中國鋪設的鐵道先運往長崎，並試運行了一個月。

受到世界各國在鐵道上的發展，日本各處也開始訂定舖設鐵道的計劃。但由於當時大多數的日本人都未看過實體鐵道且對鐵道陌生，因此讓計劃難以執行。經由多方討論後，在1869年終於決定舖設一條連結東京與橫濱，長度為29公里的示範鐵道。費時三年，連結品川與橫濱的鐵道於1872年6月12日進行試營運，同年10月14日全線正式開通，並於起點的新橋舉行開業典禮，10月15日開始正式載送一般民眾。

在日本最初的鐵道完工後，為了舖設上野到青森之間的鐵道，所設立的民間公司「日本鐵道會社」也於1881年開業。雖然開始建設時遭遇經費、土地徵收問題等重重關卡，但在1883年先行開通東京・上野到埼玉・熊谷路段中，獲取了高達1成以上的營業利益，這才讓大家發現原來鐵道是賺錢的事業。從此之後，建設鐵道的工程也得以順利進行，而連結上野到青森之間的鐵道最終也在1891年全線通車。

隨後日本全國各地皆掀起了舖設鐵道的風潮，到1892年為止全國約有50間民營鐵道公司開業。而根據統計，1890年為止，日本官方舖設的鐵道約有886公里，但民間公司舖設的鐵道已達1366公里。當年的五大民營鐵道公司為「北海道炭礦鐵道」、「日本鐵道」、「山陽鐵道」、「九州鐵道」、「關西鐵道」。

同時，日本政府也從1890年開始計劃收購民營的鐵道，但因當時正處於日清戰爭與日俄戰爭的時節，日本政府的經濟狀況緊迫，一直延宕到戰後的1906年3月才訂定了「鐵道國有法」，1907年10月一共收購了含上述的五大民營鐵道公司在內的17家民營鐵道公司。

雖然日本國營鐵道不段的進化，例如鐵路電氣化、地下鐵、路面電車、子彈列車等技術創新，但是也不敵小客車引進日本後，造成大家遠離鐵道運輸的衝擊，1964年時國營鐵道迎來第一次的虧損。1980年，為了改善虧損狀況，國鐵分割民營化終於被提案，並在1987年將國營鐵道分割成今日大家熟悉的6家鐵道公司：「JR東日本」、「JR東海」、「JR西日本」、「JR北海道」、「JR四國」、「JR九州」，以及1家貨運公司「JR貨物」。

預計2027年開始營運的中央新幹線（リニア中央新幹線）現在正如火如荼的趕工，其採用的技術是日本自行研發「超導磁浮列車」，載客時最高速可達每小時505公里，可讓東京到名古屋原本需要1小時30分鐘的車程縮短到40分鐘。而2037年全線通車後，東京到大阪也可從2小時30分鐘的車程縮短到1小時7分鐘。

■高輪築堤跡
日本第一條鐵道的長度雖然只有29公里，卻有約10公里設置在海上。其中從田町到品川之間，為了避開當時的海軍用地，特別建造了一個寬度約為6.4公尺的海堤，也就是所謂的「高輪築堤」。高輪築堤在一連串的填海工程中被掩埋，直到2019年，山手線的高輪Gateway車站的西側開始重新開發時，終於被挖堀出來重見天日。

■品川車站創業記念碑
品川車站創業記念碑設置於品川車站的高輪口附近。記念碑旁的說明文寫著「品川車站的開業日是在明治5年5月7日（新曆6月12日），主要是受到新橋到品川之間的工程延誤的影響，才先行於這一天開始試營運」。因此，品川車站也能說是日本最古老的車站。

■鐵道創業之地記念碑
鐵道創業之地記念碑位於櫻木町車站的新南口附近。記念碑旁的說明文寫著「為了建設日本最初的鐵道，明治3年（1870年）開始從英國購買鐵道的各種材料，並從橫濱港卸貨後開始建設。2年後的明治5年（1872年）5月7日，這個地方建立了第一代橫濱車站，日本最初的鐵道也於此開始營業」。

■日本鐵道之父 井上勝 的銅像與墓地
井上勝被尊稱為日本鐵道之父，因為他於建設新橋到橫濱的鐵道時即擔任鐵道頭，全心全意的協助鐵道的完工。隨後繼續的協助神戶到大阪、大阪到京都的鐵道建設，並以比外國人所估算的工程費還要低廉的價格來施做工程，他對鐵道的知識與種種手腕並不亞於當時各個鐵道強國的工程師們。井上勝的銅像目前矗立東京車站附近，而他的墓則位於大崎車站附近的「東海寺大山墓地」內。

■汽車道
位於櫻木町車站附近的汽車道（日本的蒸氣機關車又稱為汽車），是利用鐵道廢線的遺跡來改建成的人行道。目前汽車道上的港一號、港二號、港三號橋梁已被認定為「橫濱市認定歷史建築物」。

■六郷川橋梁
六鄉川橋梁是連接東京都大田區西六鄉與神奈川縣川崎市川崎區堀川町的重要橋梁。第一代六鄉川橋梁是木造的桁架橋，也是日本第一條提供給鐵道用的橋梁。現在的六鄉川橋梁則是1971年重建的第四代橋梁，而第二代橋梁的鐵製桁架的一部份目前存放於JR東海的三島社員研修中心與博物館明治村。

日本鐵道在民營化後大多已擺脫國營時期損虧的情形，在新冠肺炎（COVID-19）疫情前都有著不錯的收益，卻在歷經2020年、2021年再次轉變為虧損，而正值鐵道開業150年的2022年終於又開始轉虧為盈。在2022年10月14日，日本鐵道迎來150年紀念的同時，本政府也幾乎在同一個時間點開放觀光客自由入境，大家期待已久的日本鐵道準時又舒適的搭乘體驗總算到來，相信這回勢必也將再次帶動日本鐵道的下一波活絡。