日本的铁路发展以城市为中心，可分为市区内的短程路线以及不同城市间的中长程路线。列车的发车时间相对而言较为准时，中短程的搭乘费用也比其他交通工具低廉。此外，若搭乘新干线，乘车时间较短，东京至新大阪约2小时半，东京至博多也只需5小时左右，非常适于长途旅行。
新干线
新干线可高速往返于大城市之间，由JR营运，大部分的路段都以超过200km/h的车速行驶。除了速度之外，在舒适度和安全方面也有高水平的保证。新干线的路线有以下6种，列车名称则有Nozomi(のぞみ)、Hikari(ひかり)、Kodama(こだま)三种。
| 名称 | 起始点 | 终点 | 路线长度 | 营业里程 | 营运公司 |
|---|---|---|---|---|---|
| 山阳新干线 | 新大阪车站 | 博多车站 | 553.7km | 644.0km | JR西日本 |
| 东北新干线 | 东京车站 | 八户车站 | 593.1km | 631.9km | JR东日本 |
| 上越新干线 | 大宫车站 | 新泻车站 | 269.5km | 303.6km | |
| 北陆新干线※ | 高崎车站 | 长野车站 | 117.4km | 117.4km | |
| 九州新干线鹿儿岛线 | 新八代车站 | 鹿儿岛中央车站 | 126.8km | 137.6km | JR九州 |
JR
JR(ジェイアール)是Japan Railway(日本铁道)的简称，分为JR东日本、JR西日本、JR北海道、JR东海、JR四国、JR九州以及运货铁路等七家公司。 JR的路线分布在日本是最普及的，搭乘人数众多。一般的JR路线为了和新干线区别，称作「在来线」。 JR路线几乎网罗日本全国各地，适合中、短程的旅途搭乘。
地铁
地下铁道(ちかてつどう)简称地铁(ちかてつ)。由于大部分路段位于地面底下，无法欣赏窗外风景，因此不适于观光用途。不过地铁通常数分钟便有一班车，班次稳定，在大城市内往返时相当方便。此外，地铁可停靠在地面铁路没有停靠的车站，提供更为便利的交通选择。地铁的费用和其他公共交通工具相比，通常稍微偏高。
私铁
日本境内除了JR之外，另有民间企业营运的铁路和轨道，统称私铁(有时也称作民营铁道)。较著名的有东武铁道、西武铁道、小田急电铁、东京地下铁、名古屋铁道、阪急电铁、阪神电气铁道等。除此之外，全国各地尚有数十家铁道公司。