История паровоза тесно связана с возникновением рельсового пути и локомотива. Существуют сведения об использовании деревянных рельсов на шахтах и рудниках уже в первой половине 16-го века. В 18-м веке появились чугунные рельсы, которые вскоре заменили из-за хрупкости чугуна на рельсы из мягкого железа. До начала 19-го века по этим путям вывозили руду и уголь с рудников и шахт. Вагоны передвигались по рельсам с помощью лошадей. В 1801 году в Англии появилась первая пассажирская рельсовая дорога с конной тягой. С изобретением паровой машины и ее распространением многие изобретатели пытались использовать ее для транспортных нужд, например, в роли двигателя у самодвижущейся повозки.
В 1801—1803 годах англичанин Р. Тревитик изобрел несколько таких паровых повозок, которые не всегда успешно преодолевали скверные грунтовые дороги. В результате у изобретателя появилась идея построить паровую машину, передвигающуюся по рельсам. В 1803 году Р. Тревитик сконструировал свой первый паровоз, а в феврале 1804 года было проведено его испытание. Это был цилиндрический котел, закрепленный на двух осях. Топка находилась впереди под дымовой трубой, поэтому и тендер (повозка, в которой был уголь и сидел кочегар) цепляли впереди паровоза. В горизонтальном цилиндре с диаметром 210 мм ход поршня был равен 1,4 метра. Шток поршня сильно выдвигался впереди паровоза, поддерживался он специальным кронштейном. С одной стороны на осях имелась зубчато-колесная сложная передача, с другой стороны — большое маховое колесо. У паровоза были отличные характеристики. Так, при весе в 5 тонн он мог перевезти 5 вагонов общим весом 25 тонн со скоростью 8 км в час. Порожняком скорость увеличивалась до 26 км в час. Правда, паровоз сжигал очень много угля и изобретение не приносило коммерческих выгод. Кроме того, тяжелый паровоз часто ломал хрупкие чугунные рельсы и тендер дополнительно загружали запасом рельс.
Удачнее других оказались паровозы Дж. Стефенсона. Свой первый паровоз он построил в 1812 году, который перевозил грузы до 30,5 тонн, однако не брал крутых подъемов, а скорость с нагрузкой достигала всего 6 км в час. В 1815 году изобретателем был построен второй паровоз, а в 1816 году — третий, в котором он изобрел рессоры.
В 1821 году по поручению шахтовладельца Дарлингтона, основавшего компанию по строительству железной дороги, Стефенсон занимается строительством железной дороги протяженностью в 61 км от Дарлингтона к Стоктону. В сентябре 1825 года прошел первый поезд, состоявший из 34 вагонов. В 6-ти вагонах был груз с углем и мукой, остальные вагоны предназначались для перевозки пассажиров. Тащил вагоны созданный изобретателем паровоз «Передвижение». Средняя скорость паровоза составляла 10 км в час, на отдельных участках поезд набирал скорость до 24 км в час. Вес перевозимого груза достигал 90 тонн. В 1829 году Стефенсон представил на конкурсе на лучший локомотив свою знаменитую «Ракету», которая при весе 4,5 тонн легко передвигала поезд весом 17 тонн, при этом скорость паровоза достигала 21 км в час. С одним пассажирским вагоном и 36 пассажирами поезд развивал скорость до 38 км в час. «Ракета» была на порядок выше других локомотивов, она имела основные черты локомотивов более позднего периода. В России первый паровоз построили в 1834 году отец и сын Черепановы.
Наступила эра паровоза, которая продолжалась до 1950-х годов, затем их производство было остановлено. Паровозы продолжали эксплуатировать еще до середины 1970-х годов.