Для первых железных дорог в России рельсы привозились из-за границы. Для водворения рельсового производства в России правительство принимало разные меры, причем применялись: запрещение строящимся железным дорогам употреблять рельсы иностранного производства, высокие охранительные пошлины, правительственные заказы и выдача премий русским рельсопрокатным заводам. До 1893 г., когда выдача премий прекратилась, заводам уплачено было правительством, не считая заказов по повышенным ценам, одной премии свыше 23000000 р. Первые железные рельсы у нас изготовлены были в 1846 году на заводе Гута Банкова, затем рельсы стали выделываться на Уральских заводах (Нижнетагильском, Алапаевских, Камско-Воткинском), а вместе, с возникновением металлургической промышленности на юге России и переходом к стальным рельсам (в 1860 - 70 гг.) развилось сталерельсовое производство и на других заводах.
Так что рельсы постарше 1850 года найти можно. В музее. В виде стальных конструкций в домах строившихся в 1870-е - 1910-е. Ну и всё пожалуй.