自汴梁（今开封）至洛阳的汴洛铁路是依照芦汉铁路的支线修建的。1904年10月开工，以郑县车站为起点，分别向东西两个方向施工。1909年12月竣工，全长183公里。
1912年9月，北洋政府与比利时签定修建1，800公里的陇海铁路借款合同，以汴洛铁路为基础向东西方向展筑，两段工程于1913年5月同时开工。1915年5月，开封至徐州段通车，长277公里。同年9月洛阳至观音堂段30公里竣工。1920年5月，北洋政府又与比利时和荷兰签定了借款合同，继续修建陇海铁路。东段徐州至海州的大浦198.3公里，于1920年开工，1923年竣工。西段观音堂以西的线路，到1927年11月，修至灵宝。
南京政府铁道部于1928年成立后，决定续建陇海铁路。灵潼（潼关）段长72公里，1930年11月开工，1931年12月竣工。潼西（西安）段长131公里，1932年8月开工，1934年12月竣工。西宝（宝鸡）段长173公里，1935年1月开工，1936年12月竣工。灵潼段是将比利时退还庚款的剩余部分作为借款修建的。潼西、西宝两段的国外购料由法国财团承担。
陇海铁路宝鸡至天水段，长154公里。这段铁路工程复杂艰巨，南京政府忽停忽建，朝令夕改。从1939年5月至1945年12月，用了近7年时间，才勉强竣工。通车后，塌方事故不断发生，被称为陇海铁路的“盲肠”。 中华人民共和国成立后，于1950年4月继续修建天水至兰州段，1953年7月完成，至此，陇海铁路全线修成通车。1955年以后，相继开始兴建郑州、兰州、徐州、西安、宝鸡等枢纽工程；1956～1970年郑州至宝鸡分段改建为复线，其中在三门峡水库工程地段还进行了相应的改线；1980年郑州至商丘复线建成。2000年宝兰二线工程始建,该线路东起宝鸡车站东闸口，西至兰州东站西闸口，全长487 公里，为国家Ⅰ级双线电气化铁路，是西北地区东通路扩能的重要工程。宝兰二线也是我国电气化增建二线最长的铁路，全段特大桥 22 座、大桥 67 座、隧道 108 座，桥隧总长 106.89 公里，占全线总长的 22%。现在复线工程和电气化工程已经全部完成。
这条铁路工程艰巨，如宝鸡至天水段，穿越秦岭六盘山，上行沿渭河峡谷北岸延展，依山傍水曲行，地质、地形都比较复杂，下行高桥长隧,直线前进。它的建成通车，对开发中国西部地区尤有重大意义。
陇海铁路是贯穿中国东、中、西部最主要的铁路干线,也是从太平洋边的中国连云港至大西洋边的荷兰鹿特丹的新亚欧大陆桥的重要组成部分。
铁路经过的主要城市：
江苏：徐州，连云港
安徽：砀山
河南：洛阳，郑州，开封，商丘,三门峡
陕西：宝鸡，咸阳，西安，渭南，
甘肃：兰州，定西，陇西，天水，金昌，武威，张掖，酒泉（和其下辖地区柳园），嘉峪关
