天水火车站于民国三十四年（1945年）开始修建，于民国三十七年(1948年）建成通车，是当时民国政府在大陆修建的最后一个火车站，同时也是最靠西边的火车站。

之所以修建天水火车站，主要是为了完成陇海线的修建，而陇海线的提出是在孙中山先生的《实业计划》中。孙中山先生的陇海线计划是要修到天水以西的，但由于1948年国民政府已经岌岌可危（解放军进入天水就是在一年后，也就是1949年的8月）所以以西的铁路就没有修成。

天水火车站以及铁路职工宿舍所在的地方原来是属于当地一个叫张家村的村庄的，大约在1944年到1945年之间，由民国政府出面，同当时张家村的村长（当时叫绅士）签订合同购买了相应土地（这份土地买卖合同至今有效，并且也保留到了现在，前几年张家村同铁路职工宿舍发生土地纠纷，就是靠这张合同才平息下去的。）这条铁路主要是由沿陇海线一直修铁路到天水的外地民工以及本地民夫共同修建。

民国政府败退前夕，曾经用这条线路运送了许多国民党士兵同解放军对抗。而且，在他们败退时，曾用天水飞机场的飞机轰炸火车站。

民国时，天水火车站没有候车大厅。只有一排平房用来作为候车室，铁路两旁没有过多防护设施，只有一些围栏和警示标语。

1949年8月，该火车站有解放军接管。1952年，重新修建并通车。

1984年进行电气化改造，1989年6月车站新站室竣工交付使用，1990年12月提级为一等站。建筑面积3800平方米、实际竣工面积5614平方米，新站房面临麦积区(原名:北道埠)一马路、为线下式结构。为配合市区规划，采取非对称式建筑，并设钟楼一座，顶高48米。天水站现有到发线10条，调车作业编组线9条，行车信号采用6502型信联闭集中控制设备。铁路货物装卸线及企业厂矿专用线、部队专用线14条，建有东西12万平方米货场，货物仓库7座、货运装卸营业楼2座，采用微机制票收费，办理全路整车、零担、集装箱到发业务。天水火车站主要担当天水市和陇南地区13县区的货物、旅客、行包到发业务，办理客货列车接发、编解甩挂、站内及场段车辆的取送。1988年以来，连续获兰州铁路局、甘肃省“先进单位”、“先进区段站”、“甘肃省双文明建设先进单位”、“甘肃省综合治理先进单位”等称号。