地球上大的河流是货物交流和人类迁徙的决定因素。几千年来，黄河和尼罗河、幼发拉底河、底格里斯河，密西西比河等著名的大河一样，与人类历史紧密相关。
河流和水道，为国家与国家、民族与民族之间的联系和交流带来了方便，但人们必须横渡河流才能到达目的地。因此人类发明了桥梁。古人倒木为桥，最简单的木桥自然是横在一条小河上的已倒的树干。然而，要越过宽阔的河流，像黄河这样水深流急波涛汹涌的大河，就得建造结构复杂的桥梁。
陕甘总督左宗棠在兰时，就想在兰州修建黄河铁桥，曾与洋商福克洽谈。因对方索价过高，至少要白银60万两，因此没有谈成。
清光绪三十二年五月（1906年6月）德商天津实业泰来洋行经理喀佑斯游历来甘，适逢“实行新政”，各地开办洋务，兴建实业。陕甘总督升允即委派兰州道兼甘肃农工商矿总局总办彭英甲等人与喀佑斯洽谈。喀佑斯表示愿意包修兰州黄河铁桥，双方拟订了一个意向性合同（即第一稿）。
喀佑斯说，自己只是承包商，并非修桥工匠，对工程尚无十分把握，须自调工程师来甘实地测验估计。如果工程师测估确实能修，就订立合同，否则此事作罢。请来考察的工程师盘川工价，甘肃不管，如果能修桥，竣工后，甘肃送喀佑斯2000两银子，作为考察工程师的盘川。同年九月初九，喀佑斯明确表态：经工程师考究，“黄河水性，虽云湍急，若如所议章程架修铁桥，甘愿保固八十年，其桥价仍以十六万五千两为准。”
甘肃布政使丰伸泰等立即就合同事请示总督升允。升允批示：所拟包修铁桥合同甚属周妥，应准照此签押，以便咨送外务部及发各衙门备查。
九月十一日，彭英甲等与喀佑斯正式签订包修兰州黄河铁桥合同。（这是第三稿）。
在合同书上签押的是：
大清国总办甘肃洋务局兰州道彭英甲大清国甘肃布政使司布政使丰伸泰
大清国署甘肃按察使司按察使白遇道大德国泰来洋行喀佑斯
合同书一式八份，除签订单位各存一份外，一份呈陕甘总督升允存档备查；一份送外务部；一份咨明直隶督宪，以令津海关道转送德国领事馆存案，以便铁桥料件到时，津海关查验放行。
修建铁桥之事，本由彭英甲呈报陕甘总督升允，升允拍板签订合同。但这事遭到以庄浪举人朱献珠为代表的保守派的非议。被认为建铁桥是劳民伤财，并例举了很多害处，甚至上书停建。彭英甲则批示：“铁桥业经大帅奏明，奉旨饬办”，“当此推广路政之世界，铁桥之修，所在皆有。”
修桥的事一度久议不决。甘肃布政使丰伸泰提出，建桥属于清政府大兴新政的举措，应再次申报总督，并由总督呈奏朝廷。
光绪三十三年十二月十九日（1908年1月22日），在合同已正式签订15个月，桥料源源运兰，即将择日开工之际，陕甘总督升允向皇太后、皇帝呈上了关于筹建兰州黄河铁桥的奏折。升允陈述了他为地方造福建桥的初衷，与德商洽谈签约的经过和洋商回国运机购料等情况。并说明他已批准兰州道彭英甲签订合同兴建铁桥。合同已送外务部备案。还说明所有建桥费用由统捐溢收项下开销。应恳天恩敕部先行立案。
光绪三十四年正月十八（1908年2月19日），清廷光绪皇帝准奏，朱批：该部知道。钦此。钦遵抄出列部，相应恭录朱批，移咨陕甘总督遵照。
光绪皇帝恩准修桥折子，筹备工作加紧进行。同年四月初十（1908年5月9日）铁桥工程正式开工。
施工技术负责人是美国工程师满宝本；一个叫德罗的德国工程师负责收管材料，统计施工进度等；工地具体操作负责人是天津人刘永起。铁桥设计精细规范，工程图纸分为平面图和侧视图两种。
建桥员工，由德商招雇来兰的洋工华匠共69人，其中有从天津、上海等地招来的技工10余人。又在兰州就地招雇了一批铁匠木匠泥水匠以及小工百余人。洋工程师寓居于由中方租用的秦州试馆内。华人工匠住在铁桥附近的土地祠和白云观内租房。中方为租用的这些房子用方麻纸裱顶棚糊窗户，还专门做了一些木床。
造桥所用的桁架钢材构件、水泥及各种器材设备等，均由泰来洋行从德国购置。按合同规定，铁桥料件必须于光绪三十三年（1907年）五月全部运到兰州。
桥料的运输极其艰难，从德国装上轮船飘洋过海运抵中国天津，经京奉铁路运至丰台再转京汉铁路运至河南郑州。由郑州至兰州，都是马车运输。甘肃洋务局在天津、郑州、西安派驻材料接运员。在兰州设置收料委员会。
第一批来华的大宗水泥1980桶于光绪三十三年（1907年）六月中旬抵达天津。甘肃驻津委员即按照泰来洋行提供的到货明细数目单，在口岸码头点收，并租存在附近。在办妥火车货运手续后，又把桥料运到10华里外的天津火车站。然后凭京奉铁路英国火车货运票据装车西行。
驻天津转运委员亲自带护勇把桥料押送到北京丰台火车站卸货倒车。在待运期间，怕货物受损，买了数百页苇席和一些垫木把桶装水泥苫上。在京汉铁路装车时，凭法国货票。运到郑州车站当面点交给接运委员。
驻郑州接运委员下榻在天宝客栈。先期在钱塘里和马池桥租赁了储料场，买了护灰芦席和垫木，还用黄色洋布制作了280面旗子作标识。
铁路运输问题不大。最难的是从郑州经西安到兰州这一段。当时只有一条窄而不平的大车道。郑州至西安，由河南、河北、山东、陕西的大车伙运。西安至兰州，主要是陕甘大车运输。每一辆马车装载1500斤。1100余里的路程，各由王大帮、周大帮、公大帮等车头领队，数百辆运料车分批列队行进。车上插着黄旗标识，护勇身穿标志服。没想到，途中阴雨绵绵，道路泥泞，尤其是洛阳以西多处崎岖羊肠小道在雨雪中比蜀道还难行。
如此走走停停，迫使车夫将水泥桶卸下一半，寄放旅店，将另一半先轻装缓行运到西安。有的车夫无奈把桥料全部卸下，坐等路面干了再走。一路艰难困苦，发车两个月之久，只有一半车马到陕西。后来又下起雨雪，昼夜不停，把洛阳一带的路面化为泥塘。重车寸步难行，车家叫苦连天。无奈护勇由8人增加到45人。在风雪交加的险途中，护勇平长兴病故，车夫杨麻子受伤身亡。有脚夫把料卸堆半路偷跑的。
笨重大件，更是难坏了转运委员和车头。本来按合同第十一条规定，超过1200斤的重大料件由泰来洋行自行运甘。而铁锅炉、天汽帽、机器柜等大件，一过秤，每件重二三千斤，这些又大又重的料件，一般马车车箱太窄小，根本装不下，必须自制四轮车，用三辆车的骡马去拉运。
甘肃洋务局即致电泰来洋行，让他们按合同自行速运。
泰来洋行却致电彭英甲，说是张钟骏等委员答应为他们代运超重料件。彭英甲问他们有何凭据？各委员也都说没有允许代运之说。其实，为了不误工程，驻郑州委员自行制作了运大件的四轮车6辆，除天汽帽以外，其余大件已经发运。
十二月初七日，彭英甲致电驻郑州转运委员，指示他们已运者照旧运。以后遇有1200斤以上的料，必须按合同办事。
重大桥料，装骡马车走河南路非常艰难。转运委员与泰来洋行面商将一些笨长重件拆卸减轻。对方说，拆卸可以，但不能担铁桥保险八十年的责任。
转运委员在郑州招雇车辆，来了100多辆，只有一半能装这种料件。何况酷热天气，骡马被热死，车家害怕不肯装运。
桥料转运如此困难，而泰来洋行驻甘工程师克尔曼抱怨转运速度太慢。他让德国驻天津领事克华致电催运天汽帽，说是如果延迟，要控告转运委员。
甘肃洋务局立即致电理论，说合同规定，料件不准超过1200斤，天汽帽重二三千斤，泰来洋行元旦派人来郑州，12日拆完，18日起运，有何迟误？何况锅炉已代泰来洋行转运到甘，工程师感谢都来不及。“这一怨一谢，深可笑也。”至于所说控告一节，谁违背合同，谁都可以告谁。
彭英甲态度强硬是有道理有根据的。本来黄河铁桥是喀佑斯承包修建的，在合同上签押的也是喀佑斯。但喀佑斯签了合同以后再没有来过。彭英甲两次致电德国驻津领事，催请喀佑斯速来兰监修铁桥，勿违合同。然而，喀佑斯一直未来。大工程师德克到黑龙江修铁路去了。
这样一来，德商还有什么可说呢？
问题是从西安转运兰州，马车、驼骡的运价比由豫至陕的要价高。每车装料一般都超过2000斤。每批上路的车辆均由驻陕委员刻印和填发运单，写明材料名称、数量。沿途各州、县、营派出兵丁和干役，“按照该管驿站轮接，小心照料护送。”
本来要求每批运料车辆应联络而进，鱼贯偕行，不准或前或后。但进入甘肃境内时，车队“茫无秩序，或小帮牲口，力弱落后。”还发现头两批发运兰州的料车均另搭有客人私货。为此，甘肃洋务总局、布政司、按察司联合发出500里传牌，自皋兰县起至陕西接料回兰止。严谕兰州东路各州县：“遇有料车搭客带货者，即由该局照章充罚，以维催运而利转运。”并要求料车不得首尾紊乱。
面对落后的交通通讯条件，转运委员们苦于水远山遥，鞭长莫及，只能是焦灼万状。
往兰州转运期间，适逢过年，甘肃的大帮车尚未出省，陕西的大车又不能“任载长大料件”。直到正月十五以后，才派专人赴泾原一带寻雇大车。正月下旬，最后一批桥料起行西上。
正月二十日，泰来洋行经理德罗要去陕西接运大天汽帽6件等物，请求洋务总局提供健壮号马两匹，并给予沿途保护。洋务总局与有关部门联办，给德国人德罗配备了坐骑，并发给400里传牌，责令兰州以东官路途经州县营负责给洋人换乘驿马并保护物料安全通过关卡。
就这样，由西安分批转运兰州的桥料，自光绪三十三年九月初一（1907年10月7日）启运，至宣统元年正月底（1909年2月19日）止，历时17个月，花费银子4万多两。且不说从德国到中国的路程。由天津运到兰州，前后历时21个月，其间开支的关税、运费、栈租、搬运以及各委员和护勇的薪水等费用共计白银2万多两。
数以百万斤计的钢材零部件、设备、机具等，分36批，辗转数千里，安全完整地运到了兰州。其中包括钢梁架、板条、小铁轨等估计重50多万斤，水泥2231桶。此举被誉为当时运输业的一个奇迹。
铁桥建设场景十分壮观。镇远浮桥为施工现场操作和运料提供了方便，两座高出水面的三角形工程架就立在浮桥两侧，工程架的顶端系了一条横空穿越南北两岸的钢丝绳，牵引着浮游于河面的工程船往来运作。
开工之时，黄河水深约2.6米，距水面约6米就挖到了基岩，北面是红砂岩，南面是青砂岩。挖去基岩风化层后下铁船（沉箱）。浇铸桥墩时，先将开口式沉箱下到距河面6米深的河底砂质基岩上，中间竖铁管，钢筋，由起重机吊运混凝土进行浇铸。四个桥墩，先做河南一侧的，继为河北一侧的，再做河心的两个桥墩。然后把5孔钢桁架安装在桥墩上。1909年3月下旬，在施工最后冲刺阶段，不料作为施工船而借用的6只浮桥木船在作业中被河冰冲淌。只好由承包商认赔3781两银子，由洋务局责成皋兰县雇工匠加班10个昼夜，赶制出6只新木船用于施工急需。
铁桥结构分为上下两部。上部构造是穿式钢桁架，5孔，每孔跨径45.9米，全长243米。行车道宽6米，两侧各有1米宽的人行道。总宽8.36米。穿式桁架高5.1米，桥架横梁为钢梁，栏杆由角铁及钢管焊接而成。下部是墩台构造。南北两岸桥台是水泥砂浆砌条石，中间四个桥墩是高强快凝水泥砌料石重力式桥墩。
修桥得到多方协作配合。施工急用的400多根木杆和桁条松木来自本省部分府县。炉齿、铁轮、配件等，由甘肃官铁厂铸造。做麻绳用的一万多斤大麻，是从河州、华亭、永登及兰州等地买来的。工地所需卯钉断货，从天津购运，最快也得一个多月。泰来洋行的德罗即向省城军械局告急求援。该局很快从库存物资中如数予以调济解决。甘肃军装局给进山打石条的工匠借给夹帐棚4顶。
建桥员工经过一年零四个月的苦干，克服艰难险阻，黄河铁桥于清宣统元年（1909年）8月19日（一说为8月30日）全面竣工，验收通车。
按合同规定，铁桥自完工之日起计算，保固期八十年（1908—1988年）。
当时由于没有水文资料，无法计算百年一遇大洪峰，不能与铁桥设计过水能力核对，对保固没有把握。合同中对保固期只好作了这样的规定：在保固期内，无论冬夏，倘因“起蛟”，河水暴涨，水势过大，漫溢进城，将桥冲毁时，与泰来洋行无关；除此而外，若有损坏，泰来洋行一定赔修。
按设计，桥面应为木纵梁上面横铺铁板，但竣工时改为碎石和沙土铺压松木板之上。当时陕甘总督代表毛庆蕃向德商提出，不予验收。经交涉，认为碎石伤木，恐难持久，不如去石加漆板，以便随时更换。同年9月，德商除去石子桥面，铺上了木板桥面。
铁桥竣工后，南北两岸铺砌了石条。在桥的两端各建了一座中国古典式牌厦，每座牌厦三开间，猫头滴水，油饰彩画。两面悬挂匾额“第一桥”。还有“九曲安澜”、“三边利济”匾各一块。
