为了有效地发挥运河的功能,使之真正有利于国家和人民,隋朝以后各代统治者都积极设法解决险滩塞航、水位落差、河道淤塞以及水灾淹民等问题。
隋朝灭亡后,唐太祖李渊将都城设在长安。当时中央机构简单,高级文武官员仅600多人,加上唐初实行府兵制,士兵种田,战时打仗,粮食基本可以自给自足,国家负担并不。尽管运输困难,但靠运河缓慢地从江南输运一二十万石即足以维持开支。随着唐中央政权的巩固,机构逐步扩大,人数迅速膨胀。到唐高宗李治统治时期,在长安的高级官唐初翻了一番。而府兵制在这时已被废弃,改为募兵制,兵大幅度增加,政府需要比以往大十几倍甚至几十倍的粮食应付如此庞大的开支。关中地区虽号称沃野,但土地狭窄,物产远远满足不了京师所需。若遇水旱之灾,只能依赖江带的粮食维持生计了。唐代大诗人韩愈曾说:“当今赋出于天下,江南居十九。”而江南地区的货船又受阻于三门底柱一带。为了解决这一难题,唐朝中央政府把洛阳改为临时性的国都,称其为“东都”。每当陕西遭灾或青黄不接之时,皇帝便率大小官吏一同迁到洛阳办公,因为这里距江南较近,通过通济渠入邗沟即可直抵江南。而且这里在三门底柱以东,回避了运河险要河段,可以直接得到从江南通过大运河输运过来的粮食物资。唐高宗李治从此开始了逐粮而居的历史。据史书记载,高宗曾7次移居洛阳。唐高宗死后女皇武则天执政,她索性长期留住洛阳,再也不愿来回折腾了。
唐玄宗夺取政权后,又把国都迂回长安,江南粮米运输问题又重新困扰着唐中央政权。对此,大臣裴耀卿首先提出了分段运输的办法,他建议在汴河进入黄河人河口处建造一个大仓库,把江南的粮米布帛运到这里即卸入库中,待黄河适于航行时再将货物装船运送到长安。这个办法使江南的运输船只避免了因水位高低而等候航行的麻烦,节省了航行时间,同时也回避了经三门底柱险滩所遇到的风险,极大地提高了运输效率。以往通过运河每年运往长安的粮食仅在20万石左右,实行新的运输法后,每年可运到300万石粮食,增加10余倍,运输费用也大幅度降低。从此,十年九旱的陕西地区彻底解决了闹粮荒的历史。这对于稳定民心、巩固唐王朝的统治起到十分重要的作用,同时也使当地的农业经济得到迅速发展。不久,这一带粮食基本自给,政府遂下令停止江南向长安输运粮食,而改为运输布匹等物资作为各地贡赋。裴耀卿所做出的成绩受到唐玄宗的赞赏,他也因此而被擢升为唐朝宰相。
分段转运的办法虽然提高了运输效率,但装船卸船仍显麻烦。不久,陕西刺史李济物又提出由水陆直达长安的运输方案。三门底柱一带多是高山,他建议在山上凿出一条小路,当黄河水涨时,用纤绳拉船而行。这样使货船不致被急流冲没,从而省去了反复装卸货物的麻烦。此后,韦坚又做了陕西刺史,他利用隋朝开凿的业已淤塞的广通渠旧河道,在渭水南开了一条与渭水平行的河道,使运输船只从黄河开进渭水东段后折入这条运河,然后直达长安,从而解决了这段运输的种种麻烦,使长安与运河彻底连通起来。从此,交通闭塞的长安真正成为唐王朝政治经济的中心。江南各地的布帛、绸缎、铜镜、瓷器、笔墨文具,甚至广东的珍珠、象牙、翡翠、沉香都出现在长安的街头店铺。可以说,是大运河造就了盛唐,是大运河促进了唐朝经济的发展,大唐帝国也因此而成为世界瞩目的强国,从而也使唐朝成为我国封建社会中最为辉煌的历史时期。