为了有效地解决运河淤浅航运不畅的难题，宋朝时在运河上修建了许多水闸，以求达到蓄水行船的目的。宋天禧二年(1018年)，在扬州河段置闸节水济运。天圣四年(1026年)，在江淮运河的南口真州和北口楚州分别设闸，适时启闭，解决了局部地区因水涸停航的问题。当时发明了一种解决河段间水位差这一难题的水闸，称为“复闸”。这种水闸的使用方法是待船行至关闭的闸前，然后关闭后闸，在两闸间或充水，或放水，以提高或降低水位，使闸中水位与前方河道一致，然后开前闸，使船通过。这种水闸的发明是水利设施中的一项重要贡献，至今仍广泛使用。同时还在一些河段重新修筑了堤坝，以约束河水使之达到行船的要求。宋真宗景德年间，李溥利用回空粮船从泗州载运大量石头在高邮以北筑起长堤。天禧年间张伦又用此法筑堤200余里。到南宋绍熙年间江淮运河两岸已全部筑起了河堤，有效地克服了江淮一带地势低洼、运河之水大量流失的问题。

　　由于大运河给宋朝统治者带来了巨大的经济利益，因此两宋时期各朝统治者都把大运河视为国家的生命线，十分注重运河的维修改建。就连迁往临安(今杭州)的南宋政权为了满足其政治、经济的需要，在它日益缩小的势力范围内，在利用江南运河的同时也进行了一些疏浚改建工程。

　　南宋时期由于政治腐败，加之金兵南下，战乱不断，北方许多河段逐渐废弃，尤其是宋都南迁至临安，建立南宋政权后，国家南北分裂的局面再次出现。作为沟通南北经济命脉的大运河，在分裂动荡的年代里已失去了它存在的价值。而最先遭受废弃之灾的就是淮北运河。当时有位由临安北上出使金国的使者，亲眼．目睹了淮北运河水道荒废的情景，并把所见写到日记之中。从中我们可以看到，当时淮河以南运河有水尚可行船，而淮河以北水道日渐干涸，继续北行，道路断绝，河身也完全湮塞了，有的地方河身和两岸一样高，河道里种着麦子，甚至还盖了房子，车马更是通行无阻。曾经名扬中外，“富丽甲天下”的宋都汴京，经历了长达一个半世纪的繁盛之后，随着战火的袭扰，大运河的废弃，也变得满目疮痍、面目皆非了。

　　到南宋末年，大运河已经历了600余年的沧桑岁月，这之中虽屡遭破坏又几经修复，而运河本身并没有发生重大变化。我们现今在地图上所看到的大运河是从北京直接南下通到杭州的，这与前面所说的运河有很大差别，这个差别的形成，也就是说现在所看到的京杭大运河河道是元朝统一中国后，对运河进行大规模整修改道后最终的结果。