苏轼到任不过两个半月，忽传七月十七日黄河决口于澶州之曹村。澶州地在河南濮阳市西，距离黄河只有三十五里，决口之水，一泻千里，流入山东巨野，首灌东平。
黄河决口，大水奔腾而至，一倏时可以吞没整个城市。这个巨大的灾变，其恐怖的程度，与无法抗御的强势，宛如末日到临人世。水至东平，当地的吏民群情惶急，不知怎么办好。幸有一个叫应言的僧人，建议凿开清冷口，引导大水流入已废的旧河道，使由东北入海。
官吏们还不立刻相信他的建议，应言竭力申述有效，他所说黄河决水的情形，也非常明白，姑且照他的建议做了。这浩瀚东来的大水，果然有了去处，东平赖以无事。
河决澶州，历时月余，汴河还一直保持着秋季干旱的常态，所以大家都没想到水会涨到徐州来。不料八月间梁山忽然泛滥起来，二十一日南清河水暴涨，时又大雨，水急涨到徐州城下，“水穿城下作雷鸣，泥满城头飞雨滑”，情势非常可怕。
徐州城南，两山环绕，又有吕梁和百步洪抵挡于下，所以水就汇集在东、西、北三面，触山而上，满眼是一片汪洋，大水无处宣泄，便一直往上高涨，俯视城下，忽尔就比城中平地，涨出一丈九寸的大水，水漫城壁，若是城墙一倒，则整个徐州城就淹在水底了。
情势这样危急，城中富民争出避难，苏轼当机立断曰：“富有者都出城，民心立刻动摇，我跟谁来守这个城？有我在，决不任水败城！”下令劝阻逃离的富户，回到城里来。苏轼穿上雨靴，带了手杖，亲入武卫营，对该营的首领说：“河将坏城，事情已很急迫，你们虽是禁军，也应该帮我们出一份力量。”
那首领慨然道：“太守也不避水，这正是我们效命之秋。”
苏轼立刻到队伍里去，派出奉化、牢城的兵卒，短衣赤脚，各持畚锸之类的工具，会合民夫，一同抢救。
徐州父老说：“天禧年间，徐州曾筑两条防水的堤岸：一条从小市门外沿城壕而南，接到戏马台的山麓；一条自新墙门外，沿濠西折，接到城下南京门之北，防水有效。”苏轼认为父老们的经验可贵，事实上也只有抢建防水堤，是目前唯一可行的办法。
苏轼便紧急征召民夫五千余人，会同武卫军的兵丁，日夜不停地赶工，从戏马台起，至城而止，筑造一道长堤，全长九百八十四丈，高一丈，阔两丈。几百艘的公私船只，因有风浪，本不能行，下令集中系缆城下，以减轻冲击城壁的水力。
至九月二十一日，测量水高已达两丈八尺九寸，幸而堤工已成，水自东南隅来，都被这道长堤挡住了，害不及城，民心始定。但是大雨还是日夜不停地下，河水之势更强，城墙不浸水者，只剩三版。
苏轼自堤工开始，日夜在城上巡视，随时派遣官吏，分头堵守，夜晚他就宿在城上，并不回家。
这次大水，经历七十余日，至十月初五，水才渐见消退。十三日澶州发生一场大风，吹啸整日，风止，黄河一支流却已复入故道，水患就此得止。苏轼高兴极了，写了《河复》一诗，叙曰：“乃作河复诗，歌之道路，以致民愿，而迎神庥，盖守土者之志也。”
有人建议，可在荆山下筑沟容水，苏轼便与同僚二人前往实地勘察，发觉这个地方全是乱石，无法施工而罢。苏轼认为在城外加造外小城，创建石堤，确有御水之功。议定，就上奏朝廷，请准兴建，并乞于十二月内下旨。
但至明年（元丰元年）正月，尚无消息，苏轼猜想也许因为经费太大之故，所以再紧缩预算，请求改筑“木岸”，同时致函时任国史院编修官的刘攽，托他就近协力通过这项计划，书曰：
某曾擘划作石岸，于十月内申诏使，仍乞于十二月已前画旨。今已涉春，杳未闻耗。又闻有旨下淮南、京东，起夫往澶州，其势必无邻郡人夫可以见及，以此知石岸文字，必不遂矣。
今相度作木岸，工费仅减一半，用夫六千七百余人，粮四千三百余石，钱一万四千余贯，虽非经久必安之策，亦足支持岁月。若此策又不行，则吾州之忧，未可量矣。今寄奏检一本，奉呈告贡父力言之，此事决不可缓，若下所属相度，往返取旨，则无及矣。某岂晓土功水利者乎？职事所迫，念此一城生聚，必不忍弃为鱼鳖也。
元丰元年（1078）二月初四，皇帝降敕奖谕，敕曰：
敕苏轼：
省京东路安抚使司、转运司奏：昨黄河水至徐州城下，汝亲率官吏，驱督兵夫，救护城壁，一城生齿并仓库庐舍，得免漂没之害，遂得完固事。
河之为中国患久矣，乃者堤溃东注，衍及徐方，而民人保居，城郭增固，徒得汝以安也。使者屡以言，朕甚嘉之。
同时诏赐钱二千四百一十万，犒奖夫役四千零二十三人。
又发常平钱六百三十四万，米一千八百余斛，准予募夫三千零二十人，改筑外小城，创建木岸四条，大坑十五处，尽加堵塞。
工程中，发现子城的东门，当水之冲，而府库即在是处，地甚狭窄，不能作城。苏轼就将城门扩大，护以砖石，城门上建一大楼。
徐州府廨内，旧有一座厅堂，俗传是项籍所造，称“霸王厅”，没有人敢去里面坐，据说谁敢冒犯使用，必有祸害，所以久成废置。苏轼恶其淫名非实，下令将这霸王厅一举拆毁，拆下来的材料，用在东门上建造大楼。这件事，不禁使人想起他的祖父率领健仆，拆毁茅将军庙的故事，到底是苏序的孙儿，有他一样豪迈而正直的勇气。
东门上新建大楼，垩以黄土，名之曰“黄楼”，取五行中土能克水之意。
苏轼将这次抢救水灾的经过，记其大略为《奖谕敕记》，连同皇上诏书，刻石志于黄楼，其详细情形，别卷藏于有司，谓之《熙宁防河录》，备为后人参考。
