传说是在古时候，木匠祖师爷鲁班领着妹妹鲁姜路过河北赵州城的南洨河渡口，一条白茫茫的洨河拦住了去路，河宽水深，风高浪急。
河边上推车的，担担的，卖葱的，卖蒜的，骑马赶考的，拉驴赶庙会的，闹闹嚷嚷，争着过河进城。河里只有两艘小船摆来摆去，半天也过不了几个人。
鲁班看到后，就问他们：“你们怎么不在河上修座桥呢？不用每天在河里穿梭了！”
人们都说：“这河又宽、水又深、浪又急，谁敢修呀！打着灯笼，也找不着这样的能工巧匠！”鲁班听了心里一动，和妹妹鲁姜商量好，要为来往的行人修两座桥。于是，鲁班就对妹妹说：“咱先修大石桥后修小石桥吧！”鲁姜说：“行！”鲁班说：“修桥是苦差事，你可别怕吃苦啊！”鲁姜说：“不怕！”鲁班说：“不怕就好。你心又笨手又拙，再怕吃苦就麻烦了。”这一句话把鲁姜惹得不高兴了。她说：“你别嫌我心笨手拙，今个儿，咱俩分开修，你修大的，我修小的，和你比赛一下，看谁修得快，修得好。”鲁班说：“好，比吧！啥时动工，啥时修完？”鲁姜说：“天黑出星星动工，鸡叫天明收工。”
一言为定，兄妹于是分头开始准备。
鲁班不慌不忙溜溜达达往西向山里走去了。鲁姜到了城西，急急忙忙就动手。她一边修一边想：等着瞧吧！我非赢不可！果然，三更没过，她就把小石桥修好了。
随后，鲁姜悄悄地跑到城南，看看她哥哥修成什么样子了。她来到城南一看，河上连个桥影儿也没有。鲁班也不在河边。她心想哥哥这回输定了。
当鲁姜扭头一看，西边太行山上，一个人赶着一群绵羊，蹦蹦窜窜地往山下来了。等她走近了一看，原来赶羊的才是她哥哥。
哥哥哪是赶的羊群呀！分明赶来的是一块块像雪花一样白、像玉石一样光润的石头，这些石头来到河边，一眨眼的工夫就变成了加工好的各种石料。
有正方形的桥基石，长方形的桥面石，月牙形的拱圈石，还有漂亮的栏板，美丽的望柱，凡桥上用的，应有尽有。
鲁姜一看心里一惊，这么好的石头造起桥来该有多结实呀！相比之下，自己造的那个不行，需要赶紧想法补救。重修来不及了，就在雕刻上下功夫胜过哥哥吧！
鲁姜悄悄地回到城西动起手来，在栏杆上刻了盘古开天、大禹治水，又刻了牛郎织女、丹凤朝阳。什么珍禽异兽、奇花异草，都刻得像真的一样。刻得鸟儿展翅能飞，刻得花儿香味扑鼻。
鲁姜瞅着那精美雕刻简直满意极了，她又跑到城南去偷看哥哥。
乍一看呀！她简直惊呆了。天上的长虹，怎么落到了河上呢？她定睛再仔细一看，原来哥哥把桥造好了，只差安好桥头上最后一根望柱了。
鲁姜怕哥哥赢了自己，就跟哥哥开了个玩笑。她闪身蹲在柳树后面，捏住嗓子伸着脖子“咕咕哏”地学了一声鸡叫。
她这一叫，引得附近老百姓家里的鸡也都叫了起来。鲁班刚刚装饰好桥的中部，忽然听到鸡叫，真的以为是天亮了。他为人最讲信用，并谨遵约定，他赶忙把最后一根望柱往桥上一安，桥也算修成了。
这场兄妹建桥比赛，两人各有千秋，大石桥以工程巨大而领先，小石桥以栏板雕饰而更胜一筹。哥哥鲁班虽然输了，但他为妹妹的精湛技艺而心里感到十分高兴。
这两座桥，一大一小，都很精美。
鲁班的大石桥，气势雄伟，坚固耐用。鲁姜修的小石桥，精巧玲瑰，秀丽喜人。赵州一夜修起了两座桥，第二天就轰动了附近的州衙府县。
人人看了，人人赞美。能工巧匠来这里学手艺，巧手姑娘来这里描花样。每天来参观的人，像流水一样。
这件奇事很快就传到了蓬莱仙岛仙人张果老的耳朵里，他就骑着毛驴，兴冲冲地赶来看热闹。他在路上遇到了推车的柴王爷和拉车的赵匡胤，于是三人一同来到郊河畔观桥。看过赵州桥后，三人无不暗暗惊叹鲁班的精湛技艺。
为了考验鲁班，张果老与鲁班打赌，如果他们三位能顺利过桥，而桥不倒，从此便倒骑毛驴。鲁班心想：这座桥，骡马大车都能过，三个人算什么，于是就请他们上桥。
三人走上桥时，张果老转身施法术，聚来日月星辰，装入身上的褡裢里，柴王爷和赵匡胤也运用法术聚来了五岳名山，悄悄放在了独轮车上。
由于载重猛增，三人还没有走到桥中间，大桥就经受不住了，开始摇晃起来。
鲁班一见不好，急忙跳进水中，用手撑住大桥的东侧，大桥才转危为安，张果老三人顺利地走过了大桥。张果老当面认输，只有从此开始倒骑着毛驴子。
因为鲁班撑大桥时使劲太大，在大桥东拱圈下便留下了他的手印。桥上也因此留下了驴蹄印、车道沟、柴王爷跌倒时留下的一个膝印和张果老斗笠掉在桥上时打出的圆坑。
大桥是鲁班建造的传说以及张果老倒骑毛驴的故事，被民间口口相传，流传十分广泛。其中最有名的，就是那首脍炙人口的民歌《小放牛》这样唱道：赵州桥是什么人修？玉石栏杆什么人留？什么人骑驴桥上过？什么人推车轧了一道沟……赵州桥是鲁班爷修，玉石栏杆圣人留，张果老骑驴桥上过，柴王爷推车轧了一道沟……。