中华民族是个充满智慧的民族，先祖认识到我国河流都是东西走向，便产生了修建南北走向运河的想法。自古以来修建运河的帝王很多，隋炀帝的功劳最大。我们可以指责隋炀帝的残暴，却不能抹杀他的功绩。
国之大事，惟祀与戎。任何的朝代，统治者首先考虑的就是政治与军事的需要。而在军事方面，交通运输都是极为重要的。对运河的考虑，同样是放在战略高度的。
战国时期先后开凿了大沟和鸿沟，把江、淮、河、济四水联系起来。起到了巨大的经济效益，中原的魏国因此富冠天下。
秦始皇在嘉兴境内也开凿了一条运河，《越绝书》记载，秦始皇"治陵水道，到钱塘越地，通浙江”。这条运河奠定了以后的江南运河的走向，运河文化也由此衍生出来。
两汉至南北朝时期，修建运河一直没有停过，断断续续的修了一些运河。
南北朝时期，北魏孝文帝这位优秀的战略家、改革家在迁都洛阳后，也考虑过修建运河。起先，孝文帝运河的理解是出于经济方面。北魏首都原来在平城，平城地处中原的边缘，经济发展水平不及其它地方。孝文帝认为平城的经济落后是因为没有“运漕之路”。
《魏书·成淹传》记载，孝文帝尝云：“朕以恒代无运漕之路，故京邑民贫。今移都伊洛，欲漕运四方。”此言，足见孝文帝深知运河对经济的极大作用。
此外，孝文帝对运河的军事作用也有足够的认知。《魏书·李冲传》记载，孝文帝泛舟洪池，向李冲详细的描述自己的计划：“朕欲从此通渠于洛，南伐之日，何容不从此入洛，从河入汴，从河入清，以至于淮？下船而战，犹出河而斗，此乃军国大计。”
如果孝文帝能有足够的时间，说不定就已经修出连接南北的大运河了。
隋炀帝登基后，决定修建一条能贯彻南北的大运河。很明显，隋炀帝事前做了充分的考虑：
1，我国地形东低西高，大型河流都是自西向东流。东西水运便利，南北却没有水运之利。修建南北走向的运河，能方便的沟通东西南北中各地的交通运输。
2，政治中心关中地区富饶，但是所产的物资不能满足需要。关中地区驻扎的军队、官员所需的物资要从外地运输。
2，关中地区的关陇集团，崤山以东的山东集团，南陈的南方集团，三者互相之间并不统一，互相斗争不已。
3，军事上。北方的突厥对中原虎视眈眈，东北的高句丽也有南下之意。西南的少数民族地区，时不时的就要叛乱一下。
大运河沟通了南北的几个大水系，华北平原、关中地区、川蜀、江南，船只都可以通航。物资、人力可以用水运的方式调运到需要的地方，既高效又能降低成本。因此，中央对各地的统治得到了加强。
通过各地之间的交往加强，还能有效的消除关陇集团、南朝集团、山东集团之间的矛盾。又能方便的调集军队，应对高句丽、突厥的入侵，南方的叛乱。
运河修建，其实从隋文帝就开始了。584年，隋文帝派宇文恺修建“广通渠”。为了征伐南陈，于公元587年，从淮安到扬州，开山阳渎，整治取直，不再经过射阳湖。
603年，隋炀帝下令开凿从洛阳经山东临清至涿郡，长约1000千米的“永济渠”。
605年，隋炀帝下令开凿洛阳到江苏清江（淮安市），约1000千米长的“通济渠”。
610年，隋炀帝下令开凿江苏镇江至杭州，长约400千米的“江南运河。”
这样，以洛阳为核心，北抵涿郡，南达余杭，全长2500千米的大运河修好了。
取代隋朝的唐朝，一直指责隋炀帝修建运河的残暴行径。然而正是依赖运河上运来的物资，唐军才能远征中亚。隋炀帝如果没有修建运河，十有八九唐朝就会自己动手修建运河了。