在1874年，日本派兵侵略我国的台湾，
清政府以赔款妥协作为结果。日本这个举动使清政府非常震惊，筹办海防的议论就随之兴起。前江苏巡抚丁日昌就提出建议，设立北洋、东洋和南洋三支海军，各个海军设一个提督。总理衙门虽然基本上同意了丁日昌的建议，但是以财力不充分为由，决定先建北洋水师一个军队。经过筹划，在1875年五月任命沈葆桢和
李鸿章分别都办南洋和北洋的海防事宜。清政府一开始就以创办
北洋海军为重点，筹建海军主要是由李鸿章负责的。海军舰船除了由福州船政局和江南制造总局制造以，主要是购买是英国和德国两个国家。到了1894年，分别建成了福建水师、南洋水师和北洋水师，已经具备了比较大的规模：
一、福建水师
福建水师由闽浙总督管辖，绝大部分船只都是由福州船政局在70年代制造的，只有少数的几艘船购买自英国和美国。这些船只的排水量一般在1000吨到1500吨之间。再加上平时军队很少训练，所以战斗力非常差。在1884年的中法战争中，福建水师几乎全军覆没。虽然在战争结束以后有所增加，但是难以成军。
二、南洋水师
南洋水师归两江总督兼南洋海防大臣管辖，最初由沈葆桢一手统辖。1875年，沈葆桢同意将每年四百万两专款全部交给北洋水师使用，到1878年才请求将其中的二百万两归还给南洋水师，添置船舰。1879年，沈葆桢去世，
左宗棠、曾国荃、刘坤一等人先后担任两江总督，南洋水师一直由湘军大员所控制。南洋水师的船只大部分都是由
洋务运动的制造局制造，也有少数购买自德国，其中有五艘巡洋舰的排水量超过2000吨。南洋水师的实力虽然比不上北洋水师，但是要比福建水师高得多。
三、北洋水师
北洋水师是清政府的海军主力。从创立开始一直到1895年全军覆没，一直由李鸿章管辖，是李鸿章经营最久、运费最多，也是最为得意的一项重要的洋务事业。它的兴衰不仅和淮军集团的势力消长密不可分，而且也同整个洋务事业的成败相始终。李鸿章在70年代主要向英国购买船只，从80年代起就逐渐转向了德国，其中主要的主力舰一般都是购自德国的。新式海军是1875年根据奕欣的建议创办的，目的是为了加强海防。在中法战争失败以后，清政府总结了海军失败的教训，提出了“大治水师为主”的方针。并在1885年十月在北京设立了海军衙门。在1885年以后的三年时间里，北洋海军得到了比较大的发展，到1888年经过几次的增加船只，北洋海军正式成军，一共有大小船只20多艘。到了这个时候，北洋海军已经成为一支实力比较强的近代海军。但是从1888年以后，并没有再添置任何的军舰。1891年以后，因为海防经费被挪用修建颐和园，连枪支弹药也停止购买。北洋海军本来主要是为了抵御日本侵略而建的，但是由于清政府的腐败，结果这只苦心经营的近代海军在
甲午中日战争被日本的侵略者所彻底粉碎。