因为政变之后即位的唐中宗并非明君,身为皇后的韦氏在他的默许下频繁干政并在朝中结党营私。而备受韦氏重用的武三思则十分不喜张柬之,张柬之因此备受排挤以至于最后无法善终。张柬之年少时期便颇具才名,还曾有人评价他具有帝王辅臣之能。但是事实上张柬之年轻时一直未能得到重用,直到年过半百之后才开始渐渐在朝中崭露头角。
虽然张柬之一直没能得到君王的青睐,但是朝中不少同僚对他的能力却是十分认可的。也正是因为因此,张柬之才能顺利位及宰相。武则天称帝登基之后一直非常注重人才的挖掘,故而她常常会让人为她举荐能人。其中有一次武则天因现任宰相李峤以及苏味道等文臣太过拘泥于小节,难以助她实现大业而向狄仁杰提问说:“安得一奇士用之?”
狄仁杰非常清楚武则天的心思,于是回答说:“张柬之此人虽已年事不小却颇具宰相之才。如若启用他,此人势必会为国家鞠躬尽瘁。”听完狄仁杰的这番话之后武则天没过多久便下令将身任荆州长史的张柬之给升任为洛州司马。后来姚崇也曾向武则天推荐过张柬之,经由此次推荐之后张柬之成为了宰相。之后张柬之便一直尽心辅佐武则天,但是随着在位时间的延长武则天逐渐变得豪奢专断,为此张柬之生出了还政于李唐的想法。
之后他趁着武则天重病协同其他朝臣发动政变,最后成功还政于李唐。但是唐中宗在登基之后却没什么作为,还默许韦后干政。韦后凭借君宠大力扶植韦氏一族,朝中还有不少朝臣也纷纷依附于她。其中武三思深得韦氏器重,而武三思素来不喜张柬之,所以处处针对张柬之。在武三思的针对下张柬之先是遭遇罢官,而后又被流放,最后在流放地含愤而终。