这个问题不太好回答，因为这些官职在各个朝代所扮演的角色不同，权利的大小也都不一样。我只能给你一个大概的解释。
【司马】西周开始设置，春秋、战国时沿用，掌管军政和军赋。汉武帝时废除太尉设置大司马，后世用作兵部尚书的别称，侍郎则称少司马。汉代大将军营五部，部各设置军司马一人。魏晋至宋代，司马均为军府之官，在将军之下，综理一府事务，参与军事计划。隋、唐两代州、郡、府佐吏有司马一人，位在别驾、长史之下。明、清两代称府同知为司马。《琵琶行(并序)》：“元和十年，予左迁九江郡司马。”九江郡，隋代设置，唐代叫江州或浔阳郡，治所在现在江西省九江市。“司马”是州刺史的别称，当时实际上是闲职。
【司空】西周始置。金文都作司工。现存《周礼》已失去“冬官司空”部分，仅存《考工记》一篇，故司空之职守未详。《后汉书·百官志》在“司空”条下，原注说：“掌水土事。凡营城起邑、浚沟洫、修坟防之事，则议其利，建其功。凡四方水土功课，岁尽则奏其殿最而行赏罚。凡郊祀之事，掌扫除乐器……凡国有大造大疑、谏争，与太尉同。”这虽是东汉的制度，但也可大体了解司空之职掌。春秋战国时各国亦多置之，用以掌管工程。宋国因武公名司空，曾改名为“司城”，西汉成帝绥和元年（前8年）改御史大夫为大司空，性质已与前司空不同。哀帝恢复御史大夫之名，不久又复为大司空。东汉光武帝置大司空，旋去“大”字称司空。献帝建安十三年（公元208年）罢司空，改设御史大夫，其职掌一如司空。晋有司空，为“八公”之一，地位特高，但往往作为权臣之加官。南北朝沿设。隋唐虽设司空，为三公之一，但仅是一种崇高的虚衔。宋代亦以司空为大官之加衔。辽、金相沿，元以后废。又习惯常以大司空之衔尊称工部尚书。
【司徒】
1、出自姬姓，是舜帝的后代。尧帝为炎黄部落首领时，舜为尧的司徒官，执掌和管理土地事务，故又名土司。舜的后代子孙有的以其职官命姓，称司徒氏。
2、春秋时，卫国大夫夏丁氏夏戊的儿子期任司徒，其后也称司徒氏。司徒是上古官名，相传尧、舜时已经设置，主管教化民众和行政事务。夏、商、周时期，朝廷都设有司徒官，为六卿之一，称为地官大司徒，职位相当于宰相。春秋时列国也多设有这个职位，有以官职命氏的，就成为司徒氏。
【太尉】
中国秦汉时中央掌武事的最高官员，后逐渐成为虚衔或加官。太尉之名最早见于《吕氏春秋》。西汉武帝建元二年（前139）后不再设置 。西汉早期，设太尉官多半和军事有关，故带有虚位性质，不同于丞相、御史大夫等官职。武帝时以贵戚为太尉，一变过去由力战武功之臣充任太尉的惯例，而又和丞相同等，这也和西汉早期有所差别。光武帝建武二十七年（公元51），将大司马改为太尉。东汉太尉实为丞相，与西汉早期掌武事的太尉名同而实异。魏晋以后，太尉作为三公之一 ，位居极品而实权甚少 。开始依然开府 ，置僚佐，自隋撤销府与僚佐，便渐次演化成优宠宰相、亲王、使相的加官、赠官。元不常置。明废。
参考资料：http://zhidao.baidu.com/question/28057599.html