因为在当时的情况来看，如果汉武帝听了司马迁的进言而赦免了李陵的话，这样就等于是默许了叛国的行为，因为汉武帝本来就已经很生气，然后司马迁在汉武帝盛火的时候去帮李陵求情就等于火上浇油，让汉武帝迁怒在自己身上。
因为当时李陵是被汉武帝寄予的厚望，虽然说以少打多是一个不怎么现实的事情。但是汉武帝是对他寄予的厚望，而且他也不能够保证李林在投降之后会不会为了保住自己的性命而臣服在匈奴的统治下面。所以为了其他人也跟司马迁一样，替李陵求情，所以他直接对司马迁实施了宫刑。
虽然当时司马迁说的是很有道理，他知道了李陵投降朝廷里面的人都很生气，都在怪罪李宁苟且偷生，但是他却觉得李陵他对家里人是很好的。因为他投降了，所以朝廷的文武百官都在怪罪李林他觉得很心寒，那么换个角度来讲，他就是觉得投降不是一件什么大事情，而且当时李陵所带领的兵力不是很多，他也能理解这一种做法。
更加觉得李陵为了活命应该是想要找机会来报答皇帝。这一番发言听起来合情合理，但是事实上我们可以知道他在为李陵开脱，也就是他是赞成李陵投降的。那么给皇上听见了，就会觉得如果他以后遇到什么危险，他也可以去投降，那么也就可以背叛了汉朝。防止这一种观念的形成。汉武帝是对司马迁行宫刑是为了杀鸡儆猴，警戒其他臣子不能够这样做。
汉武帝之所以对司马迁施加腐刑，是因为司马迁他替一个卖国贼李陵求情。在当时的战争期间，汉武帝他是对李陵寄予厚望的，可是后来李陵却向敌军低下了头，而在这时司马迁却在大庭广众之下替一个卖国贼求情，还说的头头是道，当时汉武帝就十分的气愤。
假设他当时真的赦免了李陵和司马迁，那他的赦免就等于默许了这种叛国的行为，这在当时的环境下是不会允许的。以现在的角度来说，可能就是“言者无罪”，但这件事并不发生在现在，而是发生在汉武帝时期，所以我们得用历史的眼光去看待司马迁被实施腐刑这一件事。其实在那个时期，汉武帝本来是要求李陵他护送粮草就行了，但是李陵他想要上场打仗，就向汉武帝要了5000兵。
在战争的一开始，李陵他们还是大获全胜的，他们用5000兵击退了敌人上万的军队，但在战争中他的部下被俘虏了，然后敌方知道了李陵他们仅有5000人，所以之后就调动了8万大军，对李陵军队进行猛攻，抵挡不住敌军的重攻，李陵他们部队一天内就用完了所有的武器。最后的情况就是士兵他们都很疲惫了，而且周围没有任何援军。在这种急迫的情况下，李陵他命令部下自求生路而自己选择的投降。
当时在朝廷上所有的人都开始责怪李陵苟且偷生的时候，司马迁站出来为李陵说话，说大家实在不应该在这个时候说李陵的坏话，而且李陵他5000对抗8万骑军，这本就是一场不可能打胜的仗，他还为李陵开脱说李陵他之所以去投降敌方是为了不死，然后日后找机会来报答殿下，汉武帝就很气他接受不了司马迁这个说辞，所以给了他施加腐刑。