老人去世以后继承遗产时需要的证件是老人的死亡证明，继承人的身份证、户口本，所涉及到的遗产的产权证明，像是房产证，存折，还有亲属关系证明等有效材料。如果有遗嘱的话，还要提供遗嘱原件，没有遗嘱的，法定继承人之间要协商好了遗产继承方案。
一、老人去世继承遗产需要什么证件? (1)被继承人的死亡证明(如医院的死亡通知书、骨灰证、火化证明等)、身份证、户口簿(注销户口)等。
(2)被继承人遗留的财产证明，如房地产证、存款凭证、股票等。
(3)继承人的身份证、户口簿、结婚证。
(4)亲属关系证明。
二、老人去世后遗产怎么继承? 《中华人民共和国民法典》(2021年1月1日生效)
第一千一百二十三条 继承开始后，按照法定继承办理;有遗嘱的，按照遗嘱继承或者遗赠办理;有遗赠扶养协议的，按照协议办理。
第一千一百二十七条 遗产按照下列顺序继承:
(一)第一顺序:配偶、子女、父母;
(二)第二顺序:兄弟姐妹、祖父母、外祖父母。
继承开始后，由第一顺序继承人继承，第二顺序继承人不继承;没有第一顺序继承人继承的，由第二顺序继承人继承。
本编所称子女，包括婚生子女、非婚生子女、养子女和有扶养关系的继子女。
本编所称父母，包括生父母、养父母和有扶养关系的继父母。
本编所称兄弟姐妹，包括同父母的兄弟姐妹、同父异母或者同母异父的兄弟姐妹、养兄弟姐妹、有扶养关系的继兄弟姐妹。
第一千一百二十八条 被继承人的子女先于被继承人死亡的，由被继承人的子女的直系晚辈血亲代位继承。
被继承人的兄弟姐妹先于被继承人死亡的，由被继承人的兄弟姐妹的子女代位继承。
代位继承人一般只能继承被代位继承人有权继承的遗产份额。
第一千一百二十九条 丧偶儿媳对公婆，丧偶女婿对岳父母，尽了主要赡养义务的，作为第一顺序继承人。
实际上，继承遗产过程中要准备的证件得根据实际情况分析，比如到银行提取老人的存款，就不需要准备房产证，只需要准备好老人的死亡证明和存折就行了，而且根据继承人的身份要准备的材料也不一样，配偶继承遗产的就得准备好结婚证。