自岔道而上，又有一牌坊，系元明建筑物，上书“高山仰止”四字，喻司马迁德高如山，世人至为敬仰，从此迤逦而上，牌坊上书“河山之阳”四字，语出《太史公自序》迁生龙门，耕牧河山之阳。

走完99级台阶登道就进入了祠院，祠院大门上书“太史祠”寝宫，古柏参天，环境幽静，置身其中，如登青云，如临仙境。献殿是祭祀时陈列祭器，致敬尽礼的地方。寝宫在献殿之后，建于北宋宣(1125年)。

宫正中有一尊司马迁全身坐像，长须飘拂，两眉入鬓，神态逼真，栩栩如生，现出严肃和抱负不凡之气概。祠内碑石林立，为宋、金、元、明、清各代名人凭吊吟咏之作，诗文雅健，书法挺秀。祠后为司马迁墓，如筑于西晋嘉4年(310)经金、元、清四次修葺，至今完好。

墓系砖砌，呈圆形，高2.15米，周长13.19米。墓壁周围嵌有砖雕八卦图案和花卉图案16幅，墓顶古柏一株，树分五枝，枝干苍劲，盘若蛟龙。墓前竖立着一块石碑，上刻“汉太史司马公墓”，为清乾隆陕西巡抚毕沅题书。