기원전 145년경에 태어나 기원전 90년경에 세상을 떠난 것으로 추정된다. 자(子)는 자장(子長)이며 섬서성 용문(龍門) 출신이다. 사마담(司馬談)의 아들이다. 7세 때 아버지가 천문 역법과 도서를 관장하는 태사령(太史令)이 된 이후 무릉(武陵)에 거주하며 고문을 독서하던 중, 20세경 낭중(郎中)이 되어 무제를 수행하여 강남(江南), 산둥(山東), 허난(河南) 등의 지방을 여행하였다. BC 111년에는 파촉(巴蜀)에 파견되었고, BC 110년에는 무제의 태산 봉선(封禪) 의식에 수행하여 장성 일대와 하북 요서 지방을 여행하였다. 이 여행에서 크게 견문을 넓혔고, 『사기』를 저술하는 데 필요한 귀중한 자료를 수집하였다. 기원전 110년 사마 담이 죽으면서 자신이 시작한 『사기』의 완성을 부탁하였고, 그 유지를 받들어 BC 108년 태사령이 되면서 황실 도서에서 자료 수집을 시작하였다. BC 104년(무제 태초 원년) 천문 역법의 전문가로서 태초력(太初曆)의 제정에 참여한 직후 『사기』저술에 본격적으로 착수하였다. 그러나 저술에 몰두하여 흉노의 포위 속에서 부득이 투항하지 않을 수 없었던 벗 이릉(李陵) 장군을 변호하다 황제의 노여움을 사서, BC 99년 남자로서 가장 치욕스러운 궁형(宮刑)을 받았다. 몇 년 후 마침내 다시 무제의 곁으로 돌아왔다. 이때는 『사기』의 집필이 대체적으로 마무리되는 시점이었다. 아버지의 유언을 받든 지 대략 20년 만이었다.
