东晋安帝义熙十年(公元414年)，范晔十七岁，州刺史征辟他为主簿。当时，范晔同其父范泰一样，在政治上是支持刘裕的，故不肯应辟就职。六年后即公元420年，刘裕代晋称帝，改国号为宋。这一年，二十三岁的范晔应召到刘裕之子彭城王刘义恭的府下为冠军参军，后又随府转为右军参军。此后十余年，他先后担任过尚书外兵郎、荆州别驾从事史、秘书监、新蔡太守，司徒从事中郎、尚书吏部郎多种职务。

宋文帝元嘉九年(公元432年)冬，扬州刺史彭城王刘义康母亲王太妃去世。刘义康把故僚们召集到府内帮助料理丧事，范晔也到场了。刘义康的母亲死了，范晔实在悲伤不起来。在临葬前的一天夜晚，轮到他的弟弟范广渊值班，范晔兄弟俩邀了一位朋友躲在屋里喝起酒来。

醉意朦胧之际，范晔忘记了利害，竟推开窗子，听挽歌助酒。这件事传出后，刘义康非常恼怒。几句谗言上去，宋文帝就把范晔打发到宣城(今安徽宣城)当太守去了。

这次贬官对范晔是一次很大的刺激。仕途上的坎坷勾起了他幼年生活的某些隐痛。范晔虽然生在名门士族，但他本人却是个妾生的庶子。晋代自“永嘉以来，嫡待庶如奴，妻遇妾若婢”，(王楙《野客丛书》卷十五)，嫡庶之别是官僚之家不可逾越的大分，因而也决定了子女们的社会身份。

范晔的母亲把他生在厕所里，并且碰伤了他的前额，因而落下个小字为“砖”。嫡母所生的哥哥范晏嫉妒他的才学，骂他“进利”，认为他是终家破族的祸害。父亲范泰也不喜欢范晔，早早地将他过继给从伯范弘之。屈伸荣辱与宦海浮沉，使得范晔心情十分苦闷。

在宣城任上，他开始从事后汉史的编纂工作，企图以此排解这种痛苦。史事的研究，打开了他的眼界。范晔后来讲：“本未关史书，政恒觉其不可解耳。既造后汉，转得统绪。”这就是说，原来现实中的许多不能解答的问题，在同历史的经验相对照后，他逐渐整理出了一些头绪。范晔凭着个人对历史问题的理解，写出了他的历史名作《后汉书》。这一年，他三十五岁。