中平六年(189年)，灵帝死，少帝刘辩继位，不久董卓废少帝而立献帝，迁都于长安。这时，公卿们又举郑玄为赵王乾之相，但因战乱道路不通，仍没有受召。郑玄屡拒征辟，其间除避乱于徐州外，大抵是在家乡隐居，聚徒讲学，专心经术，著书立说。

他的弟子遍于天下，多有人自远方而投至门下，如河内赵商、崔琰、公孙方、王基、国渊、郗虑等即为其间著名者。他的学生常常超过千人，为一时之盛.

献帝建安二年(197年)，袁绍为大将军，兼督冀、青、幽、并四州，为北中国最大的割据势力。一次他大宴宾客，郑玄应邀出席，在席上对一些所谓“豪俊”的提问进行了一一的答对，语惊四座，使宾客无不折服。袁绍乃举郑玄为茂才，并表请郑玄为左中郎将，但郑玄却毫不为之所动，一一予以婉拒。

献帝建安三年(198年)，献帝征郑玄为大司农，这是位列九卿的高官，给安车一乘，所过郡县长吏送迎。郑玄在家拜受后，便乘安车至许昌，但马上又借口有病，请求告老还乡。他虽然并未到任就职，但已经拜受此命，故世人称他为郑司农。

总的看，郑玄解禁后被州辟、举贤良方正、茂才等共有14次，皆拒不受。公车征左中郎、博士、赵相、侍中、大司农，也都没有就职。有汉末黑暗的社会情况下，郑玄有意保持其名士的清节，不肯与他所鄙视的那些外戚、宦官及唯名利是图的假名士们为伍，而一心在学术上发挥自己的才智。以布衣而雄视世人，不愧为真名士。