可是半路上百里奚逃脱了，跑到了楚国的宛(今河南南阳)，被楚人抓起来当奴隶。穆公听说这个消息后，就派人用五张黑公羊的皮把百里奚换了回来。百里奚至秦，为穆公诚意所感动，接连和穆公谈了三天，君臣意气相投，穆公逐决定用百里奚治国，被称作五羖大夫。

士为知己者死，这话一点都不错，百里奚心里那个感激啊，不知如何报答，于是又推荐了蹇叔、白乙丙等一些文武人才，都被穆公召至秦，安排了适当的职务。有了这些人的辅佐，穆公的力量渐强。穆公还很注意自己仁君的形象。穆公十二年，晋国遇到了大旱灾，来向秦国借粮食。

前几年晋国内乱时，晋国公子夷吾出逃，后来借了秦的力量才回晋掌权，但是掌权以后却不肯兑现给秦国八座城市的约定，因此与秦交恶。这时有的大臣就进言不让借粮与晋，主张应该趁机征伐。但百里奚说，夷吾背信于秦，可老百姓是无辜的啊。于是，穆公用百里奚之言，输粟于晋。

还有一次，穆公非常喜爱的一匹马跑丢了，被岐山之下的老百姓得到杀吃了，参与吃马肉的有三百多人。案子破了以后，秦吏要处罚这些吃过马肉的人，可是穆公说，不能因为牲畜的事情伤害人啊，我听说吃了好马的肉一定要喝酒，否则会对身体不好。于是赦免了这些人并且每人都赏了好酒喝。这些人一个个感激涕零，千恩万谢地去了。相比之下，晋君就不够厚道了。时隔两年，秦国遇到了大灾荒，向晋国借粮，晋君夷吾却恩将仇报，趁火打劫，兴兵攻秦。