过了不久，他母亲去世，他竟然没有回家。曾参为此很鄙视他的为人，和他断绝了关系。吴起这才跑到各国，学习兵法奉事鲁君。鲁君对他有怀疑，他就杀了自己的妻子以争取做将军。鲁国是个小国，一旦有了战胜的名声，就会引起各国都来图谋鲁国了。而且鲁国和卫是兄弟国家，鲁君用吴起，就是抛弃了卫国。”鲁君因而疑虑，就辞退了吴起。

堪比司马

吴起离开鲁国后，听说魏文侯很贤明，想去本事他。文侯问大臣李克说：“吴起为人如何?”李克说：“吴起贪荣名而好色，但是，他用兵司马田穰苴也不能超过他。”这样魏文侯就任命他为将军，率军攻打秦国，攻克五座城邑。

魏文侯因吴起善于用兵，廉洁而公平，能得到士卒的拥护，就任命他为西河(今陕西合阳一代)的守将，抗拒秦国和韩国。周威烈王十七年公元前409，攻取秦河西地区的临晋(今陕西大荔东)、元里(今澄城南)，并增修此二城。次年，攻秦至郑(今华县)，筑洛阴(今大荔南)、合阳(今合阳东南)，尽占秦之河西地(今黄河与北洛河南段间地)(参见魏攻秦河西之战)，置西河郡，任西河郡守。

这一时期他“曾与诸侯大战七十六，全胜六十四”，“辟土四面，拓地千里”。特别是周安王十三年(公元前389年)的阴晋之战，吴起以五万魏军，击败了十倍于已的秦军，成为中国战争史上以少胜多的著名战役，也使魏国成为战国初期的强大的诸侯国。