从莎车，经于阗(今和田)、鄯善(今若羌)，进入羌人地区。但出乎意料，羌人也已沦为匈奴的附庸，张骞等人再次被匈奴骑兵所俘，又扣留了一年多。

元朔叁年(前126年)初，军臣单于死了，其弟左谷蠡王自立为单于，进攻军臣单于的太子于单。于单失败逃汉。张骞便趁匈奴内乱之机，带着自己的匈奴族妻子和堂邑父，逃回长安。

这是张骞第一次出使西域。从武帝建元二年(前139年)出发，至元朔叁年(前126年)归汉，共历十叁年。出发时是一百多人，回来时仅剩下张骞和堂邑父子二人。所付出的代价是何等高昂!

张骞这次远征，仅就预定出使西域的任务而论，是没有完成。因为他未能达到同大月氏建立联盟，以夹攻匈奴的目的。如从其产生的实际影响和所起的历史作用而言，无疑是很大的成功。

自春秋以来，戎狄杂居泾渭之北。至秦始皇北却戎狄，筑长城，以护中塬，但其西界不过临洮，玉门之外的广阔的西域，尚为中国政治文化势力所未及。张骞第一次通使西域，使中国的影响直达葱岭东西。

自此，不仅现今中国新疆一带同内地的联系日益加强，而且中国同中亚、西亚，以至南欧的直接交往也建立和密切起来。后人正是沿着张骞的足迹，走出了誉满全球的“丝绸之路”。张骞的“凿空”之功，是应充分肯定的。