巴基斯坦和印度是南亚次大陆两个举足轻重的大国，南亚地区的和平与稳定在很大程度上取决于这两个大国间的关系。然而，半个多世纪以来，由于英国殖民主义者撤出南亚次大陆之际在查谟和克什米尔埋下的祸根，印巴两国长期相互对立，并且爆发过3次大规模的地区战争，给本地区特别是两国人民带来了巨大的灾难。佩尔韦兹·穆沙拉夫不仅是一位在战场上英勇善战的指挥员，也是一位很有战略头脑的外交谋略家。他认为，巴印两国不能长期对峙下去，而要捐弃前嫌，友好和睦。这样才能创造良好的环境，共谋发展。长期以来，穆沙拉夫一直在思考这一问题，并注意寻求良好的机会，与印度改善关系。
早在2001年5月29日，穆沙拉夫总统致信印度总理瓦杰帕伊，表示正式接受印方向他发出的访印邀请。同年7月14日至17日，穆沙拉夫总统对印度进行了正式访问。穆沙拉夫抵达印度首都新德里后对新闻界说，他是带着一种“开放的思想”到这里来的，希望就克什米尔争端问题与印度领导人进行“有意义的、坦率的和实质性的”讨论。但由于在克什米尔问题上仍存分歧，最终未能打破僵局。更为不幸的是，2001年12月13日印度议会大楼遭到恐怖袭击，印政府指责巴基斯坦政府与此案有染，两国关系骤然恶化，特别是两国都在边境地区屯集重兵，战争一触即发。在这关乎两国命运和地区安全的危急关头，穆沙拉夫从巴印两国的根本利益与安全出发，以南亚地区的和平与稳定为重，积极主动向印度做出友好表示，力主通过和平对话解决争端，避免爆发大规模战争。他利用出席南亚区域合作联盟首脑会议之机，主动向印总理瓦杰帕伊伸出友谊之手。2002年1月5日至6日，南亚区域合作联盟（南盟）七国首脑会议在尼泊尔首都加德满都举行。2002年1月5日上午，南盟首脑会议开幕。当穆沙拉夫在讲台发表演讲时，全场屏息静听。他在演说结束时说：“女士们，先生们，在我走下这个讲台之前，我希望能利用这次论坛，向瓦杰帕伊总理伸出真正的诚挚的友谊之手，让我们一同开启南亚和平、和睦与进步的旅程。”接着，他走下讲台，径直走向印度总理瓦杰帕伊的座位，并伸出了手。他的这种友善之举，这种努力寻求和平的友好姿态，赢得了国际社会的高度赞誉。
此次会议之后，穆沙拉夫又不断发表讲话，阐述巴希望通过和平对话解决与印度争端的政策。他承诺，如果巴基斯坦政府发现可靠证据证明巴基斯坦人参与了印议会大楼被袭事件，巴基斯坦将“会在自己的国家审判他们”。印度不少媒体和分析人士对穆沙拉夫的讲话持肯定态度。2002年7月28日，穆沙拉夫总统辗转向印度总统卡拉姆和总理瓦杰帕伊分别赠送了10箱金芒果，这是象征和平的贵重礼物，是瓦杰帕伊向印度领导人表达和解的良好诚意。
2003年4月23日，针对印度总理瓦杰帕伊在视察印控克什米尔地区时说印愿意就包括克什米尔在内的所有问题进行对话，但巴在克什米尔地区必须彻底停止越界渗透和恐怖活动，穆沙拉夫再次在伊斯兰堡发表讲话，表示巴准备与印度就克什米尔和其他悬而未决的问题进行全面对话。穆沙拉夫还在讲话中指责印度推行的地区政策，称印度炫耀武力的“不明智的”政策及其拒绝对话的做法破坏了地区安全。穆沙拉夫在谈及巴印关系时虽然言语谨慎，但思维相当敏捷，还经常来点黑色幽默。一次，一位印度记者采访穆沙拉夫时，提问“你能为南亚地区做一些事情吗？”穆沙拉夫笑着回答说，“当然，我很愿意。那将是一个很大的成就。但是，一只巴掌拍不响，我需要印度方面的帮助啊。”
在穆沙拉夫努力下，美国为了反恐斗争的需要，也逐步将其南亚政策由“重印轻巴”调整为“印巴并重”，全面取消了对巴的经济和军事制裁，从而使美巴关系得以迅速升温。
“9·11”事件后，美国实施以反恐为主的全球战略，将目标对准了拉登领导的“基地”组织和阿富汗塔利班政权。巴基斯坦是阿富汗的邻国，长期对阿富汗塔利班政权实行“友好政策”，两国关系非常密切。因此，巴基斯坦成为国际反恐战争的前线国家。美国要求巴基斯坦协助其攻打阿富汗，遭到巴国内不少人的强烈反对。穆沙拉夫受到来自国内外的强大压力，称当时的巴基斯坦正面临着自1971年东巴基斯坦独立成为孟加拉国以来最危急的时刻。
在这种情况下，穆沙拉夫一方面做国内人民的工作，呼吁全国人民团结一致，与政府共同渡过面临的危机；另一方面果断地调整外交战略，完全放弃了对塔利班政权的“友好政策”，积极支持美反恐和对阿动武。激起了巴国内伊斯兰极端势力和国际恐怖分子的不满和仇恨，为此，穆沙拉夫险遭暗杀，其人身安全问题引起国际社会的极大关注。由于对塔利班政策的转变以及对国内宗教极端势力的打压，穆沙拉夫失去了许多支持者和追随者。
为了改善与美国的关系，争取美国的支持和援助，穆沙拉夫还注意与布什总统建立和发展私人关系。2002年1月13日，布什总统在看电视时突然晕倒。听到这一消息后，穆沙拉夫总统在第一时间给白宫打去电话：“总统先生，我很关心你的身体情况。”据报道，穆沙拉夫是第一个慰问布什的外国领导人。
巴基斯坦媒体指出，穆沙拉夫在关键时刻镇定自若，沉着应对，及时做出决策，果断改变对阿富汗塔利班政权的政策，积极配合美反恐，虽然导致国内不满，但也使巴顺利渡过了难关，并为巴经济、外交带来转机，不仅缓解了巴国内经济窘况，而且为巴争取西方外援、改变国际形象赢得了宝贵时机。
