1940年12月，瘦得只剩一把骨头的彼得罗夫斯基被派到明斯克，出任第63步兵军军长，担负西部边境“斯大林防线”的值勤任务。

1941年6月22日，希特勒不宣而战，德军迅速突破“斯大林防线”，沿三个战略方向推进。7月初，德国中央集团军群的装甲部队成功强渡第聂伯河，直接威胁军工重镇斯摩棱斯克。通过仔细分析战况，彼得罗夫斯基敏锐地捕捉到德军的“软肋”——尽管敌人的坦克突击速度很快，但步兵却没有跟上。

为了迟滞德军进攻速度，彼得罗夫斯基主动请求率第63步兵军渡过第聂伯河，逆袭西岸德军步兵。7月14日，第63步兵军趁夜渡河，相继解放了罗加乔夫和日洛宾两座城市，楔入敌人战线30公里，并继续向西进攻，这在当时苏军全面溃退的形势下是非常不错的反击，因此苏军统帅部十分欣赏这次行动。当斯大林得知彼得罗夫斯基还只是一个上校时，下令将他提拔为中将。

第63步兵军的反击让德军十分为难。德军中央集团军群司令包克向希特勒表示必须增援，否则无法进行下一步进攻，希特勒从其他战略方向抽调3个步兵师加强给包克，第63步兵军的处境变得十分凶险。

亲率后卫突围

8月11日清晨，重新完成集结的德军在坦克和飞机的支援下，全线向第63步兵军发起反扑。8月13日夜，一名苏军联络官乘飞机来到第63步兵军驻地，他带来了铁木辛哥的命令，要求彼得罗夫斯基乘这架飞机返回斯摩棱斯克，就任第21集团军司令。但彼得罗夫斯基认为在此紧要关头，将指挥权转交他人会给战士们带来严重的负面影响。最终，他只让飞机带走了重伤员。

8月14日，德军完成了对第63步兵军的包围。彼得罗夫斯基向全军发出向第聂伯河东岸撤退的命令。但形势仍在快速恶化，德军依靠优势兵力和坦克，抢先占领了各个渡口。8月14日夜，第63军和友军的联系彻底中断，对彼得罗夫斯基来说，他只能带领部队孤军奋战了。

8月16日，彼得罗夫斯基在森林中下达夜袭突围任务，他向下级主官强调：“所有指挥人员，不管是什么军衔和职位，在夜间攻击行动中，都要在最前面带头冲锋……”彼得罗夫斯基还表示，自己将加入第154师的突围战斗。

8月17日3时整，第63步兵军在打光炮弹后，全体轻装突围。由于进攻出乎敌人预料，该军大部轻松突破敌人的第一道封锁线，并快速向河岸移动。随第一梯队行动的彼得罗夫斯基把队伍带到河岸后，决定重新返回格卢得茨，他要亲自带领后卫部队一起过河。

然而，勇敢的军长和后卫部队不幸陷入重围。后来杀出重围的军炮兵主任费多尔·卡扎科夫回忆了军长的最后时刻：“军长带领大家向河岸推进，他不时拎起因害怕敌人扫射而倒地的战士，高喊：‘同志们，如果向每一颗子弹低头，我们的脖子会酸掉的，来！和我一起冲锋！’……最后，军长被隐藏在灌木丛中的冲锋枪手打中头部，很可惜我们没能把军长的遗体抢出来。”

直到1944年苏联红军反攻到第聂伯河西岸时，在当地人的指引下，才发现了彼得罗夫斯基的坟墓。原来，德军发现了这位英勇牺牲的军长，遂为其修了一座简朴的墓穴。战后，苏联政府为彼得罗夫斯基树立了纪念碑，追授一级伟大卫国战争勋章和红星勋章。