Рокоссовский не избежал участи многих командиров, ставших жертвами сталинских репрессий. После заключения, продолжавшегося с 1937 по 1940 гг. он был освобожден из тюрьмы по личной просьбе Г.К.Жукова, который остро нуждался в опытных и грамотных генералах. Нападение гитлеровской Германии на Советский Союз генерал К.К.Рокоссовский встретил во главе своего механизированного корпуса. С ним он участвовал в танковом сражении в районе города Броды на Западной Украине.
С 11 июля 1941 года генерал К.К. Рокоссовский командовал 16-й армией на Западном фронте, прикрывавшем московское направление. В июле 1942 года генерал-лейтенант был назначен командующим Брянским фронтом, который прикрывал тульское и воронежское направления. С сентября этого же года он возглавил Донской фронт. Контрудары этих двух фронтов оказали значительное влияние на оборонительные действия советских войск под Воронежем и Сталинградом, оттянув на себя немало вражеских сил.
В феврале следующего 1943 года Рокоссовского назначили командующим Центральным фронтом, образованным на базе Донского фронта. В октябре 1943 года генерал армии К.К. Рокоссовский был назначен командующим новым фронтом - Белорусским. 29 июня 1944 года Рокоссовскому присваивается звание маршала Советского Союза.
Войска Рокоссовского приняли участие в наступательной Белорусской операции и освобождении города Минска. За победы, одержанные в Великой Отечественной войне, Рокоссовский был дважды удостоен звания Героя Советского Союза и награжден высшим военным орденом "Победы". Полководец удостоился и еще одной высокой чести - 24 июня 1945 года он командовал Парадом Победы в Москве.
В 1945-49 гг. Рокоссовский был главнокомандующим Северной группой войск. В 1949 - 56 гг. - министром национальной обороны и заместителем председателя Совета министров Польши. В последние годы своей жизни (в 1956-57 и 1958-62) Рокоссовский был заместителем министра обороны СССР. Скончался 3 августа 1968 года.