苏联伟大卫国战争爆发后，伏罗希洛夫直接参加了抗击德国侵略军的组织领导工作。1941年7月10日至8月31日，伏罗希洛夫先后担任国防委员会委员，最高统帅部大本营成员，西北方向军总司令。1942年9月6日-11月19日，伏罗希洛夫又出任游击运动总司令，积极参加了苏联人民游击斗争的组织领导工作，亲自训练游击队指挥员，使游击队密切配合正规部队作战。1943年1月，伏罗希洛夫作为最高统帅部大本营代表，在突破德军对列宁格勒封锁的作战中，协调了列宁格勒方面军和沃尔霍夫方面军的战役行动。同年12月，伏罗希洛夫被派往滨海集团军，参加拟制解放克里木半岛的战役计划，协调乌克兰第4方面军、独立滨海集团军与黑海舰队和亚速海区舰队的作战行动，为解放克里木做出了重大贡献。卫国战争期间，伏罗希洛夫于1941年出席过苏、美、英三国莫斯科会议，1943年又出席过苏、美、英三国领导人德黑兰会议。联共中央和苏联政府为表彰伏罗希洛夫在卫国战争中的丰功伟绩，授予他苏沃洛夫一级勋章。
战后，伏罗希洛夫为加强苏联国防建设做了大量工作。1945－1947年任盟国对匈牙利管制委员会主席，帮助匈牙利人民重建自己的家园。1946－1953年任苏联部长会议副主席。1953年3月～1960年5月任苏联最高苏维埃主席团主席。