朱可夫生于卡卢加州斯特列尔科夫卡村一贫苦家庭。朱可夫曾在莫斯科学徒，并于1915年应召进入沙俄军队骑兵团。第一次世界大战之中，朱可夫曾因作战勇敢两次获得圣乔治十字勋章，并被提升为军士。十月革命后他加入了布尔什维克。再一次遭遇战中，他是100人对2000人并且坚守了阵地七个小时。得到斯大林的赏识。1918－1920年他参加了苏俄国内战争。1923年朱可夫成为团长。1930年升为旅长。他是新的装甲战争理论的热心支持者，并且他详细的作战计划和对纪律的严格要求也给他带来了名气。1937到1939年斯大林对军队进行了清洗，装甲战的倡导者图哈切夫斯基被枪毙，其他很多军事将领也入狱，朱可夫却幸运的逃过了的清洗，并且继续升职。关于这一情况，一般认为是朱可夫的骑兵背景帮助他逃过一劫，当时的苏联元帅中，骑兵出身的伏罗希洛夫和布琼尼都受到重用，而其他三人均被清洗。 1938年日本军队在有苏联驻军的蒙古国和日本扶植建立的伪满洲国边境制造摩擦，朱可夫被派往边境，组织对日军事部署。1939年5月诺门罕战役爆发，在朱可夫指挥下，苏联军队大量使用装甲兵，进行闪电战似的立体机动作战，最终合围日军，取得胜利。这一战役由于远离欧洲主战场，所以不被人注意，但是这一战役在一定程度上使得日本放弃了北进的意图，而将主要用兵方向定在东南亚，使得苏联在第二次世界大战中避免腹背受敌的局面。朱可夫因在这次战役中的杰出指挥被授予苏联英雄称号。1940年朱可夫被授予大将军衔，随后被任命为苏军总参谋长。

在总参谋长任上，朱可夫主要任务是提出防御德国攻击的计划。随着原苏联的秘密档案的解密，某些历史学家认为朱可夫曾在1941年5月提出先发制人的进攻德国的方案，但是被斯大林否决了。1941年6月22日德军入侵苏联，苏德战争爆发，战争初期苏军溃败。朱可夫签署了要求苏联红军立即组织反击的命令，但没有效果。德军长驱直入后，重点进攻基辅。朱可夫经过判断，提出应该撤出基辅，避免被德军合围而引起更大损失。他的这一观点和直率的性格使他与斯大林发生冲突，被任命为预备军司令员，由沙波什尼科夫接任总参谋长。以后的战争进程显示了朱可夫的洞见，如果当时斯大林采纳他的建议，就不会造成基辅战役中66万苏军被围歼的悲剧。

而朱可夫在担任预备队方面军司令员后，率领该方面军在叶尼亚地区成功实施了叶利尼亚反击战，粉碎了德军的先头部队。稳定了当地的战线。9月列宁格勒告急。朱可夫被召回莫斯科，被任命为大本营代表，前往列宁格勒，从此开始了他各地协调指挥的序幕，也因此被称为“消防队长”。朱可夫到达列宁格勒之后，

当即中止了正在研究撤退方案的会议，毫不留情地撤换了两个集团军司令，逮捕和处决了一些擅自撤退的军官，并迅速拟定了守城计划。通过自己坚强的意志带动下属，合理利用了有效的兵力进行重点防御与反击，稳定住了防线。10月德军大举进攻莫斯科，朱可夫调回莫斯科代替铁木辛哥组织莫斯科保卫战。12月保卫战结束，德军退出莫斯科周边地区。

1942年夏季，斯大林、铁木辛哥不顾朱可夫反对，强行发起哈尔科夫进攻战役，结果损失惨重，约25万官兵被俘，德军前出至顿河河曲和高加索山南麓；朱可夫因此出任最高副统帅，并作为最高统帅部代表被派往斯大林格勒前线。一般认为他和华西列夫斯基共同策划了斯大林格勒战役，但也有研究者认为这段时间朱可夫主要策划维亚济马方向的无果的攻击行动，而在他的回忆录中抢夺华西列夫斯基的功劳。1943年初，与伏罗希洛夫元帅一起作为最高统帅部代表协调列宁格勒方面军和沃尔霍夫方面军突破德军对列宁格勒的封锁，战役胜利后，军衔晋升为苏联元帅；同年夏季，他作为最高统帅部代表协调库尔斯克战役；而前线总指挥罗科索夫斯基则回忆说朱可夫并未参与库尔斯克战役的决策，他的作用被大大夸大了。1944年朱可夫作为最高统帅部代表协调组织了代号为“巴格拉季昂”的白俄罗斯战役。1945年作为白俄罗斯第一方面军司令率军攻克柏林，于5月8日深夜主持纳粹德国无条件投降仪式，并代表苏联签字；同年6月24日，在莫斯科红场举行的胜利大阅兵中担任检阅首长（罗科索夫斯基为受阅部队总指挥）。

战后，由于战功显赫和自身性格的缺点，朱可夫遭到斯大林的猜忌。1946年索科洛夫斯基接替他任驻德苏军司令，朱可夫就任苏联陆军总司令。与此同时朱可夫又被发现囤积德国的财物。1947年遭到斯大林指责，被派到远离莫斯科的敖德萨军区任司令员，后来又贬到战略位置更加次要的乌拉尔二级军区任司令员。1953年朱可夫被召回莫斯科，但斯大林随即去世，所以无从证实朱可夫被召回的原因。1953年朱可夫参与逮捕贝利亚的行动，因此成为国防部第一副部长。1955年任苏联国防部部长。1956年朱可夫负责制定了入侵匈牙利的计划。1957年赫鲁晓夫与莫洛托夫、布尔加宁等人发生矛盾，后者在主席团会议上要求赫鲁晓夫辞职，赫鲁晓夫要求召开党中央全体会议。朱可夫支持赫鲁晓夫，派军用飞机将所有中央委员接到莫斯科，并做了有力的发言指责莫洛托夫等人参与斯大林的清洗运动，从而巩固了赫鲁晓夫的位置。但朱可夫在帮助赫鲁晓夫的过程中，因骄傲的表示：“没有我的命令，一辆坦克也别想从原地移动。”赫鲁晓夫随之感觉朱可夫的威胁，趁朱可夫出访之机将他架空，在他回国后以“波拿巴主义者”的莫须有罪名——解除了朱可夫的国防部长职务。赫鲁晓夫下台后，朱可夫才又重新被提起。闲居的朱可夫著有《回忆与思考》、《在保卫首都的战斗中》、《库尔斯克突出部》、<在柏林方向上>等军事著作，记述了第二次世界大战苏德战场的许多著名战役，并阐述他的军事思想。1974年朱可夫去世，葬于红场克里姆林宫墙下。