El Ejército Rojo también contenía comisarios políticos cuyo papel era asegurar la lealtad a Iósif Stalin y su gobierno. A menudo miembros de la NKVD, la policía secreta soviética, la presencia de comisarios políticos creó una dualidad ineficiente de comando de campo.
En el estallido de la Segunda Guerra Mundial en 1939, el Ejército Rojo tenía aproximadamente 1.800.000 hombres en sus filas, de los cuales una cuarta parte estaban estacionados en el Lejano Oriente.
En noviembre de 1939, el Ejército Rojo invadió Finlandia. El Mariscal Carl Mannerheim, Comandante en Jefe del Ejército finlandés, fue capaz de bloquear el avance soviético en Kemijarvi y Karelia. No fue hasta la primavera de 1940 que los 7.º y 13. º ejércitos dirigidos por el general Kiril Meretsokov, fueron capaces de romper las defensas finlandesas.
Finlandia acordó los términos de paz el 13 de marzo de 1940. La guerra costó a los soviéticos 200.000 hombres, 700 aviones y 1.600 tanques. Iósif Stalin llegó a la conclusión de que el Ejército Rojo no era capaz de luchar una guerra importante y ayudó a confirmar su opinión de que era de vital importancia evitar una guerra con la Alemania nazi durante el mayor tiempo posible. La Guerra Soviético-Finlandesa también convenció a Adolf Hitler de que el Ejército Alemán vencería fácilmente al Ejército Rojo cuando la guerra finalmente tuviera lugar.
Después de la guerra con Finlandia, Stalin aumentó rápidamente el tamaño del Ejército Rojo. En 1941 había crecido a 3 millones de hombres (300 divisiones). La mayoría de los hombres sirvieron en divisiones de fusil no mecanizadas. La infantería estaba apoyada por la artillería tirada por caballos y la caballería. Más de la mitad de los soldados del Ejército Rojo estaban estacionados en el oeste frente a las fuerzas alemanas mucho más pequeñas.
El Ejército Rojo también tenía dos nuevos cuerpos de tanques. Esto incluía el KV y el nuevo tanque ruso «a prueba de proyectiles», el T-34. El tanque estaba provisto de un blindaje inclinado para desviar proyectiles que estaban soldados en lugar de remachados. Equipado con un potente motor diesel, su armamento principal era un cañón de 76 mm de alta velocidad.
El 21 de junio de 1941, un sargento alemán desertó a las fuerzas soviéticas. Les informó que el Ejército alemán atacaría al amanecer de la mañana siguiente. Joseph Stalin era reacio a creer la historia del soldado y no fue hasta el ataque alemán que finalmente aceptó que sus intentos de evitar la guerra con Alemania hasta 1942 habían fracasado.
Las fuerzas alemanas, compuestas por tres millones de hombres y 3.400 tanques, avanzaron en tres grupos. El grupo norte se dirigió a Leningrado, el grupo centro a Moscú y las fuerzas del sur a Ucrania. En seis días, los alemanes habían capturado Minsk. El general Demitry Pavlov, el hombre responsable de defender Minsk, y dos de sus generales de alto rango fueron llamados a Moscú y fusilados por incompetencia.
Con la ejecución de Pavlov y sus generales, Iósif Stalin dejó en claro que castigaría severamente a cualquier comandante que creyera que había defraudado a la Unión Soviética. En el futuro, los comandantes soviéticos pensaron dos veces en rendirse o retirarse. Otro factor en esto fue la forma en que el Ejército alemán masacró al pueblo de Minsk. Aterrorizados por Stalin y Hitler, el pueblo soviético no tuvo más opción que luchar hasta que fueron asesinados.
Iósif Stalin se nombró Comandante en Jefe del Ejército Rojo el 20 de julio de 1941. Una nueva Ley de Reclutamiento fue aprobada el 31 de agosto de 1941. La edad de reclutamiento militar se redujo a dieciocho años para los jóvenes sin educación secundaria y diecinueve para los que habían recibido una educación superior a ese nivel.
Los primeros meses de la guerra fue desastrosa para la Unión Soviética. Las fuerzas alemanas del norte rodearon Leningrado, mientras que el grupo central avanzó constantemente hacia Moscú. Las fuerzas alemanas también habían hecho profundas incursiones en Ucrania. Kiev estaba sitiada y el Jefe de Estado Mayor de Stalin, Georgi Zhúkov, sugirió que las tropas que defendían la capital de Ucrania debían retirarse, lo que les permitía tomar fuertes posiciones defensivas más al este. Stalin insistió en que las tropas se quedaran y para cuando Kiev fue tomada, las bajas eran extremadamente altas. Fue la derrota más completa experimentada por el Ejército Rojo en su historia. Sin embargo, la resistencia decidida puesta en marcha en Kiev, había retrasado considerablemente el ataque a Moscú.
Ya era septiembre y el invierno se acercaba rápidamente. A medida que las tropas alemanas se adentraban más en la Unión Soviética, las líneas de suministro se hicieron más largas. Iósif Stalin dio instrucciones de que, cuando se viera obligado a retirarse, el Ejército Rojo destruyera todo lo que pudiera ser útil para el enemigo. La política de tierra quemada y la formación de unidades guerrilleras detrás de las líneas del frente alemán, crearon graves problemas para la máquina de guerra alemana, que estaba tratando de mantener a sus tres millones de soldados abastecidos con los alimentos y municiones necesarios.
En octubre de 1941, las tropas alemanas estaban a solo quince millas de Moscú. Se dieron órdenes para una evacuación masiva de la ciudad. En dos semanas, dos millones de personas abandonaron Moscú y se dirigieron al este. Stalin levantó la moral al quedarse en Moscú. En un refugio antiaéreo a prueba de bombas ubicado bajo el Kremlin, Stalin, como Comandante en Jefe Supremo, dirigió el esfuerzo de guerra soviético. Todas las decisiones importantes tomadas por sus comandantes de primera línea tuvieron que ser aclaradas con Stalin primero.
En noviembre de 1941, el Ejército alemán lanzó una nueva ofensiva sobre Moscú. El ejército soviético resistió y los alemanes se detuvieron. Stalin pidió un contraataque. Sus comandantes tenían dudas sobre esta política, pero Stalin insistió y el 4 de diciembre el Ejército Rojo atacó. Los alemanes, desmoralizados por su reciente falta de éxito, fueron tomados por sorpresa y comenzaron a retirarse. En enero, los alemanes habían retrocedido 200 millas.
La estrategia militar de Stalin era básicamente bastante simple. Creía que era de vital importancia atacar al enemigo tan a menudo como fuera posible. Estaba particularmente interesado en utilizar tropas nuevas y frescas para estas ofensivas. Stalin argumentó que los países de Europa occidental habían sido derrotados por su propio miedo a la superioridad alemana. Su principal objetivo al utilizar nuevas tropas de esta manera era convencerlos de que las fuerzas alemanas no eran invencibles. Al empujar al Ejército alemán de vuelta a Moscú, Stalin demostró a las tropas soviéticas que la Blizkrieg podía ser contrarrestada; también proporcionó un ejemplo importante para todas las tropas de todo el mundo que luchaban contra la maquinaria de guerra alemana.
Ayudado por la ayuda de los Estados Unidos y Gran Bretaña, la Unión Soviética fue capaz de construir el Ejército Rojo. Los grandes cuerpos de tanques fueron reemplazados por brigadas de tanques independientes de unos 90 tanques. A finales de 1942, el Ejército Rojo creó el cuerpo de tanques que contenía una infantería motorizada y dos brigadas de tanques. Estas nuevas unidades se utilizaron para explotar las brechas creadas por los ataques masivos de infantería.
En julio de 1943, un ataque del Ejército Rojo con 3.000 tanques derrotó al Ejército Alemán en Kursk. Esto fue seguido por constantes avances soviéticos a lo largo del Frente Oriental. El ritmo de éxito se incrementó cuando los aliados desembarcaron en Normandía en junio de 1944.
En 1945 el Ejército Rojo se trasladó a Alemania. Miedo de ser capturado por los Soviéticos y desfilaron por las calles en una jaula, Adolf Hitler se suicida y el 2 de Mayo, el Comandante de las tropas alemanas en Berlín se rindió.
En su apogeo, se estima que 12,5 millones de hombres y mujeres lucharon en el Ejército Rojo. Se desconoce cuántos murieron, pero después de que se firmó la paz, el gobierno afirmó que más de 20 millones de ciudadanos soviéticos murieron durante la Segunda Guerra Mundial.