ในระหว่างสงครามโลกครั้งที่หนึ่ง กูเดเรียน เป็นครูฝึกในโรงเรียนนายร้อยในเบอร์ลิน เขาเริ่มแสดงแนวความคิดใหม่ๆในการใช้ยานยนต์ในการเคลื่อนที่ โดยเฉพาะเมื่อเขาเป็นพันตรี ในปี 1927 เยอรมันถูกจำกัดด้วยสนธิสัญญาแวร์ซาย หน่วยของเขามีแต่มอเตอร์ไซค์และรถบรรทุก เพราะเยอรมันไม่ได้รับอนุญาติให้พัฒนาอาวุธสงคราม เขาพยายามพัฒนาเทคนิคใหม่ๆ ในการเคลื่อนพลอย่างรวดเร็ว เขาเดินทางไปดูการพัฒนารถถังของนาซีอย่างลับๆในรัสเซีย แล้วกลับมาติดตั้งรถบรรทุกของเขาด้วยป้อมปืนไม้ แล้วใช้รถบรรทุกเหล่านี้แบบรถถัง เขาจึงได้ชื่อว่าเป็นผู้ให้กำเนิด แนวความคิดของการใช้รถถังในการรุก และเป็นผู้ให้กำเนิด หน่วย Panzer หรือ หน่วยยานเกราะของเยอรมัน โดยกูเดเรียนได้อ่าน แนวคิดการใช้ยานเกราะของอังกฤษ ซึ่งเขียนโดย J.F.C Fuller ในปี 1929 และนำมาปรับใช้อย่างจริงจังครั้งแรกในกองทัพนาซีเยอรมัน
เมื่อฮิตเลอร์ขึ้นสู่อำนาจ ฮิตเลอร์ได้เดินทางไปชมการฝึกซ้อมของหน่วยยานเกราะเล็กๆ ของกูเดเรียน ซึ่งมีความคล่องตัว แตกต่างไปจากรถถังในสงครามโลกครั้งที่หนึ่ง รถถังจำลองของกูเดเรียนวิ่งไปรอบสนามฝึก สร้างความประทับใจให้กับฮิตเลอร์เป็นอย่างมาก อย่างไรก็ตาม ในช่วงแรกของการใช้รถถังเป็นกำลังหลักในการรุกนั้น กูเดเรียนต้องประสบกับการต่อต้าน แนวความคิดนี้ จนในปี 1937 ก่อนเกิดสงครามโลกครั้งที่สอง 3 ปี กูเดเรียนได้เขียนหนังสือชื่อ Achtung Panzer (อาคตุง แพนเซอร์ - ระวัง ยานเกราะ) ซึ่งหนังสือเล่มนี้ได้นำเสนอแนวคิด ในการใช้รถถังเป็นกำลังหลักในการโจมตีแบบสายฟ้าแลบ หรือที่เรียกว่า Blitzkrieg
ต่อมาฮิตเลอร์ฉีกสนธิสัญญาแวร์ซาย เริ่มสะสมอาวุธ และสร้างกองทัพอย่างขนานใหญ่ กองพลยานเกราะ (Panzer Division) 3 กองพลถูกตั้งขึ้นอย่างเปิดเผย กูเดเรียนซึ่งขณะนั้นมีความโดดเด่นจากแนวคิดการใช้ยานเกราะนี้ ทำให้เขาใกล้ชิดกับฮิตเลอร์ ได้รับการแต่งตั้งเป็นผู้บัญชาการกองพลยานเกราะที่ 2 (2nd Panzer Division) พร้อมๆกับครองยศ พลตรี (Major General) และอีกไม่ถึงปีครึ่ง เขาก็ได้เป็นพลโท พร้อมกับตำแหน่งแม่ทัพกองทัพน้อยที่ 16 (XVI Army-Corps)
อีกเพียงสิบเดือนต่อมา เขาก็ดำรงพลเอก ในตำแหน่งผู้บัญชาการกองกำลังเคลื่อนที่เร็ว (Chief of fast troops) ซึ่งรับผิดชอบการจัดตั้ง การฝึก และการใช้ยุทธวิธีในการรุกด้วยยานเกราะ ซึ่งตำแหน่งนี้ ส่งผลให้ เกิดการเปลี่ยนแปลงประวัติศาสตร์การรบสมัยใหม่ ด้วยยานเกราะ มาจนถึงปัจจุบัน รวมทั้งส่งผลให้ หน่วย Panzer กลายเป็นหน่วยรบที่น่ากลัวที่สุดในโลกขณะนั้น