Решение о создании среднего танка (иногда называемого танком артиллерийской поддержки) с короткоствольной пушкой приняли в январе 1934 года. В следующем году фирмы «Рейнметалл-Борзиг», MAН и «Крупп-Грузон» представили прототипы для испытаний. Армейцам больше понравился «крупповский «проект. В 1937 году были выпущены машины модификации А, в 1938-м — модификации В (т.н. установочные партии). В 1939 году построили 134 машины модификации С.
Танки имели боевую массу от 19 до 20 т, броню толщиной до 30 мм, скорость по шоссе 40 км/ч и запас хода 200 км. В башне устанавливалось 7,5-см орудие длиною 24 калибра (L/24) и спаренный с ним пулемет. Еще один пулемет в шаровой установке размещался в лобовом листе корпуса справа. В основном по компоновке и конструкции танк почти полностью повторял Pz Kpfw III.
К 1 сентября 1939 года вермахт располагал 211 Pz Kpfw IV. В польской кампании танк показал себя хорошо и его утвердили в качестве основного наряду с Pz Kpfw III. С октября того же года развернулось его массовое производство. Уже в 1940 году выпустили 278 машин модификаций D и Е.
К моменту вторжения во Францию в немецких танковых дивизиях на Западном театре насчитывалось около 280 Pz Kpfw IV. Опыт эксплуатации в боевых условиях указал на недостаточную броневой защиты. В результате толщину листов лобовой части корпуса довели до 60, на бортах — до 40, на башне — 50 мм. Естественно, возросла до 22 т и боевая масса модификаций Е и F, выпускавшихся в 1940—1941 годах. Чтобы сохранить удельное давление в приемлемых рамках, увеличили, правда незначительно, ширину гусениц — с 380 до 400 мм.
Огневые поединки с советскими танками Т-34 и КВ «четверки» проигрывали из-за неадекватных характеристик пушечного вооружения. С весны 1942 года на ней стали устанавливать 7,5-см длинноствольную (L/43) пушку. Ее подкалиберный снаряд получал начальную скорость 920 м/с. Так появилась модификация F2 (Sd Kfz 161/1).
В 1942—1943 годах выпускалась модификация G, c 1943-го Н и с июня 1944-го — J (все они кодировались как Sd Kfz 161/2). Танки двух последних модификаций оказались самыми совершенными. Толщина лобовых броневых листов корпуса доходила до 80 мм. Пушка стала еще мощнее: длина ее ствола достигла 48 калибров. Масса машины возросла до 25 т. Pz Kpfw IV Ausf J могли на одной заправке перемещаться по шоссе на расстояние 320 км. С 1943 года на всех танках стали обязательными 5-мм экраны, защищавшие борта и башню сбоку и сзади от кумулятивных снарядов и бронебойных пуль.
Сварной корпус машины прост по конструкции, хотя и не отличался рациональным наклоном броневых листов. Обилие люков, с одной стороны, облегчало доступ к различным агрегатам и механизмам, а с другой — снижало прочность корпуса. Внутреннее пространство делилось перегородками на три отсека. Передний занимало отделение управления, в котором находились коробки передач: общая и бортовые. Тут же размещались водитель (слева) и радист, каждый со своими приборами наблюдения. Средний отсек и башня многогранной формы отводились под боевое отделение. В нем располагались основное вооружение, боеукладка и остальные члены экипажа: командир, наводчик и заряжающий. Люки по бокам башни улучшали ее вентилирование, но снижали снарядостойкость.
Командирская башенка оборудовалась пятью смотровыми приборами с броневыми заслонками. Смотровые щели имелись также по обе стороны маски пушки и в боковых люках башни. Наводчику полагался телескопический прицел. Вращение башни осуществлялось электромотором или вручную, вертикальная наводка пушки только вручную. В боекомплект входили осколочно-фугасные и дымовые гранаты, бронебойные, подкалиберные и кумулятивные снаряды.
Моторное отделение в кормовой части корпуса предназначалось для двенадцатицилиндрового с водяным охлаждением карбюраторного двигателя. Ходовая часть состояла из восьми обрезиненных опорных катков малого диаметра, сблокированных по два. В качестве упругих элементов подвески использовались листовые рессоры.
Pz Kpfw IV зарекомендовал себя очень надежной и легкоуправляемой машиной. Однако проходимость ее, особенно у перетяжеленных последних выпусков, была неудовлетворительной. По вооружению и броневой защите он превосходил все танки западных стран, кроме некоторых модификаций американских М4 и английских «Комет».
