Своим появлением обязан скорее всего Г.Гудериану. Именно он желал видеть в будущих танковых дивизиях два типа танков, в том числе сравнительно легкий с противотанковым вооружением. Такая машина массой 10 т в июле 1934 года была заказана фирмам «Крупп-Грузон», «Хеншель» и MAН. Танк с 2-см пушкой предназначался для использования в качестве разведывательного и замены пулеметного Pz Kpfw I.
Первые прототипы из неброневой стали были готовы в октябре 1935 года. Ни один проект полностью не устраивал заказчика, и в производство была передана комбинированная машина: шасси от фирмы МАН, корпус и башня — от «Даймлер-Бенц». С мая 1936-го по февраль 1937 года было изготовлено 75 танков. Все они имели ходовую часть из шести опорных катков малого диаметра, сгруппированных в три тележки на борт. Боевая масса составляла 7,6 т.
Предсерийная партия в свою очередь делилась на три подмодификации a/1, а/2 и а/3, в каждой по 25 машин. Между собой в общем плане они отличались несущественно, но в то же время выполняли роль испытательного стенда для проверки отдельных технических решений. Так, Pz Kpfw II Ausf a/2 получили вместо литого сварной ленивец и противопожарные стенки моторного отделения. А Pz Kpfw II Ausf a/3 имели увеличенный радиатор системы охлаждения и усиленные пружины подвески.
Весной 1937 года были выпущены 25 машин Pz Kpfw II Ausf b с усовершенствованной трансмиссией и ходовой частью (новое направляющее колесо, широкие опорные катки и поддерживающие ролики). Попутно установили более мощный мотор, который значительно лучше вентилировался и охлаждался. Масса танков возросла до 7,9 т. Ставшую затем классической для этого типа танков ходовую часть из пяти опорных катков среднего диаметра на индивидуальной подвеске в виде четвертьэллиптических рессор обкатывали на 25 машинах Pz Kpfw II Ausf с фирмы «Хеншель».
«Настоящие» серийные танки стали производить с марта 1937 года. До апреля 1940 года было выпущено 1088 машин модификаций A, B и C. В принципе это была одна и та же конструкция с закругленной носовой частью корпуса. Различие состояло лишь в расположении и размерах смотровых щелей и используемых прицелах. Броневая защита, как показала польская кампания, оказалась довольно слабой. Даже лобовая броня легко пробивалась из противотанкового ружья. Ее в спешном порядке усилили методом экранировки — накладкой дополнительных 20-мм пластин.
С мая 1938-го по август 1939 года фирмы «Даймлер-Бенц» и МАН выпустили для танковых батальонов легких дивизий 143 так называемых быстрых машин (Schnellkampfwagen). По сути это уже были следующие модификации танков — D и E. От предыдущих они существенно отличались ходовой частью типа Кристи, имевшей по четыре больших опорных катка без поддерживающих роликов. Подвеска катков индивидуальная торсионная. Корпус также значительно перекомпонован. Без изменений осталась лишь башня с вооружением. 140-сильный двигатель «Майбах» HL62TRM сообщал танку скорость 55 км/ч. Боевая масса составила 10 т, запас хода — 200 км. Бронирование: лоб корпуса — 30 мм, борт корпуса и башня — 14,5 мм.
В 1940 году, стремясь расширить функциональность этого типа машин, на базе шасси текущего производства решили строить огнеметные танки. Вплоть до лета 1942 года произведено 112 машин и еще 43 переделано из линейных в ходе капитального ремонта. В уменьшенной башне устанавливался 7,92-мм пулемет. Два огнемета в бронеголовках размещались по передним углам корпуса. В горизонтальной плоскости они наводились в секторе почти 180 градусов и могли произвести 80 огнеметаний продолжительностью 2—3 с на дальность до 35 м.
Боевая масса Pz Kpfw II Flamm Ausf A и B (Sd Kfz 122), известных также под названием «Фламинго» (Flamingo), достигала 12 т. Запас хода составлял 250 км. Экипаж остался прежним — три человека. Несколько увеличивалась толщина брони: до 30 мм в лобовых деталях башни и корпуса, 20—25 мм на бортах. Но этого оказалось недостаточно: из-за малой дальности огнеметания огнеметным танкам приходилось слишком близко подходить к траншеям противника и они несли большие потери. Приняв боевой крещение в июне 1941 года на советско-германском фронте, они в конце концов были переоборудованы в самоходные установки.
Pz Kpfw II Ausf F — практически последняя модификация «двоек». 524 машины были выпущены с марта 1941-го по декабрь 1942 года (в дальнейшем строились исключительно самоходные установки на базовом шасси). Их главное достоинство по сравнению с предыдущими образцами — усиленная броневая защита. Теперь носовая часть корпуса выполнялась из 35-мм листа с наклоном 13 градусов к вертикали. Верхний 30-мм лист имел наклон 70 градусов. Изменялись форма ленивца и конструкция подбашенной коробки. В ее лобовом листе, установленном с наклоном 10 градусов, справа канавкой имитировалась смотровая щель. Командирская башенка имела восемь перископов.
Машины Pz Kpfw II в начале Второй мировой войны составляли 38 процентов танкового парка вермахта. В боях они оказались слабее по вооружению и бронированию практически всех танков аналогичного класса: польских 7ТР, французских R35 и H35, советских Т-26 и БТ. Но все равно производство Pz Kpfw II, существенно сократившееся в 1940 году, в последующие два года резко возросло. До накопления в необходимых количествах Pz Kpfw III и Pz Kpfw IV, легкие машины продолжали оставаться основной техникой в танковых частях и подразделениях. Лишь в 1942 году их вывели из состава танковых полков и частично использовали либо в штурмовых артиллерийских бригадах либо на второстепенных участках фронта. Все в больших количествах танковые шасси после ремонта передавались под монтаж самоходных установок.
На немногочисленных экспериментальных танках (двенадцать VK901, четыре VK1301, двадцать два VK1601) отрабатывались оригинальные технические решения. Так, готовясь к вторжению в Англию, немецкие конструкторы разработали для Pz Kpfw II навесные понтоны с винтомоторной группой. На плаву опытные машины развивали скорость до 10 км/ч при волнении моря 3—4 балла.