Работы им начаты в 1933 году, а через три года им построена модель механической вычислительной машины, в которой использовались двоичная система счисления , форма представления чисел с плавающей запятой , трехадресная система программирования и перфокарты . Условный переход при программировании не был предусмотрен . Затем в качестве элементной базы Цузе выбирает реле, которое к тому времени давно применялись в различных областях техники.

В 1938 году Цузе изготовил модель машины Z1 на 16 машинных слов, в следующем году - модель Z2, и еще через 2 года он построил первую в мире действующюю вычислительную машину с программным управлением (модель Z3), которая демонстрировалась в Германском научно-исследовательском центре авиации. Это была релейная двоичная машина, имеющая память 6422-разрядных числа с плавающей запятой:

7 разрядов - для порядка и 15 - для мантиссы. В арифметическом блоке использовалась параллельная арифметика. Команда включала операционную и адресную части. Ввод данных осуществлялся с помощью десятичной клавиатуры. Предусмотрен цифровой вывод, а также автоматическое преобразование десятичных чисел в двоичные и обратно. Время сложения у модели Z3 - 0,3 секунды. Все эти образцы машин были уничтожены во время бомбардировок в ходе второй мировой войны. После войны Цузе изготовил модели Z4 и Z5.

Цузе в 1945 году создал язык PLANKALKUL ("исчисление планов"), который относится к ранним формам алгоритмических языков. Этот язык был в большей степени машинно-ориентированным, однако в некоторых моментах, касающихся структуры объектов, по своим возможностям даже превосходили АЛГОЛ, ориентированный только на работу с числами.