Яков Гугель родился в 1985 году в городе Горки Могилевской губернии в семье служащего лесных складов.
В детстве вместе с семьей переехал сначала в Екатеринослав, затем в Енакиево, где окончил четырёхклассное городское училище. В 1916 году окончил Одесское среднетехническое училище.
Во время Первой мировой войны был призван в армию Российской империи, воевал на румынском фронте. После демобилизации вернулся в Енакиево, работал котельщиком на Петровском металлургическом заводе, затем – мастером доменного цеха на стройке доменной печи, однако печь не достроил – в августе 1918 года поступил в Харьковский технологический институт. После 2-го курса добровольцем ушел в Красную Армию, но до фронта не доехал, так как был назначен комиссаром авиазавода в Таганроге, где в 1921 году вступил в партию.
В 1921 году в 26 лет стал директором котельного завода, а после его объединения с Таганрогским металлургическим заводом – заместителем директора объединенного предприятия.
В 1923–1924 годах работал заместителем директора Юзовского металлургического завода, после чего 14 месяцев занимал должность директора Константиновского металлургического завода имени М. В. Фрунзе.
С августа 1926 года работал директором Мариупольского металлургического комбината имени Ильича.
С февраля 1930 года – начальник «Азовстальстроя», с 1931 – директор строительства Магнитогорского металлургического комбината.
На Магнитострое Я. С. Гугель пробыл всего год. Но это время было насыщенным, напряженным, в сущности, решающим. Ему удалось в кратчайшие сроки реорганизовать строительные участки, внедрив цеховой принцип. Были созданы доменный, мартеновский и прокатный цехи и объединены строители и будущие эксплуатационники. Во второй половине 1931 года вошло в строй несколько важных пусковых объектов будущего завода. 31 января 1932 года, несмотря на протесты американских инженеров, считавших необходимым отложить пуск до весны, была задута первая домна, а 1 февраля был получен первый чугун.
После пуска второй домны Гугель был переведен в Москву и назначен заместителем начальника главного управления металлургической промышленности СССР. В 1933 году Я. С. Гугель назначен начальником завода «Азовсталь». В 1937 году арестован. 26 сентября 1937 года на стол И. Сталина был подан «Список лиц, подлежащих суду Военной Коллегии Верховного суда СССР по первой категории», то есть подлежащих расстрелу. Под номером 104 была фамилия Я. С. Гугеля. На списке появилась резолюция: « За. Сталин. Молотов».
Военной Коллегией Верховного Суда СССР 14 октября 1937 года Яков Гугель был приговорён к расстрелу, в тот же день приговор был приведён в исполнение.
8 сентября 1956 года дело Гугеля было пересмотрено Военной коллегией Верховного суда СССР и «за отсутствием состава преступления прекращено». Я. С. Гугель был посмертно реабилитирован.
