Ученый родился в 1923 году в городке Грейт-Бенд (Great Bend) в штате Канзас. Его отец был владельцем небольшой компании, занимающейся электроникой. Семейное дело способствовало появления у Джека интереса к технике.

В конце 1940-х годов он оканчивает университет по специальности инженер электроники. После института какое-то время работает в компании Globe Union Inc., выпускающей начинку для бытовой электроники.

В 1958 году Килби изобрел интегральную схему, которую сегодня чаще называют микропроцессором или чипом. До открытия физика окружающая человека бытовая электроника была хрупкой и громоздкой. Именно Килби заложил основы для появления компактных и одновременно производительных устройств. Идеи физика нашли свое воплощение в компьютерах, DVD-проигрывателях, сотовых телефонах.

Килби принадлежит в общей сложности около 60 патентов, в том числе и микросхемы на основе германия, которые ученый придумал в 1959 году. Через несколько лет после этого Роберт Нойс (Robert Noyce) из компании Fairchild Semiconductor получил патент на подобную, но более сложную микросхему из кремния. Позднее Нойс стал одним из создателей корпорации Intel.

В разные годы ученый становился лауреатом многих престижных наград. В 1970 году Килби получил Национальную медаль за научные достижения (National Medal of Science), в 1982 году его имя появилось в Национальной галерее славы изобретателей (National Inventors Hall of Fame), а в 2000 году американец удостоился Нобелевской премии по физике.

"На мой взгляд, существует совсем немного людей, чьи изобретения по-настоящему изменили мир. Это Генри Форд, Томас Эдисон, братья Райт и Джек Килби, - уверен председатель Texas Instruments Томас Энгибоус (Thomas Engibous). А если говорить об изобретениях, которые изменили не одну отрасль, но целый мир, то это были первые интегральные схемы, созданные Джеком".