Джек вырос в семье иммигрантов из Лодзи, Российская империя (ныне Польша). В 14 лет он бросил школу, работал в отцовской мастерской. С началом Первой мировой войны вырос спрос на военную форму, что благотворно сказалось на доходах семьи. В 1917 г. Джек записался в Королевский воздушный корпус, через два года демобилизовался и занялся розничной торговлей.

Вначале Джек скупал излишки продовольствия, оставшиеся после войны на армейских складах, и распродавал их на лондонских рынках. Расширяя дело, он вскоре выработал собственную стратегию - низкие цены и быстрый оборот капитала. В 1924 г. Коэн создал прославивший его торговый дом Tesco. (Название было выбрано почти случайно - Коэн взял инициалы своего поставщика чая, которого звали T. E. Stockwell, и добавил первые две буквы своей фамилии).

В 1930 г. Коэн нанял бухгалтера, что позволило ему сконцентрироваться на расширении операций - до этого у него не было даже приходно-расходных книг, хотя годовой оборот компании достиг к этому времени 50,000 фунтов стерлингов. В 1939 г. в Большом Лондоне насчитывалось уже около ста продуктовых магазинов "Теско". Дальнейшее расширение было приостановлено Второй мировой войной.

Одним из первых в Великобритании Коэн начал, используя американский опыт, открывать магазины самообслуживания, а затем и "сверкающие дворцы" - огромные супермаркеты. Новинка не сразу была принята консервативными британцами. Первый супермаркет "Теско", с площадью торгового зала более 200 кв. метров, был открыт в 1956 г. Это дало новый толчок развитию бизнеса, и к 1968 г. Теско уже была четвёртой по величине торговой сетью Британии.

В 1969 г. Джек Коэн был награждён рыцарским званием, а в следующем году отошёл от дел, передав управление компанией двум своим зятьям. В 1995 году основанная им компания стала крупнейшей в Великобритании сетью розничной торговли. Сам сэр Джек в последнее десятилетие жизни поддерживал ряд благотворительных организаций в Англии и Израиле. В частности, он и леди Коэн спонсировали создание бесплатного жилья для бедных и больных евреев.

Имя Джейкоб (Джек) - английская форма библейского имени Иаков. Имя Эдвард происходит от древнеанглийских слов ead - "богатство" и weard - "охрана". Фамилия Коэн (Коган) происходит от ивритского слова коэн - "священник", обладатели подобных фамилий считаются потомками священников, служивших в Иерусалимском Храме.