Марк родился в семье еврейских эмигрантов из Перемышля, Австро-Венгрия (ныне Пшемысл, Польша). Его талант к рисованию проявился в детстве, но из-за бедности семьи ему пришлось бросить школу и работать на фабрике. Но в 1908 г. он занял третье место на национальном художественном конкурсе и благодаря этому получил стипендию Еврейского общества помощи в образовании. По совету известного еврейского художника Уильяма Роттенстайна Марк изучал живопись в престижной лондонской Школе изящных искусств Слейд (1908-12).

Во время учёбы Гертлер рисовал преимущественно портреты членов своей семьи, в первую очередь матери. В этот период  он познакомился с такими художниками, как Эдвард Уодсворт, Айзек Розенберг, Кристофер Невинсон, Стэнли Спенсер и др. Тогда же началась история его запутанных отношений с художницей-бисексуалкой Дорой Кэррингтон (покончившей с собой в 1932 г.), которая позже легла в основу романа Гилберта Кэннана "Мендель" и кинофильма "Кэррингтон" (1995) .

Марк Гертлер получил известность в Англии начала 20-го века как превосходный портретист и пейзажист, а также автор натюрмортов. Молодому художнику покровительствовала известная лондонская меценатка леди Оттолайн Моррелл, представившая его Уолтеру Сикерту, лидеру лондонской художественной группы "Кэмден Таун", и введшая Гертлера в круг группы "Блумсбери". В 1914 г. Гертлер начал работать под покровительством влиятельного художественного критика, искусствоведа и мецената Эдварда Марша, но через два года убеждённый пацифист Гертлер разрывает отношения с Маршем, ставшим членом военного кабинета Уинстона Черчилля.

В начале 1920-х годов у Гертлера обнаружился туберкулёз, и он вынужден был провести курс лечения в санатории. Вскоре после этого умирают, также от туберкулёза, его ближайшие друзья - писатели К. Мэнсфилд и Д. Лоуренс. В 1930-х годах художник некоторое время преподавал в Вестминстерской школе искусств, поскольку его доходы от продажи картин были очень нерегулярны. Организованная в конце 30-х годов выставка его работ провалилась, тогда же его оставила жена, он находился в депрессии из-за надвигавшейся мировой войны...

Гертлер покончил жизнь самоубийством, отравившись газом в своей мастерской. Он послужил прообразом для таких литературных персонажей, как Лёрке во "Влюблённых женщинах" Д. Г. Лоуренса и Гомбольд в романе Олдоса Хаксли "Жёлтый Кром".

Латинское имя Марк происходит от имени бога войны Марса. Фамилия Гертлер (Гертнер) в переводе с идиш означает "садовник".