Родился 9 (22) мая 1905 года в Омске в семье гидротехника путей сообщения Николая Ивановича Мартынова и дочери военного инженера, учительницы Марии Григорьевны Збарской в Омске. Сибирский род Мартыновых идёт от «владимирского коробейника-книгоноши Мартына Лощилина, осевшего в Семипалатинске».
Дебютировал в печати в 1921 году заметками в омских газетах «Сигнал», «Гудок», «Рабочий путь». Первые стихотворения были напечатаны в сборнике «Футуристы», изданном в походной типографии агитпарохода «III Интернационал». Входил в футуристическую литературно-художественную группу «Червонная тройка» (1921—1922), куда входили также В. Уфимцев, В. Я. Шебалин и Н. А. Мамонтов. В конце 1921 года вслед за Н. А. Мамонтовым уезжает поступать во ВХУТЕМАС, однако оба они вскоре вернутся из-за неустроенности быта. Став в 1924 году разъездным корреспондентом газеты «Советская Сибирь» (Новониколаевск), Мартынов исколесил всю Западную Сибирь и Казахстан. Участвовал в геологических экспедициях. В 1927 году редактор «Звезды» Н. С. Тихонов напечатал стихотворение «Корреспондент», первая публикация за пределами Сибири. В 1930 году в Москве вышла первая книга Мартынова — очерки о Прииртышье, Алтае и Казахстане «Грубый корм, или Осеннее путешествие по Иртышу» (Москва, «Федерация», 1930). В 1932 году сдал в редакцию «Молодой гвардии» книгу «новелл о любви и ненависти в годы начала социалистической перестройки», которую так и не напечатали и которая считается ныне пропавшей.
В 1932 году был арестован по обвинению в контрреволюционной пропаганде и осужден по делу так называемой «Сибирской бригады» по статье 58/10 УК РСФСР к высылке на три года в Северный край. (Реабилитирован прокуратурой СССР 17 апреля 1989 года посмертно). Административную ссылку провёл в Вологде, где жил с 1932 до 1935 год. Работал в местной газете «Красный Север», где и встретился с будущей женой, Ниной Поповой. После ссылки они вдвоём вернулись в Омск.
Началом «настоящей литературной известности» поэт называет публикации «Увенькая» и «Тобольского летописца» в «Сибирских огнях» В. Итина в 1936 г. По словам поэта, Вивиан Итин сыграл большую роль в его жизни: «…Нас объединяли многие творческие и, я бы сказал, политические, государственные интересы».
В 1939 году к Мартынову пришла литературная известность: вышла книга «Стихи и поэмы» (Омск, 1939). Поэмы с исторической сибирской тематикой заметил и оценил К. М. Симонов в рецензии «Три поэмы» («Литературная газета», июль 1939). На следующий год выходят исторический очерк об Омске «Крепость на Оми» и книги «Поэмы» (вышли одновременно в Москве и Омске).
В 1942 году благодаря хлопотам писателя А. Калинченко был принят в Союз писателей СССР. В 1943 году К. М. Симонов предложил своё место фронтового корреспондента в «Красной Звезде». Мартынов вернулся в Омск «за вещами», но был тут же призван в армию, в Омское пехотное училище. По состоянию здоровья был освобождён от военной службы, и служил как литератор — писал историю училища.
Сборник «Лукоморье», «зарезанный» А. А. Фадеевым, усилиями нового председателя Союза писателей СССР Н. С. Тихонова вышел в 1945 году. В феврале 1946 года Л. Н. Мартынов переезжает в Москву.
В декабре 1946 году в «Литературной газете» вышла разгромная статья В. М. Инбер о книге стихов «Эрцинский лес» (Омск, 1946). После резкой критики и «проработки» в Москве, Омске и Новосибирске тираж книги был уничтожен, и доступ к печати закрылся на девять лет. Всё это время поэт пишет «в стол» и зарабатывает переводами.
Переводил на русский язык стихотворения английских (Ч. Дибдин, А. Теннисон), чешских (Ян Неруда), чилийских (Пабло Неруда), венгерских (Э. Ади, А. Гидаш, Д. Ийеш, Ш. Петефи, И. Мадач, Й. Аттила), литовских (Э. Межелайтис), польских (Я. Кохановский, А. Мицкевич, Ю. Тувим, Ю. Словацкий, Ю. Пшибось, А. Важик, Ц. Норвид, К. Галчинский), французских (А. Рембо, В. Гюго, Ш. Бодлер), итальянских (С. Квазимодо, А. Северини), югославских (О. Жупанчич, М. Крлежа) и других поэтов. По словам Мартынова, он перевёл около ста тысяч стихотворных строк. За переводческую деятельность награждён правительством Венгрии орденами «Серебряный Крест» (1949), «Золотая Звезда» (1964) и «Серебряная Звезда» (1970).
Первая книга после вынужденного простоя вышла в 1955 году Книга «Стихи» была «первым поэтическим бестселлером» после войны, сразу стала редкостью. В 1957 г. она была переиздана. После этого Мартынова стали печатать так часто, что Ахматова по этому поводу с неудовольствием заметила, что «поэту вредно часто печататься». Несмотря на признание, поэт ведет закрытый образ жизни, и уже при жизни его называют не иначе как «тихий классик».
Историки литературы часто упоминают имя Мартынова в связи с выступлением на общемосковском собрании писателей 31 октября 1958 года, где речь шла о Б. Л. Пастернаке. Вернувшегося только что из Италии Л. Мартынова вызвали на трибуну рассказать об отношении итальянцев к Пастернаку. Мартынов выразил раздражение «сенсационной трескотнёй» заграничной печати вокруг одного имени. Хотя Мартынов присоединил свой голос к хору осуждавших Пастернака, отмечалось, что его выступление было далеко не самым резким.
В 1960—1970 гг. пишет книгу мемуарной прозы, которую задумывал назвать «Стоглав». Сам поэт писал, что «Стоглав» «касается не только возникновения того или другого моего стихотворения, но, будучи правдив и ясен, по возможности — всего строя жизни». Однако время и цензура не позволили напечатать все главы одновременно, потому последовательность глав нарушена. Первый сборник автобиографических новелл «Воздушные фрегаты» вышел в 1974 г. По красоте стиля и широте охвата его можно назвать «энциклопедией» жизни омских художников 1920-1940-хх годов. Второй сборник новелл — «Черты сходства» — вышел уже после смерти поэта (М., Современник, 1982). И, наконец, спустя четверть века, в 2008 году были напечатаны все остальные новеллы книги «Стоглав» (М., Вече, 2008).
В 1979 году умирает жена Нина, а 21 июня 1980 года и сам поэт. Похоронен в Москве на Востряковском кладбище.
На стихи Мартынова написано немного песен. Одним из первых музыкальных произведений стала кантата И. Дунаевского «Мы придём!» (1945). Кантата была написана в годы войны и отличается «драматическим пафосом и скорбной торжественностью».
В пятидесятые годы М. Таривердиев написал вокальный цикл на стихи «Вода», «Листья», «Вечерело». У барда В. Берковского есть песня «Ты относишься ко мне, как к полям…». В 1980-х гг. В. Бутусов (рок-группа «Наутилус Помпилиус») в первом альбоме «Переезд» использовал венгерскую поэзию в переводе Мартынова («В итальянской опере», «Битва с магнатом», «Музыка», «Ястребиная свадьба»). В следующих альбомах «Наутилус» так же прибегал к поэтическим переводам Мартынова — «Князь тишины» Эндре Ади стал заглавной песней для пятого альбома «Наутилуса».
Александр Локшин написал симфонию № 9 для баритона и струнного оркестра на стихи Леонида Мартынова (1975 год). Антон Шатько — песню «Нежность». Опера Андрея Семёнова «Омский пленник», 1996—1997 гг. (по поэме «Правдивая история об Увенькае, воспитаннике азиатской школы толмачей в городе Омске»).
В 2001 году композитор Владимир Евзеров написал песню «Лира» на стихи Мартынова, которую спел Валерий Леонтьев.