Дед Алексея Фатьянова — Николай Иванович Фатьянов, владелец иконописных мастерских и подсобного производства в Богоявленской слободе (ныне посёлок Мстёра Вязниковского района Владимирской области). Другой дед, отец матери поэта — Василий Васильевич Меньшов, специалист-эксперт по льну льнопрядильной фабрики Демидова. Оба деда были старообрядцы.
Родители будущего поэта Иван и Евдокия Фатьяновы построили в центре города Вязники двухэтажный каменный дом с колоннами напротив Казанского собора. Родители торговали пивом, обувью, которую шили в своих мастерских, владели частным кинотеатром и обширной библиотекой. После октябрьского переворота 1917 года всё имущество Фатьяновых было национализировано, дом отобран — в нём разместилась телефонная станция, ныне там музей Алексея Фатьянова. Семья перебралась в дом Меньшовых в пригороде Вязников, где в комнате деда родился Алексей — последний ребёнок Ивана и Евдокии Фатьяновых. Трое старших детей — Николай (1898), Наталья (1900), Зинаида (1903).
Крестился Алексей Фатьянов в Казанском соборе города Вязники.
Во времена НЭПа в 1923 году семья Фатьяновых вновь поселилась в своём доме в Вязниках напротив Казанского собора. Родители занимались обувным производством. Именно там, в родительском доме, Алексей получил своё первое воспитание и образование. Родители привили Алексею любовь к литературе, театру, музыке и пению.
В 1929 году имущество у Фатьяновых было окончательно отобрано советской властью — политика НЭПа закончилась. Семья Фатьяновых уехала из Вязников и перебралась в посёлок Лосиноостровский Московской области, ныне в черте города Москвы. Поселились на Тургеневской улице. Алексей учился в музыкальной школе, посещал московские театры и выставки.
Поступил в театральную студию Алексея Денисовича Дикого при театре ВЦСПС, по окончании которой в 1937 году принят в театральную школу актёрской труппы Центрального театра Красной Армии. Играл в спектаклях; с 1940 года в ансамбле Орловского военного округа. С начала войны с ансамблем на фронте, был ранен при выходе из окружения. После ранения был принят в ансамбль песни и пляски им. Александрова, откуда по ложному обвинению в 1943 году попал в штрафную роту 6-й танковой армии; был вторично ранен в боях за Венгрию и оправдан.
Послевоенные песни Фатьянова, такие как лучшая лирическая песня Великой Отечественной войны «Соловьи», «Где ж ты, мой сад?», «Первым делом, первым делом самолёты», «В городском саду играет духовой оркестр», «Тишина за Рогожской заставою», «Давно мы дома не были» бесхитростные и мелодичные, опираются на фольклорные традиции и завоевывают большую популярность. Тем не менее, при жизни Фатьянова вышла только одна небольшая книга его стихов «Поёт гармонь» (1955), а широко они стали издаваться только в 1960—1980 годах.
Фатьянов был не только поэтом, но также и артистом, играл на аккордеоне и фортепьяно, обладал певческим голосом. На творческих вечерах он, наряду с декламацией своих стихотворений, пел песни на свои собственные стихи, которые тогда были очень популярны.
Стихи Фатьянова простые и бесхитростные, но пронзительно искренние, нежные и изящные. Фатьянов — один из тончайших советских лириков, его герои — простые парни и девушки, молодые, свежие, благородные и романтичные, как правило крестьянского происхождения, пришедшие учиться и работать из деревни в город либо демобилизовавшиеся. Быт и чувства таких людей воспеты Фатьяновым, многие стихи стали песнями, популярными на протяжении более чем 60 лет, надолго пережившими автора.
При жизни стихи Фатьянова мало издавались, этому способствовали многочисленные административные взыскания из-за злоупотребления алкогольными напитками.
В 1946 году после демобилизации женился на Галине Николаевне Калашниковой, дочери генерала Калашникова.
Скоропостижно скончался в 1959 году от аневризмы аорты. Похоронен в Москве на Ваганьковском кладбище.