Дмитриев родился 10 (21) сентября 1760 в имении отца Ивана Гавриловича Дмитриева (1736—1818) — селе Богородском Казанской (позднее Симбирской) губернии. Получил домашнее образование, несколько лет обучался в частном пансионе Ф. Ф. Кабрита в Симбирске.
Восстание Пугачёва вынудило семью Дмитриева переехать в Москву. На 14-м году жизни весной 1774 года Дмитриев отправился в Петербург на службу в гвардейский лейб-гвардии Семёновский полк и вскоре принялся сочинять стихи. Первые стихотворные опыты относятся к 1777 году, писались под воздействием журналиста Николая Новикова и носили большей частью сатирический характер; автор их впоследствии уничтожил.
Дебют в печати состоялся в журнале Новикова «Санкт-Петербургские учёные ведомости», где в 1777 году было напечатано стихотворение «Надпись к портрету князя А. Д. Кантемира» с пожеланием успехов юному поэту. Ориентиром для Дмитриева служили стихи Ломоносова, Сумарокова, Хераскова. Дмитриев основательно ознакомился с произведениями лучших писателей французской литературы, а также и с римскими и греческими классиками во французских переводах.
В 1783 году состоялось знакомство с Николаем Карамзиным. Под его влиянием Дмитриев обратился к книгам французских просветителей. В Карамзине Дмитриев нашёл не только друга, но и руководителя в литературных занятиях, советам и указаниям которого безусловно подчинялся. Вслед за тем Дмитриев сблизился с Державиным. Знакомство с ним, по словам Дмитриева, «открыло ему путь к Парнасу»; в доме его он перезнакомился почти со всеми современными писателями.
В 1791 году в «Московском Журнале», который издавал Карамзин, появился целый ряд произведений Дмитриева, в том числе и самая его известная песня «Голубок» («Стонет сизый голубочек»). Последняя тотчас же была положена на музыку и получила самое широкое распространение. Вслед за «Московским Журналом» Карамзин приступил к изданию «Аглаи» и «Аонид», в которых Дмитриев также принял участие.
В 1795 году в Московской университетской типографии вышло первое издание его стихотворений под заглавием «И мои безделки». По версии исследователя Виктора Трофимовича Чумакова, книга стала первым печатным изданием, в котором встречается буква «ё». Первым словом, отпечатанным с буквой «ё», было «всё», затем «огонёк», «пенёк», «безсмёртна», «василёчик».
В том же году Дмитриев приступил к изданию песенника, в который вошли как его собственные песни, так и песни других поэтов, и который вышел в 1796 году под заглавием «Карманный песенник, или собрание лучших светских и простонародных песен».
В начале 1796 года Дмитриев получил чин капитана гвардии и взял годовой отпуск с намерением выйти в отставку. Однако смерть Екатерины II заставила его вернуться в Петербург, где он был неожиданно арестован по обвинению в подготовке покушения на Павла I. После выяснения недоразумения Дмитриев пользовался особыми милостями императора и в 1797 году был назначен товарищем министра уделов, затем обер-прокурором Сената. В конце 1799 года он добился отставки, поселился в Москве и целиком отдался литературной работе.
В 1806 году Дмитриев вернулся на службу, исполняя сенаторские обязанности в Москве. В 1809 г. произошла его встреча с маленьким Александром Пушкиным. Случилось это в московской усадьбе графа Бутурлина, на Яузе. Дмитриев сказал о Пушкине: «Посмотрите,ведь это настоящий арабчик». Позднее он способствовал поступлению Пушкина в Царскосельский лицей. В 1810 году Дмитриев был назначен членом Государственного совета и министром юстиции. По окончании Отечественной войны в 1814 году он попросил об отставке, был уволен и в том же году уехал в Москву, где с 1816 по 1819 годы состоял председателем комиссии для оказания помощи жителям Москвы, пострадавшим от нашествия французов, за успешное выполнение которого он был награждён чином действительного тайного советника и орденом св. Владимира I степени. После этого Дмитриев окончательно оставил служебную деятельность. Последние годы своей жизни Дмитриев провёл почти безвыездно в Москве. Мало занимаясь литературными делами, он написал лишь несколько басен и литературных мелочей и исправлял старые стихотворения для новых переизданий трёхтомного собрания сочинений.
Умер в Москве 3 (15) октября 1837. Похоронен на Донском кладбище в Москве.
Известность Дмитриеву принесли стихотворные сказки и песни, публиковавшиеся в «Московском Журнале». 1794 год, по собственным словам Дмитриева, был для него самым «пиитическим годом». В этом году написаны лучшие его произведения — оды «К Волге», «Глас патриота на взятие Варшавы», «Ермак» и сатира «Чужой толк», сразу доставившие ему почетное место среди современных ему поэтов.
Басни и сказки Дмитриева, хотя они почти все переведены с французского, считались лучшим украшением его литературного венка, чему сильно способствовали внешние их качества — легкий язык, свободная и плавная версификация. Настоящим уделом его таланта была, несомненно, сатира.
Сатирическое направление видно во многих его произведениях, но особенно резко оно выразилось в «Чужом толке». Сатира эта была вызвана распространившейся тогда страстью писать оды. Осмеивая одописцев, Дмитриев имел в виду не Ломоносова или Державина, а их многочисленных подражателей, из которых большинство не только не обладало поэтическим дарованием, но даже не понимало, в чём заключается сущность поэтических произведений вообще. Стараясь освободить стихотворный язык от тяжелых и устарелых форм, придать ему легкость, плавность и привлекательность, Дмитриев явился, наряду с Карамзиным, одним из преобразователей русского стихотворного языка.