Отец — граф Константин Петрович Толстой. Мать — Анна Алексеевна Перовская, воспитанница графа А. К. Разумовского. Она разошлась с мужем сразу после рождения ребёнка по неизвестным причинам. Вместо отца Алексея воспитывал дядя по матери А. А. Перовский, известный писатель, печатавшийся под псевдонимом Антоний Погорельский. Раннее детство Алексей провёл на Украине, в имении дяди. С 10-летнего возраста мальчика возили за границу, путешествие по Италии 1831 г. он описал в дневнике. Толстой принадлежал к детскому окружению наследника престола, будущего Александра II.
В 1834 году Толстого определили «студентом» в московский архив Министерства иностранных дел. С 1837 года он служил в русской миссии в Германии, в 1840 году получил службу в Петербурге при царском дворе. В 1843 году — придворное звание камер-юнкера.
В конце 1830-х — начале 1840-х годов написаны (на французском языке) два фантастических рассказа — «Семья вурдалака» и «Встреча через триста лет». В мае 1841 года Толстой впервые выступил в печати, издав отдельной книгой, под псевдонимом «Краснорогский» (от названия имения Красный Рог), фантастическую повесть «Упырь». Весьма благожелательно отозвался о повести В. Г. Белинский, увидевший в ней «все признаки ещё слишком молодого, но, тем не менее, замечательного дарования».
Зимой 1850/51 года Толстой влюбился в жену конногвардейского полковника Софью Андреевну Миллер (урождённая Бахметева, 1827—1892). Брак их был официально оформлен только в 1863 году, так как ему препятствовали, с одной стороны, муж Софьи Андреевны, не дававший ей развода, а с другой — мать Толстого, недоброжелательно относившаяся к ней. После отставки со службы в 1861 году Толстой только изредка наезжал в столицу. Жил в усадьбе «Пустынька» на берегу реки Тосны под Санкт-Петербургом (не сохранилась) или в ещё более далёком от столицы Красном Роге (Черниговской губернии, Мглинского уезда). В 1860-1870-х гг. много времени проводил в Европе (Италия, Германия, Франция, Англия). Печатался в журналах «Современник», «Русский вестник», «Вестник Европы» и др. Сборник стихотворений вышел в 1867 г.
28 сентября 1875 года, во время очередного сильнейшего приступа головной боли, Алексей Константинович Толстой ошибся и ввёл себе слишком большую дозу морфия (которым лечился по предписанию врача), что привело к смерти писателя.
Музей-усадьба Алексея Толстого расположена в Красном Роге (ныне Почепский район Брянской области). Здесь граф провёл детские годы, неоднократно возвращался в эти места в зрелом возрасте, здесь же и был похоронен.
Создатель баллад, сатирических стихотворений, исторического романа «Князь Серебряный» (опубликован в 1863 году), драматической трилогии «Смерть Иоанна Грозного» (1866), «Царь Фёдор Иоаннович» (1868) и «Царь Борис» (1870). Автор проникновенной лирики, с ярко выраженным музыкальным началом, психологических новелл в стихах («Средь шумного бала, случайно…», «То было раннею весной»).
В 1898 году постановкой драмы А. К. Толстого «Царь Фёдор Иоаннович» открылся Московский Художественный театр.
Совместно с братьями Жемчужниковыми создал пародийный образ Козьмы Пруткова (более половины произведений Козьмы Пруткова, особенно в поздний период, авторства А. К. Толстого). Большая часть политических сатир опубликована посмертно.