Происходит из шведской фамилии Weldman. Отец его служил в лейб-гвардии гренадерском полку. В 1811—1812 г. Вельтман поступил в Московский университетский благородный пансион, но занятия его были прерваны нашествием французов. В 1814 году он перешёл в частный пансион Терликова, а в 1816 году — в училище колонновожатых, откуда в следующем году выпущен офицером в свиту императора по квартирмейстерской части. В бытность колонновожатым Вельтман составил «Начальные основания арифметики» (Москва, 1817). В 1828—1829 гг. во время турецкой кампании Вельтман находился при главной квартире старшим адъютантом генерального штаба, а в 1831 г. вышел подполковником в отставку. Плодом полученной им перед тем командировки в Бессарабию был его труд «Начертание древней истории Бессарабии» (M., 1828). С этого времени Вельтман отдается литературе, а немного позже занимается усердно и историей.
Первые литературные публикации Вельтмана появлялись в журнале «Сын отечества» с 1825 г. (отрывки из «Беглеца», лирические стихотворения).
Первыми вышедшими отдельными изданиями литературными произведениями Вельтмана были «Беглец» (повесть в стихах; М., 1831), «Странник» (роман; М., 1831—1832), «Муромские леса» (повесть в стихах; М., 1831).
Затем последовал целый ряд исторических и фантастических романов: «MMMCDXLVIII год, рукопись Мартына Задеки» (M., 1831); «Кощей Бессмертный» (М., 1833); «Святославич, вражий питомец» (М., 1835); «Лунатик» (1836); «Александр Филиппович Македонский» (Москва, 1836); «Виргиния» (Москва, 1837); «Сердце и думка» (М., 1838); «Генерал Каломерос» (М., 1840); «Новый Емеля, или Превращения» (М., 1845) и, наконец, масса повестей в стихах и прозе. Во всех этих произведениях Вельтман обнаружил оригинальный и блестящий талант. Однако сложность происшествий лишают произведения Вельтмана естественности. Излюбленной формой его творчества была смесь прозы и стихов, в которой он достиг виртуозности.
Вельтман оставил несколько интереснейших исторических исследований — «Аттила. Русь IV и V века» и «Индо-Германы или Сайване» — где продемонстрировал глубокое знание и понимание истории, переданной древними летописями. Эти работы и по сей день вызывают огромный интерес своими выводами. Однако шквал яростной критики со стороны реакционно настроенных ученых, как в прошлом, так и в настоящем, приводит к замалчиванию этих исследований. В 1842 г. он стал помощником директора московской Оружейной палаты, а в 1845 г. был назначен членом комитета для издания «Древностей Российского государства», которые выходили под его редакцией и в которых текст 2, 3 и 5 отд. принадлежит ему. В 1852 г. Вельтман назначен был директором Оружейной палаты.
Писатель создал первый русский утопический роман «MMMCDXLVIII год. Рукопись Мартына Задека» (1833) — рассказ о жизни через полторы тысячи лет, в 3448 г. В этом произведении развивались социальные утопии XVIII века и отразились передовые идеи русской философии 1820-х годов.
В романе «Александр Филиппович Македонский. Предки Калимероса» (1836) впервые был использован прием путешествия во времени, ставший с легкой руки Г. Уэллса обычным для литературы XX века. В рассказе «Не дом, а игрушечка!» (1850) рядом с литературными героями и двумя домовыми действуют реальные люди — П. В. Нащокин и А. С. Пушкин.
Рассказ «Иоланда» занимает особое место в творчестве писателя и фантастический элемент в ней особого рода. Это рассказ о событиях частной и общественной жизни во Франции XIV в. Эпизоды в мастерской церопластика Гюи Бертрана, в суде инквизиции, на аутодафе, у собора связаны сложной композицией. В рецензии на «Иоланду» отмечается, что этот «рассказ, в котором столько чудес, столько нечаянностей, кажется, не кончен; но профиль и подробности отдаленного века обрисованы мастерской кистью». Загадку автора можно разгадать лишь косвенно, и у читателя остается впечатление непостижимого, почти мистического стечения обстоятельств, приведших всех героев к гибели.
«Иоланда» ставит Вельтмана в ряд зачинателей детективного жанра в России и в чём-то роднит его с писавшим в то же время Эдгаром По.