Николай Васильевич Сергеев родился 4 декабря 1894 года в селе Озерки Курской губернии в семье дворянина.
Окончив в 1917 году Первую московскую гимназию, Сергеев поступил на физико-математический факультет Московского университета и одновременно устроился работать агентом в кооперативе.
В декабре 1919 года, не окончив учебу в университете, Николай Сергеев ушел добровольцем в армию, где проходил службу до мая 1921 года в городе Щигры Курской области. С 1920 года он работал секретарем гарнизонного клуба и участвовал в постановках отдела народного образования.
Демобилизовавшись в сентябре 1921 года, Николай Сергеев поступил на актерский факультет Московского театрального техникума имени Луначарского, одновременно подрабатывая агентом на железной дороге и в музее наглядных пособий при Московском Союзе художников. Окончив театральный техникум в 1925 году, Николай Сергеев стал актером Московского дома самодеятельного искусства имени Поленова. Но спустя два года он сменил место работы, и с 1927 года по 1930 год работал в профклубной мастерской при ВЦСПС, а с 1930 года по 1932 год — в Доме самодеятельного искусства имени Крупской.
С 1932 года по 1936 годы Николай Сергеев был актером театра ВЦСПС, а в 1936 году вошел в труппу Центрального Театра Красной Армии. Во время войны, с 1942 года по 1943 год, Сергеев работал в Московской филармонии, а с марта по октябрь 1943 года был актером 1-го фронтового театра ВТО. В октябре 1943 года Николай Васильевич вернулся в труппу ЦТСА, где работал до 1959 года.
Дебют Николая Сергеева в кино состоялся в 1937 году в фильме «Глубокий рейд», где актер сыграл командира фашисткой эскадрильи. Но настоящее признание пришло к Сергееву только в 1954 году, после того как он исполнил роль рабочего Басманова в фильме Иосифа Хейфица «Большая семья». В этой картине актера заметил Михаил Швейцер и пригласил его создать совершенно противоположный образ скупого крестьянина Силантия Ряшкина в фильме «Чужая родня», снятом им в 1955 году. С этого момента Николая Сергеева стали приглашать сниматься ведущие советские режиссеры, и вскоре он оставил театр, чтобы целиком посвятить себя работе в кино.
После съемок в «Чужой родне» Сергеев создал огромное количество разноплановых образов, в каждом из которых был неподражаем и убедителен: Игнат Гмызин в фильме «Тугой узел», Василий Базаров в фильме «Отцы и дети», капитан Сергеев в фильме «Мичман Панин», Василий Сугробин в фильме «Битва в пути», отец Гусева в фильме «Девять дней одного года» и Феофан Грек в фильме «Андрей Рублев».
В личной жизни Николай Васильевич был счастлив. Он более пятидесяти лет прожил в счастливом браке с актрисой Ольгой Васильевной Долговой, вместе с которой работал в Центральном Театре Советской Армии. Когда Сергеев стал активно сниматься и ушел из театра, Ольга Долгова также покинула театр, чтобы посвятить свою жизнь заботе о муже. У Сергеевых не было детей, поэтому они очень заботились о племяннице Светлане, жившей у них дома и называвшей Николая и Ольгу своими духовными наставниками.
Алексей Баталов рассказывал, что Николай Васильевич был очень образованным человеком, хорошо знавшим историю и археологию. Он был также исключительно интеллигентным, порядочным и добрым человеком. Когда в середине 1950-х годов у Сергеевых появилась дача, Николай Васильевич много времени уделял выращиванию и выхаживанию роз, которые были его большим увлечением. У него на даче было пять больших клумб и огромная аллея с розами.
В конце 1970-х годов из-за своего преклонного возраста Николай Сергеев стал реже сниматься в кино. Его последней работой стала роль в фильме «Расследование», которую актер сыграл в возрасте 85 лет. Мало кто из зрителей знает, что в фильме «Как царь Петр арапа женил» Николай Сергеев также снимался в очень преклонном возрасте — ему на тот момент было 82 года.
В 1979 году, в день 85-летия, пожилому актеру был вручен орден, но на 90-летие о Сергееве никто из коллег уже не вспомнил.
Зимой 1988 года Николай Васильевич во время падения сломал шейку бедра, после чего актера доставили в больницу, где 8 января 1988 года он скончался. Проводить в последний путь Николая Сергеева пришли только режиссер Иосиф Хейфиц и несколько родственников. Ольга Долгова от аналогичной травмы скончалась в 1991 году.
Николай Васильевич Сергеев был похоронен на Ваганьковском кладбище.
Фильмография:
1980 Расследование — Николай Егорович
1979 Старшина
1977 Риск — благородное дело — Николай Васильевич, настройщик
1976 Сказ про то, как царь Петр арапа женил — Афанасий Ртищев
1976 Опровержение — Снежинский
1976 Вишнёвый сад (ТВ) — Фирс
1975 Прошу слова — Степан Трофимович
1975 От зари до зари — Силантий Мироныч Бревнов
1975 Концерт для двух скрипок — дед Оли
1974 Моё поколение (ТВ)
1974 Выбор цели — доктор
1973 Нейлон 100% — иллюзионист Сольди, вернулся с «отдыха» на Севере
1973 Назначение — Михаил Щеглов
1973 Капля в море — учитель природоведения
1973 Высокое звание
1972 Моя жизнь — Редька
1972 Меченый атом — Афанасий Кузьмич
1971 Ход белой королевы — Иван Чудинов, дедушка Степана
1971 Достояние республики — Данила Косой
1970 О друзьях-товарищах (ТВ) — Илья Ильич Великжанов, старый профессор-историк
1970 Карусель — старый дирижер
1970 Возвращение Святого Луки — музейный хранитель
1970 Бег — гробовщик
1969 Трое — приказчик
1969 Пять дней отдыха — гробовщик
1969 Песнь о Маншук — инженер
1968 Золотой теленок … Синицкий
1967 Разбудите Мухина! — учитель физики / Галилей
1967 Звезды и солдаты — монах
1966 – 1969 Андрей Рублёв — Иконописец Феофан Грек
1966 Серая болезнь — Александр Васильевич Сперанский, отец Вадима
1966 Просто девочка — печатник Цветков
1966 Лунные ночи — дед лесник
1966 В городе С — мужик
1965 Время, вперед! — Иван Кузьмич, кассир
1965 Вниманию граждан и организаций — сторож в парке
1965 Авария — Алексей Николаевич, адвокат
1964 Жили-были старик со старухой — Николай, бухгалтер совхоза
1964 Где ты теперь, Максим? — сосед Генки Потапова в разрушенном доме
1963 Живые и мертвые — Зосима Иванович, сосед Синцова
1963 Домик в дюнах — дед
1962 Течёт Волга — Степан Тимофеевич, капитан буксира «Богатырь»
1961 Укрощение строптивой (ТВ) — старый учитель
1961 Девять дней одного года — отец Гусева
1961 Горизонт — Сомов, совхозник
1961 Битва в пути — Василий Васильевич Сугробин, дедушка Сергея
1960 Воскресение — тюремный смотритель
1960 Серёжа — Лукьяныч
1960 Пять дней, пять ночей — Шагин, искусствовед
1960 Мичман Панин — Николай Васильевич Сергеев, капитан
1959 Солнце светит всем — Максим Петрович Савельев, отец Николая
1959 Снежная сказка — часовой мастер
1959 Василий Суриков — Чернобородый
1958 Трудное счастье — Овсей Ермолин, кулак, деревенский староста
1958 Отцы и дети — Василий Иванович Базаров
1957 Телеграмма (короткометражный) — Тихон Иванович
1956 Саша вступает в жизнь — Игнат Егорович Гмызин, председатель колхоза
1956 На подмостках сцены — часовой на шлагбауме
1955 Чужая родня — Силантий Ряшкин, отец Стеши
1955 Дорога — Павел Петрович Фальковский, парикмахер
1954 Большая семья — Басманов, старый рабочий — кораблестроитель
1944 Родные поля — Унылый
1937 Глубокий рейд — командир фашисткой эскадрильи