
В 1973 году окончил Карагандинский политехнический институт по специальности «электрификация и автоматизация горных работ». Служил в Первом главном управлении КГБ СССР (ПГУ, внешняя разведка) в управлении «Т» — научно-техническая разведка.
В 1980-е годы работал в Дрезденской резидентуре КГБ вместе с Владимиром Путиным и Сергеем Чемезовым. В Дрездене Токарев жил с Путиным и Чемезовым в одном доме и даже в одном подъезде. По некоторым сведениям, в течение какого-то времени Николай Токарев был начальником Владимира Путина. Источники газеты «КоммерсантЪ» утвеРЖДают, что Токарева и Путина связывает личная дружба. До Дрездена Токарев служил в Лейпциге, а затем был переведен в Берлин.
В период с 1993 по 1996 годы Токарев был начальником отдела внешних связей в акционерном обществе закрытого типа «Русско-Германская лизинговая компания», дочерней структуре государственного Сбербанка России. В 1996-1999 годах работал в Управлении делами президента РФ заместителем генерального директора унитарного государственного предприятия по управлению собственностью за рубежом (УГП «Госзагрансобственность»).
В 1999-2000 годах являлся руководителем службы безопасности «Транснефти»; затем — вице-президентом компании, курировал ее внешнеэкономический блок, зарубежные проекты и информационно-аналитическую работу.
С сентября 2000 по октябрь 2007 годов — генеральный директор государственного предприятия «Российское внешнеэкономическое объединение "Зарубежнефть"» (ГП «РВО "Зарубежнефть"», с 2004 года — ОАО «Зарубежнефть»).
С 13 октября 2007 года — президент российской нефтепроводной госмонополии «Транснефть». На этом посту Токарев сменил Семена Вайнштока. При Токареве «Транснефть» достроила ВСТО, проложила ВСТО-2, расширила пропускную способность системы, а также ввела в эксплуатацию БТС-2, идущую в сторону Европы.
По мнению экспертов, «Транснефть» использовалась для финансирования бизнеса Группы "Сумма", подконтрольной дагестанскому олигарху, "кошельку" Дмитрия Медведева, Зиявудину Магомедову. В 2014-2016 годы «Транснефть» потеряла более 80 миллиардов рублей на использовании производных финансовых инструментов и около 19 миллиардов рублей вложений во Внешпромбанк и Банк «Интеркоммерц». Суммарно потери Транснефти за 2014 и 2015 годы составили более 100 миллиардов рублей, что в два раза превышает все дивиденды, выплаченные за всю историю компании.
Министр энергетики Российской Федерации Александр Новак в 2017 году наградил Николая Токарева медалью «За заслуги в развитии топливно-энергетического комплекса» I степени.
Женат, имеет дочь (Майя Токарева, в замужестве — Болотова). Майя Болотова — владелица фармацевтического холдинга «ФармЭКО» и «Ирвин 2», ее муж Андрей Болотов — управляющий директор управления по работе с крупными клиентами Банка ВТБ (сын отставного полковника ФСО РФ Юрия Болотова).