В 1985–1991 гг. работал в представительстве СССР при ООН.
С 1988 г. — первый секретарь постоянного представительства СССР при ООН.
По данным журнала «Коммерсант-Власть», был офицером внешней разведки КГБ. работавшим под дипломатическим прикрытием[33].
С 1991 г. — член правления Ленинградской (затем — Санкт-Петербургской) ассоциации совместных предприятий.
В апреле 1991 г. вместе с Юрием Ковальчуком и Сергеем Фурсенко основал ТОО «НТП ТЭМП». В 1991 г. — вице-президент НТП «Тэмп» (президент, генеральный директор — Сергей Фурсенко). С июня 1991 по апрель 1992 г. — главный консультант ТОО НИН «ТЭМП».
Участвовал в декабре 1991 г. в создании банка «Россия». Тогда же вместе с Юрием Ковальчуком и Виктором Мячиным основал НПП «Кварк» (позже — ЗАО «Корпорация Стрим»),
В апреле 1992 г. АОЗТ «НПП «Кварк» и швейцарская фирма «Беле-стра А.Г.» (Цюрих) учредили совместное предприятие (СП) «Бикар», зарегистрированное комитетом по внешним связям (КВС) мэрии Санкт-Петербурга (председатель КВС — Владимир Путин). С 1992 по 1997 год — генеральный директор АО «Бикар» (СП «Бикар» в фоме АОЗТ; с июня 1997 — ЗАО «Бикар»; в 1993 г. «Белестру» в числе учредителей сменила «Финистра АГ», а «Корпорацию Стрим» — фирма «Бикфин»),
С февраля 1993 г. — соучредитель ЗАО «Полупроводниковые приборы» (вошло в число акционеров банка «Россия», на 1995 год — 11,59 %).
В марте 1993 г. стал председателем совета директоров АОЗТ «Международный центр делового сотрудничества» (МЦДС) в Санкт-Петербурге.
По поручению городских властей Санкт-Петербурга в начале 1990-х представлял государство в советах директоров компании ЗАО «Европа-Отель», Балтийского морского пароходства.
В январе 1996 г. вошел в совет директоров банка «Россия» (на 1995 г. имел 0,17 % в уставном фонде банка «Россия»; на январь 1997 г. — 1 %).
С ноября 1996 г. — соучредитель дачного кооператива «Озеро» в Приозерском районе Ленинградской области (другие соучредители: Владимир Путин, Владимир Смирнов, Юрий Ковальчук, Андрей и Сергей Фурсенко, В.Мячин, Николай Шамалов).
В январе 1997 г. был избран в совет директоров БалтОНЭКСИМбанка (председатель совета директоров — Юрий Рыдник).
С апреля 1997 по октябрь 1999 г. — начальник Северо-Западной окружной инспекции Главного контрольного управления (ГКУ) президента РФ (руководитель ГКУ — сначала Владимир Путин, затем Николай Патрушев).
С октября 1999 по декабрь 2005 г. — председатель совета директоров ОАО «Компания «Усть-Луга».
В 1990-е годы Якунин начал активно участвовать в деятельности Фонда Андрея Первозванного, который финансирует мероприятия Русской православной церкви.
С октября 2000 по февраль 2002 г. — заместитель министра транспорта РФ (министр — Сергей Франк). Курировал администрации морских портов и инвестиции в портовые хозяйства.
С апреля 2001 г. — председатель совета директоров ОАО «Новошип» (Новороссийское морское пароходство).
С декабря 2001 г. — председатель попечительского совета фонда «Центра национальной славы России» (ЦНСР), в попечительский совет которого вошли Сергей Иванов, Владимир Кожин, Виктор Черкесов, Георгий Полтавченко, Сергей Чемезов, Виктор Казанцев, а также представители Московской Патриархии.
С января 2002 по апрель 2003 г. был председателем совета директоров ОАО «Восточный порт» (г. Находка).
В феврале 2002 был назначен первым заместителем министра путей сообщения РФ (министр — Геннадий Фадеев). Курировал вопросы координации различных видов транспорта, инвестиционные проекты.
С мая 2002 г. — член совета директоров (представитель государства) ОАО «Морской порт Санкт-Петербург».
С мая 2003 года — член совета директоров ОАО «Траснкредитбанк».
В июне 2003 г. был включен в утвержденный премьер-министром Михаилом Касьяновым состав российской части межправительственной рабочей группы при интеграционном комитете Европейского экономического сообщества.
С сентября 2003 года — член правительственной комиссии по транспортной политике.
В 2003 г. купил ЗАО «Миллениум Банк» (председатель правления — Михаил Байдаков; председатель совета директоров — Владимир Першин; в совете директоров также Наталья Якунина и Александр Мельник).
В 2003 г. после ареста Михаила Ходорковского и отставки руководителя администрации президента Александра Волошина СМИ писали о Якунине как об одном из кандидатов на пост руководителя администрации президента РФ[34].
В октябре 2003 г. был освобожден от должности поста первого заместителя министра путей сообщения РФ в связи с переходом на другую работу: первым вице-президентом ОАО «Российские железные дороги» («РЖД», президент — Геннадий Фадеев).
С 2004 г. — председатель совета директоров ОАО «Траснкредитбанк».
С августа 2004 по июнь 2005 г. — председатель совета директоров ЗАО «Компания ТрансТелеком».
С 15 июня 2005 г. до августа 2015 г. — президент РАО «РЖД».
С января 2006 г. является научным руководителем и председателем попечительского аппарата Центра проблемного анализа и государственно-управленческого проектирования при Отделении общественных наук РАН; среди членов попечительского совета — Дмитрий Мезенцев (бывший губернатор Иркутской области, ныне — генеральный секретарь Шанхайской организации сотрудничества), Георгий Полтавченко (ныне — губернатор Санкт-Петербурга), генеральный директор ГК «Ростех» Сергей Чемезов. В 2013 г. с деятельностью Центра был связан казус: в марте Центр опубликовал доклад «Избирательная система и успешность государства», в котором анализировались избирательные кампании 2011–2012 годов по выборам депутатов Государственной думы и президента России. Авторы доклада утверждали, что итоги выборов депутатов Государственной думы 2011 г. были сфальсифицированы, а в действительности «Единая Россия» уступила КПРФ. Победу Владимира Путина на выборах президента авторы назвали легитимной, но ему, по оценкам авторов, были приписаны 12 процентов голосов[35]. Владимир Якунин заявил об «отсутствии абсолютной научной достоверности модели, использованной в работе». Бывший депутат Государственной думы, автор доклада о фальсификациях на выборах Степан Сулакшин вынужден был уйти в отставку с поста генерального директора Центра.
Якунин выступал категорически против приватизации ОАО «РЖД», против дальнейшей приватизации компании «Трансконтейнер» (дочерней структуры ОАО «РЖД»)[36], против разрешения частным компаниям использовать локомотивную тягу[37].
С 2010 г. — заведующий кафедрой государственной политики факультета политологии МГУ им. М. В. Ломоносова
С января 2010 г. — член попечительского совета фонда «Русский мир» (председатель попечительского совета — Людмила Вербицкая, исполнительный директор правления — Вячеслав Никонов).
С 2012 г. — член попечительского совета Российского военноисторического общества, созданного по инициативе президента Путина.
12 декабря 2012 г. в Париже состоялось заседание Генеральной ассамблеи Международного союза железных дорог (МСЖГ), на котором президент ОАО «РЖД» Якунин был избран её председателем.
В 2013 г. Якунину удалось пролоббировать использование средств Фонда национального благосостояния для финансирования инвестиционной программы ОАО «РЖД» через механизм инфраструктурных облигаций.
Дача Якунина площадью 7 гектаров с 50-метровым бассейном, сауной 1400 квадратных метров и молитвенной комнатой с особым микроклиматом для дорогих икон и книг была расположена в деревне Акулинино городского округа Домодедово Московской области. Борис Немцов на своей странице в Facebook опубликовал скриншот документа, согласно которому Якунин владел земельным участком в населённом пункте Акулинино с февраля 2007 г. по февраль 2011 г.[38] Сам Якунин опроверг, что на территории дачи имеется шубохранилище, но это слово стало ассоциироваться с его именем.
В июне 2013 г. «Новая газета» опубликовала результаты расследования, согласно которому земельный участок, на котором расположен загородный дом с «шубохранилищем», после февраля 2011 г. перешёл в собственность к оффшорным компаниям с Кипра и Панамы, связанным с сыновьями президента «РЖД»[39].
В октябре 2013 г. управление государственного геодезического и земельного надзора Росреестра признало незаконным захват земли площадью более 27.000 кв. м рядом с дачей компанией Mirolo Investments Limited (Кипр), купившей дачу Якунина, и предписало устранить нарушения и выплатить штраф в 20 тысяч рублей[40].
В июле 2013 г. постановлением правительства РФ ОАО «РЖД» включено в список госкомпаний, руководители которых обязаны декларировать свои доходы и расходы. В июне 2014 г. стало известно, что Якунин отказался публично обнародовать свои доходы, ограничившись предоставлением этих сведений в налоговую инспекцию и правительство РФ.
В июле 2013 г. Алексей Навальный опубликовал расследование, раскрывающее офшорные схемы главы «РЖД». Навальный и сотрудники его Фонда борьбы с коррупцией обнаружили целую «бизнес-империю» Якунина и его сыновей, фирмы которой зарегистрированы в офшорах по всему миру. Это, в частности, сеть отелей, компания, владеющая участками в порту в Ленинградской области, курортный комплекс в Геленджике и другая недвижимость[41]. Навальный обратился, в частности, к президенту Путину и председателю правительства Медведеву с требованием отставки Якунина и публичного расследования деятельности его семьи. Также заявления были отправлены в Генпрокуратуру, Следственный комитет, всем парламентским партиям. Сам Якунин назвал эти обвинения безосновательными.