Весной 1934 г. Лю Шаоци был назначен секретарем комитета КПК провинции Фуцзянь. С октября 1934 г. принимал участие в переходе Красной армии Китая на северо-запад страны.
В январе 1935 г. Лю Шаоци участвовал в расширенном совещании Политбюро ЦК КПК в Цзуньи (провинция Гуйчжоу), на котором Мао Цзэдун занял место высшего руководителя Коммунистической партии Китая. Во время перехода в сентябре-октябре 1935 г. 1-й армии под командованием Пэн Дэхуая в советский район Северной Шэньси Лю Шаоци был начальником ее политотдела. 9 декабря 1935 г. в Пекине началось движение студентов, протестовавших против позиции правительства страны по отношению к разворачивавшейся тогда агрессии Японии против Китая. Это движение было довольно успешным, причем в определенной степени благодаря тому, что Лю Шаоци, который в мае 1935 г. был назначен заведующим отделом ЦК КПК по работе в районах, находившихся под властью Гоминьдана, избрал верную тактику деятельности в «белых районах». При помощи Пэн Чжэня и Ань Цзывэня он наладил связи в студенческой среде и убедил многих студентов вступить в Коммунистический Союз молодежи Китая.
В этот же период по инициативе Лю Шаоци ЦК КПК, учитывая необходимость сосредоточить все силы найми на оказании отпора агрессии со стороны Японии, принял решение позволить партийным активистам, находившимся в то время в гоминьдановских тюрьмах, согласиться с требованием властей и подписать обязательства не вести антиправительственную деятельность, так как в этом случае им гарантировалось освобождение. В числе этих людей, получивших возможность выйти из тюрем и активно включиться в работу, были будущие видные политические деятели, члены Политбюро ЦК КПК и министры КНР Бо Ибо, Лю Ланьтао, Яо Илинь и др. (впоследствии они подверглись репрессиям в ходе «культурной революции»).
Весной 1936 г. Лю Шаоци был направлен уполномоченным ЦК КПК в город Тяньцзинь, где и возглавил работу Бюро ЦК КПК по Северному Китаю. Главной задачей Лю Шаоци в то время было установление связей с воинскими частями сражавшейся против японцев китайской армии, чтобы усилить в этих частях влияние Компартии Китая. В этот период он всемерно способствовал образованию единого общенационального антияпонского фронта в Шаньси, Хэбэе, Пекине, Тяньцзине, а также росту численности членов Федерации студентов Северного Китая.
В период Войны Сопротивления Японии (1937–1945) Лю Шаоци возглавил работу по созданию в тылу японцев опорных баз для борьбы против агрессии. Успех в этом деле стал возможен благодаря его характеру, немногословию, необыкновенной трудоспособности, умению анализировать и составлять документы.
Тактика работы Лю Шаоци в «белых районах» заключалась в том, чтобы действовать, занимая главным образом оборонительные позиции, и полагаться преимущественно на легальные методы работы, т. е. опираться на организации, которые выглядели неприметно, существовали легально, но тайно осуществляли деятельность в интересах КПК. большое внимание Лю Шаоци также уделял координации подпольной работы в городских районах с вооруженными действиями в сельской местности. Он делал упор на мобилизацию масс, на работу на низовом уровне, но в то же время стремился сплачивать и высокообразованных людей, видных представителей интеллигенции — всех тех, с кем можно было вступить в союз и кто сам был способен пойти на взаимодействие с коммунистами. Лю Шаоци умело использовал противоречия в стане противника, настраивая одних, менее опасных врагов против других, гораздо более опасных.
В апреле 1937 г., выступая перед студентами в районах, находившихся под властью Гоминьдана, Лю Шаоци говорил о том, что наступило время для легализации прежней скрытой деятельности и развития массового движения; Более того, он добавил, что Война Сопротивления Японии стала неизбежной, поэтому надо быть готовыми вести партизанские действия против захватчиков в Северном Китае.
После начала Войны Сопротивления Японии (7 июля 1937 г.) Лю Шаоци перевел Бюро ЦК КПК по Северному Китаю в город Тайюань— штаб-квартиру губернатора провинции Шаньси Янь Сишаня, который одновременно был и командующим войсками Китайской Республики в этом регионе страны. В Тайюане Лю Шаоци играл одну из центральных ролей при принятии дипломатических решений в рамках единого фронта между КПК и партией Гоминьдан Китая в ходе Войны Сопротивления Японии. Лю Шаоци, подчинив формально свою организацию командованию Янь Сишаня, по существу, однако, стремился таким образом направлять его действия, чтобы они отвечали общим интересам китайской нации.
В 1938–1939 гг. Лю Шаоци работал в Якьани в качестве руководителя отдела по подготовке кадровых работников (его пещера была рядом с той, в которой жил и работал Мао Цзэдун). Лю Шаоци действовал в тесном сотрудничестве с организационным отделом ЦК КПК, выполняя также обязанности секретаря Бюро ЦК КПК по Центральному Китаю, а затем и секретаря Комиссии ЦК КПК по профдвижению. В течение этих двух лет он преподавал историю КПК в Яньаньской партийной школе. Серия лекций на эти темы и составила впоследствии основу известной работы Лю Шаоци «О самовоспитании коммуниста» (или «Как быть хорошим коммунистом»), В этой работе Лю Шаоци стремился соединить понятие нравственности в ее коммунистическом толковании с китайскими традициями; он считал, что в ходе практической борьбы коммунист должен постоянно заниматься самовоспитанием, безоговорочно подчиняя личные интересы интересам партии; он также призывал действовать в соответствии с принципами, но в случае необходимости идти на компромиссы, сохраняя равновесие между ними.
Когда в 1941 г. командующий Новой 4-й армии коммунист Е Тин был взят в плен войсками Гоминьдана, а политический комиссар этой армии Сян Ин убит, ЦК КПК назначил исполняющим обязанности командующего Новой 4-й армии Чэнь И, а ее политкомиссаром — Лю Шаоци. На этом посту Лю Шаоци стремился преобразовать входившие в нее отряды в профессиональные армейские подразделения, а также способствовать завоеванию армией новых территорий. Одновременно Лю Шаоци, будучи секретарем Бюро ЦК КПК по Центральному Китаю, придавал большое значение созданию органов власти в освобожденных районах и учреждению на всей этой территории партийных ячеек. Таким образом, Лю Шаоци был твердо убежден в том, что следует, укрепляя единый фронт с Гоминьданом, в союзе с ним вести войну против японских агрессоров и параллельно отстаивать классовые интересы, учреждая в опорных базах свою власть.
В конце 1942 г. Лю Шаоци был переведен на работу в Яньань и принял активное участие в проводившемся в КПК «движении за исправление стиля работы» (чжэнфэн), нацеленном на утверждение безоговорочного авторитета Мао Цзэдуна внутри партии. В качестве одного из важнейших документов, изучавшихся в ходе этого движения, использовалась изданная лекция Лю Шаоци «О борьбе внутри партии», в которой, в частности, говорилось о необходимости критики и самокритики внутри партии, а также о сочетании в отдельных случаях принципиальной борьбы и компромиссов, Лю Шаоци оставался в Яньани вплоть до конца антияпонской войны, за исключением кратковременного визита в Шаньдун и Хэбэй, и продолжал напряженно работать, укрепляя опорные базы КПК в тылу врага.
В течение многих лет Лю Шаоци также содействовал развитию промышленного производства в пограничном районе Шэньси-Ганьсу-Нинся. Оценивая эти достижения, он отмечал, что за десять лет, с 1935 по 1945 г., удалось существенно расширить промышленную базу в этом районе: если в 1935 г. там были мелкие ремонтные мастерские с десятками рабочих, то в 1945 г. на промышленных предприятиях рабочих было уже более 10 тыс.
Итак, вполне очевидно, что есть основания говорить о том, что Лю Шаоци в 30-х и в первой половине 40-х годов превратился в одного из высших руководителей партии в районах, находившихся под властью Гоминьдана или японцев. Деятельность, которую он осуществлял в эти годы, позволила ему наладить многочисленные и прочные связи с широким кругом руководящих партийных работников и в Северном, и в Восточном Китае. За период 1937–1950 гг. Лю Шаоци создал партийный аппарат на громадной территории — от р. Янцзы до Маньчжурии и от Восточно-Китайского моря до верховьев р. Хуанхэ, а численность членов партии возросла соответственно с 40 тыс. до 5 млн. 800 тыс.
В апреле 1943 г. Лю Шаоци стал членом Секретариата ЦК КПК, состоявшего в то время из пяти человек: Мао Цзэдуна, Чжу Дэ, Чжоу Эньлая, Жэнь Биши и Лю Шаоци. Тогда же он был назначен заместителем председателя Революционного военного совета (председателем совета был Мао Цзэдун). Заняв эти посты, Лю Шаоци, по сути дела, начал осуществлять руководство повседневной работой ЦК КПК.
В марте 1945 г. на VII съезде КПК, где Лю Шаоци выступил с докладом «О внесении изменений в Устав партии», он был избран членом Политбюро и членом Секретариата ЦК КПК. Когда Мао Цзэдун вылетал на переговоры с Чан Кайши в Чунцин, Лю Шаоци с 28 августа по 10 октября 1945 г. выполнял обязанности председателя ЦК КПК. В это время Лю Шаоци ведал работой Организационного отдела ЦК КПК и уже занимал в КПК положение второго лица, хотя при голосовании на VII съезде партии был третьим по числу набранных голосов, вслед за Мао Цзэдуном и Чжу Дэ.
В марте 1947 г., когда войска Мао Цзэдуна были вынуждены оставить Яньань, Политбюро ЦК КПК оказалось разделенным на две части. Мао Цзэдун, Чжоу Эньлай и Жэнь Биши остались в пограничном районе Шэньси-Ганьсу-Нинея. Лю Шаоци, Чжу Дэ и остальные члены ЦК партии перебрались в пограничный район Шаньси-Чахар-Хэбэй. Лю Шаоци был секретарем Рабочего комитета ЦК Компартии Китая и со своей группой оставался в городе Шицзячжуане на юге провинции Хэбэй вплоть до того времени, когда туда же прибыл Мао Цзэдун, и обе группы членов Политбюро ЦК КПК воссоединились в мае 1948 г.
Летом 1949 г. во главе делегации КПК Лю Шаоци третий раз в своей жизни побывал в Москве, где в преддверии создания КНР вел с И.В.Сталиным переговоры по самому широкому кругу вопросов, касающихся предстоящего развертывания сотрудничества между двумя партиями и государствами. В сентябре 1949 г. Лю Шаоци участвовал в работе первой сессии Народного политического консультативного совета Китая (НПКСК). Он был избран заместителем председателя Центрального народного правительственного совета КНР, заместителем председателя Народного революционного военного совета КНР, членом Постоянного комитета Всекитайского комитета НПКСК. В декабре 1949 — феврале 1950 г., когда Мао Цзэдун находился в СССР, Лю Шаоци заменял его, в частности председательствовал на пятом заседании Центрального народного правительственного совета КНР. В марте 1951 г. снова руководил работой Центрального народного правительственного совета КНР во время болезни Мао Цзэдуна.