Член ВКП(б) с 1925. Член ЦК КП Украины (1938—1954). Кандидат в члены ЦК КПСС (1939—1956). Член ЦК КПСС (1956—1966). Кандидат в члены Политбюро ЦК КП Украины (1949—1954). Член Политбюро и первый секретарь ЦК КП Молдавии[рум.] (1954—1961).
Родился в с. Арбузинка Херсонской губернии (ныне — Николаевская область), в семье крестьянина-бедняка.
С 1917 года — рабочий на Юго-западной железной дороге. В 1923 вступил в комсомол. В 1923—1928 был на профсоюзной и комсомольской работе в Одесской губернии.
В 1928—1931 учился в Высшей школе профдвижения, затем на профсоюзной работе в Москве.
Сергей Хрущёв, сын Хрущёва Н. С. в своей книге «Никита Хрущев. Реформатор» писал: «Отец знал Сердюка с 1938 года (с переходом Хрущёва с работы в Москве на Украину). В [Киевском] обкоме ему приглянулся тридцатипятилетний смышленый, расторопный Сердюк. Он стал правой рукой отца, а на следующий год его избрали Секретарем Киевского обкома. С тех лет они дружили».
С 22 марта1947 года по февраль 1949 года — первый секретарь Киевского областного комитета КП Украины. В 1949—1952 — секретарь ЦК КП Украины. В 1952—1954 — первый секретарь Львовского областного комитета КП Украины.
С декабря 1965 года — персональный пенсионер союзного значения.
На XVIII—XIX съездах КПСС был избран кандидатом в члены ЦК КПСС, а на XX[1] и XXII съездах — членом ЦК КПСС. Депутат Верховного Совета СССР 1-6 созывов. Депутат Верховного Совета Молдавской ССР 4-5 созывов.
В соответствии с идеями съезда призвал к широкой перестройке органов партийного и государственного контроля от канцелярского формально-бюрократического подхода к участию каждого коммуниста, к всенародному движению за борьбу против всего, что мешает движению к коммунизму, в том числе против «хозяйственного обрастания и частнособственнических поползновений», к воспитанию советских людей в духе Морального кодекса строителей коммунизма[2].