Переулок возник в конце 1970-х годов, но долго оставался безымянным. Лишь 19 августа 2002 года он получил название по городу Рогачёву Гомельской области в Белоруссии. Название связано с тем, что Гомельская область является побратимом Красносельского района, а также с местом рождения Героя Советского Союза П. А. Пилютова в деревне Лучин под Рогачёвом.
Городские имена сегодня и вчера: Петербургская топонимика / сост. С. В. Алексеева, А. Г. Владимирович, А. Д. Ерофеев и др. — 2-е изд., перераб. и доп. — СПб.: Лик, 1997. — 288 с. — (Три века Северной Пальмиры). — ISBN 5-86038-023-2.
Зодчие Санкт-Петербурга. XIX — начало XX века / сост. В. Г. Исаченко; ред. Ю. Артемьева, С. Прохватилова. — СПб.: Лениздат, 1998. — 1070 с. — ISBN 5-289-01586-8.
Горбачевич К. С., Хабло Е. П. Почему так названы?: О происхождении названий улиц, площадей, островов, рек и мостов Санкт-Петербурга. — 5-е изд., перераб. — СПб.: Норинт, 2002. — 353 с. — ISBN 5-7711-0019-6.