У 1977 році здобув науковий ступінь доктора фізико-математичних наук, захистивши дисертацію на тему «Структура, динамические свойства и электронный спектр атомарно-чистой поверхности полупроводников».
З 1978 року — заступник директора з наукової роботи, паралельно — завідувач відділу фізико-хімії поверхні напівпровідників. З 2000 року — головний науковий співробітник[3][4].
Электрофизические свойства атомарно-чистых и легированных поверхностей германия и кремния: диссертация кандидата физико-математических наук : 01.00.00. — Киев, 1967. — 128 с. : ил.
Динамические свойства поверхностных решеток полупроводников: докл. Б. А. Нестеренко. — Новосибирск: [б. и.], 1972. — 7 с.; 20 см.
Диффузионные процессы на поверхности твердого тела — Новосибирск: [б. и.], 1975. — 14 с.; 20 см.
Структура, динамические свойства и электронный спектр атомарно-чистой поверхности полупроводников: диссертация доктора физико-математических наук : 01.04.10. — Киев, 1976. — 267 с. : ил.
Электронно-ионные процессы в конденсированных пленках паров молекул и перспективы их использования для целей газового анализа / Б. А. Нестеренко, Ю. М. Ширшов, В. В. Омельчук. — Новосибирск: Новосиб. ун-т, 1981. — 15 с. : ил.; 20 см.
Физические свойства атомарно-чистой поверхности полупроводников / Б. А. Нестеренко, О. В. Снитко. — Киев: Наук. думка, 1983. — 264 с. : ил.
Физические свойства атомарно-чистой поверхности полупроводников : / Б. Нестеренко, О. Снитко. — Москва: Наука, 1988. — 335 с. : граф.; 21 см.
Электронные, динамические и структурные характеристики собственных и инициированных никелем суперструктур на грани (110) кремния / Нестеренко Б. А., Мазниченко А. Ф., Шкребтий А. И. и др. — Киев: КИЯИ, 1989. — 25 с. : ил.; 19 см.
Фазовые переходы на свободных гранях и межфазных границах в полупроводниках / Б. А. Нестеренко, В. Г. Ляпин; АН УССР, Ин-т полупроводников. — Киев: Наук. думка, 1990. — 151,[1] с. : ил.