Учился в Тотемском уездном училище и в Вологодской духовной семинарии, которую из-за смерти отца не окончил, выбыв из 4 класса. В течение года работал народным учителем, затем поступил в Петербургский историко-филологический институт. По окончании института с 1 июля 1875 года был назначен преподавателем русской словесности и латинского языка в Архангельскую мужскую гимназию; по совместительству преподавал также в женской гимназии. Кроме этого, был редактором неофициальной части «Архангельских губернских ведомостей» и действительным членом Архангельского губернского статистического комитета. Здесь в 1877 году он издал свою первую книгу — «Учебник теории поэзии для V класса муж. и женск. гимназий» (Архангельск: тип. Губ. правл., 1877. — [2], II, 55 с.), которая регулярно переиздавалась (15-е изд. — Москва, 1896). В «Журнале Министерства народного просвещения» была напечатана его статья «Теория словесности как научный и учебный предмет».
С 15 октября 1884 года был назначен директором Орловской мужской гимназии и председателем педагогических советов двух орловских женских гимназий. С 1885 года он был также членом Орловской губернской учёной архивной комиссии и товарищем председателя Орловского церковно-историко-археологического общества, в сборниках которого печатал свои статьи и был техническим редактором[3].
В числе его учеников в Орловской гимназии был будущий писатель Леонид Андреев, что в некоторой степени свидетельствует о пользе методики преподавания литературных и лингвистических предметов[как?], которую поддерживал Белоруссов. Другой его ученик, литератор Павел Россиев, вспоминал много лет спустя:
Помнятся живые, осмысленные уроки, на которых улавливались, с помощью Ивана Михайловича, все изгибы и извивы «божественной эллинской речи», её полнозвучность и полновесность, и когда мы чувствовали в гомеровских рапсодиях музыкальную характерность языка наших былин; мы углублялись в тонкость Ксенофонтова «Анабазиса» и над какой-то частицей, недостойной ударения, а только придыхания, останавливались с той серьёзностью, с какой ботаник останавливается над клеткой или живой протоплазмой. Искусный преподаватель по-своему, кратко и удобопонятно предлагал синтаксические и грамматические мудрости… Основой воспитательной и педагогической мысли Белоруссова было беспрестанное возбуждение, укрепление и усиление сознательной и свободной деятельности учащихся, можно сказать — самообразование, построенное на твёрдой воле и сознательном труде, как святом долге каждого человека… Для Белоруссова русский язык стал солнцем, которое не только согревало его душу, но и являлось источником литературно-педагогической энергии, а эта, в свою очередь, была источником его интеллектуальной жизни.
— Россиев П. Иван Михайлович Белоруссов (По поводу 40-летия его педагогической деятельности) // Исторический вестник. — 1915. — № 6. — С. 934—942.
Уже в советское время идеологическая необходимость привела Л. Н. Афонина к выводу, что Белоруссов, «карьерист, не скрывавший своих реакционных воззрений… стремился поднять в гимназии „религиозный дух“, изгонял вольномыслие… Ходили слухи, что Белоруссов берёт взятки… Уроки Белоруссова по литературе были на редкость скучны… Службист Белоруссов преподавал литературу по бурсацкому способу „от энтих до энтих“». Этот вывод затем тиражировался[4].
Был награждён 1 января 1893 года орденом Св. Анны 2-й степени[5]. В 1897 году «по прошению» вышел в отставку и до 1911 года оставался в Орле, вёл активную деятельность; был почётным членом епархиального училищного совета (с 1899), трижды руководил преподаванием русского и церковнославянского языка на педагогических курсах для учителей церковно-приходских школ Орловской, Смоленской и Ставропольской епархий. Кроме этого, в 1906—1909 годах преподавал в Орловском Бахтина кадетском корпусе.
Являлся членом орловского Союза законности и порядка и литературного комитета при органе Союза — газете «Орловская речь»[6], а также деятелем Второго трезвенного движения Российской империи[7][8][9][10].
Имеются сведения, что позже он был также директором Уфимской частной мужской гимназии[11].
В 1914 году стал лауреатом Ахматовской премии за «Словарь Ломоносовского языка», бывший ещё в рукописи.
⟨…⟩ Встретила вчера на базаре Ивана Михайлыча… бредёт в своей соломенной широкополке, с корзиночкой, грязный, глаза гноятся … трясётся весь. Гляжу — лари обходит и молча кланяется. Один положил раздавленный помидор, другой — горсточку солёной камсы. Увидал меня и говорит: «Вот, голубушка… Христовым именем побираюсь! Не стыдно мне это старику, а хорошо… Господь сподобил принять подвиг: в людях Христа бужу!» ⟨…⟩[12]
Решительно заклинаю Вас! Спасите умирающего с голоду старика Ивана Михайловича Белорусова, автора многих руководств по русской словесности, большого труда о Ломоносове… Позор! Старика выгнали из Наробраза! Издевались!.. Старик побирается по базару! Собирает с пола в булочной крошки с грязью и варит! Я не могу ему ничего дать. Завтра отнесу последнее. И, заметьте, старик, ему 72 года, он бывший учитель Л. Андреева, директор Орловской гимназии, когда-то богатый человек, не имеет ни клочка белья, не имеет платья! И всё ещё слабой рукой работает над Ломоносовым! Это трагедия… Это безбожно! Это чудовищно! Десятки тысяч учились по его книгам. И нет ему куска… Татарская пекарня разрешила собирать с пола крошки с грязью…[13]
Умер старик вчера — избили его кухарки. Черпаками по голове били в советской кухне. Надоел им старик своей миской, нытьём, дрожаньем: смертью от него пахло… Лежит профессор, строгий лицом, в белой бородке, с орлиным носом, в чесучовом сюртуке форменном, сбережённом для гроба… лежит покойно — до будущего века. Аминь.
«Учебник по русской грамматике» Белоруссова был удостоен престижной премии Петра Великого. Так же, как и «Учебник теории поэзии», он регулярно переиздавался: в 1916 году вышло последнее издание (Учебник по русской грамматике / Сост. И. Белоруссов. — 26-е изд., испр. — Орёл: электр. тип. Губ. правл., 1916. — 2 т.).
Также были изданы:
«Чтение и разбор литературных образцов в средних учебных заведениях» (Варшава: тип. М. Земкевича и В. Ноаковского, 1880. — [2], II, 108 с.);
«Личность Пушкина и взгляд его на поэта и поэзию» (Воронеж, 1880) и «К биографии Пушкина» (Воронеж: тип. В. И. Исаева, 1882) — 2-е издание объединило эти сочинения под названием: «К литературе о Пушкине» (Орёл: тип. А. Н. Хализева, 1895. — 63 с.);
«Об особенностях в языке жителей Вологодской губернии» (Варшава: тип. М. Земкевича, 1887. — [2], 98, II с.), первоначально в «Русском филологическом вестнике» (1887, т. XVIII, № 4, с. 193—289);
«Зачатки русской литературной критики. Вып. 1—2» (Воронеж: тип. В. И. Исаева, 1888—1890);
«Древнерусская книжная и народная словесность. Хрестоматия с примечаниями к тексту и предисловиям о древнерусском языке» (Орёл: тип. Губ. правл., 1892. — X, 128 с.);
«Учебно-педагогические заметки» (2-е изд. — Орёл: тип. А. Н. Хализева, 1895. — [2], II, 99 с.);
«Дательный самостоятельный падеж в памятниках церковно-славянской и древне-русской письменности» (Варшава: тип. Варш. учеб. окр., 1899. — [2], 76 с.);
«Учебник теории словесности» (18-е изд. — Москва: Изд. книжн. маг. В. В. Думнова, 1900 (Типо-лит. А. В. Васильева). — 103, [1] с.);
↑Летопись Российской Академии наук / Рос. акад. наук, Ин-т истории естествознания и техники, С.-Петерб. фил.; гл. ред. Ю. С. Осипов. — Т. 4.: 1901—1934. — СПб.: Наука, 2007. — ISBN 5-02-025013-9. — С. 904.