Народився 24 вересня1816 року в місті Новгороді-Сіверському на Чернігівщині у міщанській родині. Спочатку навчався у приватній школі, а 1828 року вступив до Новгород-Сіверської гімназії, очолювану на той час видатним вченим Іллєю Тимковським. 1840 року Михайло Чалий закінчив гімназію і того ж 1840 року вступив на історико-філологічний факультет Київського університету, який закінчив 1844 році.
Після закінчення університету починається багаторічна педагогічна діяльність Михайла Чалого. Того ж 1844 року він стає вчителем словесності Немирівської гімназії. А 1852 року Михайло Чалий починає працювати у Другій київській гімназії, спершу вчителем словесності. 1858 року він стає інспектором гімназії, певний час, за відсутності директора, виконує обов'язки керівника гімназії.
Належав до гуртка вчених, що гуртувалися довкола журналу «Киевская Старина». Друкувався в «Основі» (1862) і в «Киевской Старине» (1899). Авторкниг «Жизнь и произведения Тараса Шевченка» (1882) і спогадів.
Вшанування пам'яті
Вулиця Михайла Чалого існує у містах Біла Церква, Київ, Новгород-Сіверський, Покровськ.
Речь, произнесенная над гробом академика Тараса Григорьевича Шевченко 7 мая 1861 года // Киевский телеграф.— 1861.— 14.05.— № 34; Санкт-Петербургские ведомости.— 1861.— 30.05.— № 119.
Сава Ч. (Новые) материалы для биографии Т. Г. Шевченка // Основа.— 1862.— № 5.— С. 45—61; № 6.— С. 1—27.
Из записок Украинца. І. О польской справе. 1861—63.— К.: В университетской типографии, 1867 (без підпису).
Из записок Украинца. Материалы для биографии Щепкина // Киевлянин.— 1870.— 2.04.—№ 40; 4.04.— № 41.— 9.04.— № 43.
Жизнь и произведения Тараса Шевченка (Свод материалов для его биографии).— К., 1882.
Ускова Н. И. Воспоминания о Т. Г. Шевченко. С примеч. М. К. Чалого // Киевская старина.— 1889.—№ 2.— Т. 24.— С.297—313.
Посещение Т. Г. Шевченко сахарного завода Яхненко и Симиренко // Киевская старина.— Т. 24.— 1889.— № 2.— С. 459—464.
Две ревизии (Немировская гимназия в конце 40—х годов) // Киевская старина.— 1883.— № 2.— С. 444—453.
Воспоминания М. К. Чалого // Киевская старина.— 1889.— № 1.— С. 1—40; № 2.— С. 388—402; № 3.— С. 613—644; № 4.— С. 74—91; № 5/6.— С. 295—331; № 7.— С. 149—187; № 8.— С. 436—467; № 9.— С. 709—726; № 10.— С. 121—142; № 11.— С. 257—280; № 12.— С. 495—545; 1894.— № 5.— С. 277—307; № 6.— С. 462—495; № 7.— С. 1—9; № 8.— С. 176—186; № 9.— С. 396—414; № 10.— С. 1—19; № 11.— С. 190—206; № 12.— С. 333—348;
Окремою відбиткою з журн. «Киевская старина»: Воспоминания М. К. Чалого.— Вып. первый.— К., 1890; Вып. второй (1844—1852).— К.,1895.
К биографии К. Марковича // Киевская старина.— 1894.—№ 5.— С. 342—345.
Из переписки Т. Г. Шевченко с разными лицами. (С примеч. М. К. Чалого) // Киевская старина.— 1897.—№ 2.— С. 151—175.; № 3.— С. 452—475.
Юные годы П. А. Кулиша // Киевская старина. 1897.— № 5.— С. 291—299.
К характеристике гр. В. А. Перовского. // Киевская старина. 1900.— № 2.— С. 70—73.
Вторая Киевская гимназия // Киевская старина. 1900.— № 4.— С. 16—50; № 6.— С. 288—309; № 7/8.— С. 66—88.
Белоцерковская гимназия // Киевская старина. 1900.— № 11.— С. 218—224; № 12.— С. 401—410.
Шевченківський словник : у 2 т. / Інститут літератури ім. Т. Г. Шевченка Академії Наук УРСР. — Київ : Головна редакція УРЕ, 1978.
Перший біограф Т. Шевченка. До 200-річчя від дня народження М. Чалого (1816—1907) // Дати і події. [Архівовано 2 лютого 2017 у Wayback Machine.], 2016, друге півріччя: календар знамен. дат № 2 (8) / Нац. парлам. б-ка України. — Київ, 2016. — С. 58-61.