Zespół został utworzony w RFN w 1976 z inicjatywy muzyka i producenta muzycznego Franka Fariana[1].
Wydany w 1978 utwór „Nightflight to Venus” jest w rzeczywistości przeredagowaną wersją przeboju Cozy’ego Powella „Dance With the Devil”. W dłuższej wersji piosenki „Rasputin” wstęp perkusyjny jest również cytatem z tego samego utworu Powella.
W 1978 Boney M. był pierwszym zespołem muzycznym z Zachodu (Niemiec) zaproszonym przez Leonida Breżniewa do ZSRR. Artyści przylecieli samolotem Aerofłotu z Londynu do Moskwy, gdzie na Placu Czerwonym zaśpiewali dla 2700 Rosjan[2][3]. Rok później na scenie Opery Leśnej, podczas Sopockiego Festiwalu[4]Interwizja zespół wystąpił z zakazaną w Polsce piosenką „Rasputin”. Telewizja nadała ten występ z jednodniowym opóźnieniem, wycinając kontrowersyjną – mającą godzić w sojusz z ZSRR – piosenkę. Zespół w Sopocie 1979 wystąpił w składzie: Bobby Farrell, Liz Mitchell, Marcia Barrett i Maizie Williams[5]. Był to oficjalny skład zespołu z pierwszego okresu jego istnienia – w składzie tym nagrano pierwsze sześć płyt. W trakcie nagrywania płyt śpiewały jednak tylko Liz Mitchell (większość wokali solo) i Marcia Barrett oraz menedżer zespołu Frank Farian, a w kilku utworach gościnnie wokalistka zespołu Eruption Precious Wilson; Bobby Farrell i Maizie Williams występowali tylko na scenie. W szczegółowych informacjach zamieszczanych na wewnętrznych okładkach płyt (gdzie znajdowały się dane o osobach uczestniczących w nagraniu danego utworu) nazwiska wokalistów były jawnie podawane, zatem nie było tu mistyfikacji takiej, jakiej Frank Farian dopuścił się po latach z grupą Milli Vanilli.
Singel „Rivers of Babylon”, ze słowami częściowo zaczerpniętymi z Psalmów137 oraz 19, stał się drugim najlepiej sprzedającym się singlem wszech czasów w Wielkiej Brytanii. Pierwszym wykonawcą piosenki była jednakże jamajska grupa reggaeThe Melodians, w skład której wchodzili autorzy napisanej piosenki – Brent Dowe i Trevor McNaughton. Zespół nagrał „Rivers of Babylon” w 1969 i dzięki niej zdobył pewną popularność. Singel „Mary's Boy Child/Oh My Lord” z 1978 trafił do Księgi rekordów Guinnessa jako najszybciej sprzedający się singel wszech czasów – sprzedaż w ciągu czterech tygodni grudnia 1978 wyniosła na świecie 2,5 mln egzemplarzy.
Lata 80. to pasmo wzlotów i upadków. Producent pozwolił Bobby’emu Farellowi wokalnie udzielać się w piosenkach Boney M. („Train to Skaville” i „We Kill the World”). Nie trwało to jednak długo, ponieważ w 1981 Farrell został wyrzucony z zespołu po nagraniu albumu Boonoonoonoos. Powodem miało być nieprofesjonalne podejście tancerza do obowiązków, a jego miejsce zajął Reggie Tsiboe. Do zespołu Farell powrócił w 1984.