Родился 17 июля 1945 года в Москве в творческой семье. Мужчины-предки по линии матери — из офицеров царской армии. Дед-генерал был расстрелян в Первую мировую войну. Бабушке, пытавшейся защитить мужа, прострелили руки, а мать, девочку пяти лет, вывели на расстрел, и лишь чудо[какое?] спасло ребёнка от гибели.
Мать Александра Алексеевна Рыбникова была художником-дизайнером, отец, Лев Самойлович Беймшлаг, был скрипачом в оркестре Александра Цфасмана. Родители вступили в брак спустя 16 лет после рождения сына, поэтому ему досталась фамилия матери[3][4]. Был крещён сразу после рождения, воспитан в православных традициях[5]. Семья жила в коммунальной квартире на 3-й Тверской-Ямской улице, д. 32, к. 30, где родители с Алексеем Рыбниковым и бабушкой жили в 10-метровой комнате [4]. В 1957 году семья Рыбниковых переехала в отдельную квартиру в новом доме в Хорошёво-Мнёвниках на бульваре Карбышева, дом 5 [4].
Рыбников начал пробовать себя в качестве композитора уже в детстве, в 8 лет написал несколько фортепианных пьес, в 11 — балет «Кот в сапогах»[6][7].
С 1956 по 1962 год Рыбников учился в Центральной музыкальной школе при Московской консерватории[6]. В 1962 году поступил в Московскую консерваторию, по классу композиции учился у А. И. Хачатуряна[6]. Официальным дебютом как композитора стала соната для фортепиано «Хороводы», которую Рыбников сочинил на первом курсе[6]. Музыкальные критики обратили внимание на нешаблонность почерка, умение автора вплетать фольклорные мотивы в современную канву[8]. В 1967 году Рыбников, вдохновлённый стихами о толпе, растоптавшей цветок, написал дипломную скрипичную балладу[5]. В 1967 году с отличием окончил консерваторию, а в 1969 — аспирантуру по классу этого же композитора[6].
С 1969 по 1975 год Рыбников преподавал в Московской консерватории на кафедре композиции[6].
В 1979 году Алексей Рыбников был признан Всесоюзным хит-парадом самым популярным композитором года и награждён премией за лучшую музыку к кинофильму на Московском международном кинофестивале[10]. В 1989 году общий тираж проданных дисков с музыкой А. Рыбникова превысил десять миллионов экземпляров[11].
Писатель и журналист Василий Голованов на страницах журнала «Юность» в марте 1985 года назвал рок-оперы Рыбникова в числе наиболее значимых отечественных произведений, сумевших «потеснить» англоязычный рок[12].
В 1987 году Алексей Рыбников основал Производственно-творческое объединение «Современная опера» при Союзе композиторов СССР[13]. В 1992 году здесь была представлена музыкальная мистерия А. Рыбникова «Литургия оглашенных»[11].
В конце 1994 — начале 1995 годов с успехом прошли гастроли театра «Современная опера» в США. Вице-президент «Юниверсал Пикчерз» Н. Райс высоко оценил «Литургию оглашенных», заметив, что «эта блестящая музыкальная драма — без сомнения, художественное достижение высочайшего уровня, уникальное в своём мастерском соединении музыки, либретто и театральных эффектов»[14].
В 2000 году в Государственном доме радиовещания и звукозаписи состоялся премьерный показ сцен из новой музыкальной драмы А. Рыбникова «Маэстро Массимо» («Оперный дом»)[11].
В 2010—2011 годах композитор написал современную оперу «Война и мир» на основе романа Льва Толстого «Война и мир»[19]. Опера создана на основе либретто, написанного самим композитором, и получила рабочее название «Живые картины времён Александра I и Наполеона Бонапарта по роману графа Льва Толстого „Война и мир“». Фрагменты оперы были представлены в спектакле театра Алексея Рыбникова «Аллилуйя любви» в сентябре 2012 года, премьера была запланирована на 2013 год.
С 2017 по 2022 год — председатель Совета Союза композиторов России, с 2022 года — член Совета Союза композиторов России[21].
В 2019 году работал над составлением оперы по произведению «Князь Андрей»[22]. А весной 2021 года на сцене театра Et Cetera состоялась премьера оперы-драмы Алексея Рыбникова «Le Prince André. Князь Андрей Болконский»[13][23].
30 ноября 2021 года Алексей Рыбников после смерти Александра Градского стал временным, а позднее и постоянным художественным руководителем театра «Градский Холл»[24].
8 марта 2023 года на Первом канале состоялась телепремьера творческого вечера композитора, названного «Через тернии к звёздам»[25].
Супруга — Татьяна Владимировна Кадышевская-Рыбникова, окончила МГУ[11]. Дочь Анна Рыбникова (род. 13 апреля 1967 года), кинорежиссёр[11]. Сын Дмитрий Рыбников (род. 23 декабря 1976 года), композитор, музыкант[11]
«Литургия оглашенных» («Мистерия оглашенных»), 1983—1989. Первая постановка — 1992.
«Красная Шапочка», тексты песен Юлия Кима, тексты интермедий Александра Рыхлова, постановка Театра Алексея Рыбникова в 2007—2008.
«Буратино», либретто Софьи Троицкой, тексты песен Юрий Энтин, постановка Театра Алексея Рыбникова в марте 2006 года.
«Звезда и Смерть Хоакина Мурьеты», 1975, первая постановка на сцене театра Ленком — 1976. Восстановлен театром Рыбникова в 2007-м году.
«Юнона и Авось»: премьера прошла в Храме в Филях и спектакль назывался «Авось» (1979), затем первая постановка в театре в 1981-м уже под названием «Юнона и Авось». Премьера обновлённой версии состоялась в июле 2009 года во Франции.
«Аллилуйя любви». Вариации на тему любви, Сентябрь 2012 (включая премьерный показ сцен нового сочинения А. Рыбникова — «Живые картины времён Александра I и Наполеона Бонапарта „Война и мир“ по роману графа Льва Толстого»).
«Война и мир» — современная опера. Рабочее название — «Живые картины времён Александра I и Наполеона Бонапарта по роману графа Льва Толстого „Война и мир“».
Орден «За заслуги перед Отечеством» IV степени (26 декабря 2016 года) — за заслуги в развитии отечественной культуры и искусства, многолетнюю плодотворную деятельность[31]
Премия Президента Российской Федерации в области литературы и искусства за произведения для детей и юношества (19 марта 2018 года) — за вклад в развитие отечественного музыкального искусства[38][39]