Ed O’Neill besuchte die Ursuline High School in seiner Geburtsstadt Youngstown und machte dort seinen Abschluss. Während der Schulzeit arbeitete er unter anderem auf dem Bau, später im Studium in einem Stahlwerk. O’Neill spielte in der Schule und während des Studiums American Football an der Ohio University und der Youngstown State University. In der Vorbereitung auf die NFL-Saison 1969 trainierte er bei dem Football-Club Pittsburgh Steelers, doch wurde er nicht in das Team aufgenommen.[3]
Die Schauspielerei war für O’Neill zunächst nur ein Hobby. Er belegte Kurse zum Thema Schauspiel an der Youngstown State University und wirkte auch in verschiedenen Stücken am Youngstown Theater mit und spielte unter anderem in Stücken von Tennessee Williams und John Steinbeck.[3] Nachdem er sieben Jahre als Lehrer gearbeitet hatte, wollte er die Schauspielerei zu seinem Beruf machen. Aus diesem Grunde zog er nach New York, wo er in der Broadway-Produktion Knockout eine Chance bekam, nachdem der Hauptdarsteller erkrankt war. Danach bekam er weitere Angebote, später auch für Filme und Fernsehproduktionen.[3] Seine erste kleinere Rolle hatte er 1980 in William Friedkins Thriller Cruising.
Dem breiten Publikum bekannt wurde er, als er von 1987 an elf Jahre lang den Damenschuhverkäufer Al Bundy in Eine schrecklich nette Familie spielte. Daneben wirkte er in Kinofilmen mit, etwa in Mein Partner mit der kalten Schnauze (1989), Wayne’s World (1992) und Der Knochenjäger (1999). Im Jahr 2000 war er als Ermittler in der achtteiligen Fernsehserie Big Apple zu sehen. In 22 Folgen der Krimiserie Polizeibericht Los Angeles (Dragnet, 2003 bis 2004) spielte er die Rolle des Lieutenant Joe Friday. Die Serie wurde auch in Deutschland ausgestrahlt. In The West Wing – Im Zentrum der Macht spielte er 2004 in vier Episoden die Rolle des Eric Baker, demokratischer Gouverneur von Pennsylvania und wahrscheinlich künftiger Vizepräsident. 2005 trat er in der Episode Wilde Zeiten der Sitcom Meine wilden Töchter neben seiner ehemaligen Serienkollegin Katey Sagal auf. Von 2009 bis 2020 spielte er die Hauptrolle des Jay Pritchett in der Comedy-Serie Modern Family. 2016 sprach er im Pixar-Animationsfilm Findet Dorie die Rolle des missmutigen Kraken Hank.
O’Neill praktiziert die Kampfsportart Brazilian Jiu-Jitsu, die er von den Entwicklern dieser Disziplin, der „Gracie Family“, erlernt hat. Nach 14 Jahren Training erhielt er den schwarzen Gürtel.
Ed O’Neill ist seit 1986 mit der Schauspielerin Catherine Rusoff verheiratet, die auch in zwei Folgen von Eine schrecklich nette Familie zu sehen war. Die beiden haben zwei gemeinsame Töchter und lebten in Venice, Kalifornien; zwischen 1989 und 1993 waren sie vorübergehend getrennt. O’Neill lebt in Los Angeles.