Creció en una granja en Kentucky. Su carrera profesional empezó a los diez años cantando en cuartetos de gospel y trabajando en una barbería. Durante diez años, actuó en el Barter Theater de Abington, Virginia, y a continuación, en el Erie Playhouse, Pensilvania, hasta llegar al prestigioso Arena Stage Company en Washington DC. Posteriormente trabajó en la producción de Broadway "La gran esperanza blanca". Fue muy aclamado por su papel en "Muerte accidental de un anarquista", en el Mark Taper Forum de Los Ángeles.
En 1971, John Boorman le escogió para interpretar a uno de los chicos de ciudad en Defensa/Deliverance, papel que le catapultó a la fama. A partir de ese momento trabajó en numerosas películas entre las que destacaremos El expreso de Chicago; Danza lenta en la gran ciudad; Network, un mundo implacable, por la que fue nominado a un Oscar al Mejor Actor Secundario; Nashville; Superman I y II; Su juguete preferido; Todos los hombres del presidente; Sangre sabia; Restless Natives; Querido detective; El pasaje; Interferencias; Midnight Crossing; Contra toda ley; Algún día te encontraré, por la que fue nominado a un Globo de Oro al Mejor Actor Secundario; Hechizo de un beso; Causa justa; Una mala jugada, y Cookies Fortune. Una de sus últimas películas ha sido The Walker, de Paul Schrader, con Woody Harrelson, Kristin Scott Thomas, Willem Dafoe y Lily Tomlin.
Para televisión pudimos verle durante tres temporadas en la serie "Homicidio", de NBC; las miniseries "Los viajes de Gulliver", "Los últimos días de Pompeya", con Laurence Olivier, y "Robert Kennedy y su época"; y en los telefilms "La ejecución del soldado Slovik" y "Dos idiotas sin suerte", entre muchos otros. Fue nominado a un Emmy al Mejor Actor por "Friendly Fire", con Carol Burnett, y al Mejor Actor Secundario por "Last Train Home".
En 2001 volvió a pisar los escenarios en el West End de Londres con la producción de "La gata sobre el tejado de zinc", de Tennessee Williams, y en 2004 cuando la obra se representó en Broadway.
En 2006 ganó dos Premios Acting por su trabajo en la producción independiente Sweet Land. Tiene ocho hijos, le gusta jugar al golf y tocar el bajo. Espera que a los 70 llegue a hacer ambas cosas bien.