Ha sido nominado a los Oscar por su trabajo interpretativo. Por su papel en El gran Santini, O'Keefe fue propuesto como candidato a un Oscar al Mejor Actor de Reparto. En El gran Santini, O'Keefe, que también logró una nominación a los Globos de Oro, compartía cartel con Robert Duvall y Blythe Danner. O'Keefe's ha trabajado en multitud de largometrajes, como Tallo de hierro, con Meryl Streep y Jack Nicholson, escrita por William Kennedy y dirigida por Hector Babenco; Me & Veronica con Elizabeth McGovern; Fantasmas del pasado, con Alec Baldwin y Whoopi Goldberg, dirigida por Rob Reiner; El juramento con Jack Nicholson, dirigida por Sean Penn; Última sospecha, con Stellan Skarsgard; y la comedia clásica El club de los chalados con Chevy Chase, Bill Murray, Ted Knight, y Rodney Dangerfield.

En televisión, el papel más conocido de O'Keefe es su papel recurrente en la serie "Roseanne". También ha trabajado como actor principal en las series "Against the Law", "Life's Work", y ha aparecido como estrella invitada en "House", "El ala oeste de la Casa Blanca", "Alfred Hitchcock Presenta", "Law and Order", y sus series hermanas "Special Victims Unit" y "Criminal Intent". Por su papel en la serie "The Hitchhiker" de la cadena HBO, O'Keefe fue nominado al premio al Mejor Actor de Cable ACE. Se le verá próximamente en la película Michael Clayton con George Clooney.

En teatro, O'Keefe actuó recientemente en Broadway con la obra "Reckless", con Mary Louise Parker y Rosie Perez, para el Manhattan Theatre Club. El año pasado participó en "McReele", una nueva obra de Stephen Belber, con Anthony Mackie, dirigida por Doug Hughes. Entre sus otros muchos trabajos teatrales se cuentan "Side Man" en Broadway y el Kennedy Center, producciones independientes de Off Broadway de "That Championship Season", "Mass Appeal", y "Short Eyes". Ha realizado una gira nacional con la obra "Algunos hombres buenos".

O'Keefe también produjo y dirigió el documental Raising the Ashes, sobre un grupo de Budistas Zen que se reúnen todos los años en Auschwitz para pasar cinco días rezando y meditando. Acaba de ser adquirido por New Screen TV para su cadena de PPV.