Nació en Nueva York el 16 de Septiembre de 1927, y creció en Ossining, Nueva York. Cuando tenía 12 años, apareció por primera vez en un escenario en la obra Los piratas de Penzance.
Tras graduarse en el Ossining High School, donde era una estrella del atletismo y delegado de su clase, Falk sirvió como cocinero en la Marina Mercante. Más tarde continuó sus estudios en el Hamilton College en Clinton, Nueva York. Terminó su B.A. en Ciencias Políticas en el New School for Social Research en 1951. Consiguió un Master en Administración Pública en la Universidad de Siracusa en 1953. Después de intentar, sin éxito, conseguir trabajo en la CIA, se convirtió en director de análisis la Agencia Presupuestaria del Estado de Conectica, en Hartford. En su tiempo libre, actuaba con los Mark Twain Maskers en Hartford y estudiaba en el White Barn Theatre en Westport, donde comenzó a considerar la posibilidad de convertirse en actor profesional. En 1956, con 29 años de edad, dejó su trabajo en la Agencia Presupuestaria y se mudó a Greenwich Village para probar suerte en el mundo de la interpretación.
Falk debutó como profesional con la obra Don Juan de Moliere, el 3 de Enero de 1956, en el Fourth Street Theatre, y en la siguiente temporada apareció en la exitosa revisión de The Iceman Cometh, con Jason Robards. Durante los tres años siguientes a Falk no le faltó el trabajo, saltando de un teatro del off-Broadway a otro.
Aunque Falk disfrutaba del éxito sobre los escenarios, un agente teatral le advirtió de que no esperara trabajar demasiado en el cine debido a su ojo de cristal. Había perdido su ojo derecho en manos de los cirujanos debido a un tumor maligno cuando contaba con tan sólo 3 años de edad.
En 1960, Falk dejó Nueva York y se trasladó a Hollywood, donde participó en su primera película, El sindicato del crimen, y fue nominado a un Oscar® como Mejor Actor Secundario. Ese mismo año, fue nominado a un Emmy por interpretar a un drogadicto en The Law and Mr. Jones. La película de Frank Capra Un gangster para un milagro, con Bette Davis y Glenn Ford, le valió a Falk su segunda nominación a los Premios de la Academia en 1961. Y también fue nominado por segunda vez a los premios Emmy por The Dick Powell Show: The Price of Tomatoes, llevándose en esta ocasión el premio a casa.
Después de rechazar varias ofertas de series de televisión, en 1965 Falk accedió a protagonizar The Trials of OBrien, con la que consiguió la aclamación de la crítica. Pero ha sido su encarnación del inimitable teniente Colombo el le ha hecho más popular y le ha granjeado cuatro premios Emmy. Lo que comenzó como dos telefilmes, Prescription: Murder y Ransom for a Dead Man, se desarrolló como Colombo, una serie de 90 minutos que formaba parte de las tres alternativas de series de misterio de la NBC. Colombo rápidamente escaló hasta el puesto número cinco de las mediciones de Nielsen. Aunque la serie acabó en 1977, se volvió a poner en marcha en 1988 como telefilmes de dos horas y su producción continúa a día de hoy.
En 1971, Falk regresó a los escenarios de Broadway con la obra de Neil Simon The Prisoner of Second Avenue, dirigida por Mike Nichols, por la que recibió un premio Tony. Su relación con Neil Simon continuó con los papeles protagonistas de tres películas: Un cadáver a los postres, con Peter Sellers, Un detective barato, con Stockard Channing y The Sunshine Boys con Woody Allen. Tamién hizo el tour de la obra ganadora del premio Pulitzer de David Mamet Glengarry Glen Ross, con Joe Mantegna.
La carrera de Falk incluye tres películas inolvidables con su buen amigo John Cassavetes: Una mujer bajo la influencia, con Gena Rowlands, Husbands, con Cassavetes y Ben Gazzara y Mikey and Nicky, que él y Cassavetes protagonizaron para la guionista y directora Elaine May.
La vis cómica de Falk encuetra campo libre en uno de sus trabajos favoritos, Los suegros, con Alan Arkin, y dirigida por Arthur Hiller. En la fantasía de Rob Reiner La princesa prometida, Falks interpreta al abuelo querido. En El cielo sobre Berlín, de Wim Wenders, encarna a un ex-ángel. También ha conseguido el beneplácito del público por sus trabajos en Mi rebelde Cookie, Tune in Tomorrow, Tan lejos, tan cerca, Roommates y Vig.
Falk regresó a los escenarios en 1998 para participar en la nueva obra de Arthur Miller Mr. Peters Connections, en el Signature Theatre de Nueva York, con un completo absoluto. En 1999, Falk deleitó al público con una sentida interpretación en el drama A Storm in Summer, dirigido por el veterano director Robert Wise y escrito por Rod Serling. Posteriormente, ese mismo año, participó en el debut en la dirección del actor Joe Mantenga Lakeboat, junto a Mantegna, Andy Garcia, John Turturro y George Wendt. Le siguió un papel en la película sobre la mafia Made, protagonizada por Jon Favreau, Vince Vaughn y Sean Puffy Combs. En primavera del 2000, Falk participó en Los Angeles en la producción de Defiled, junto a Jason Alexander, con la que también consiguió colgar el cartel de completo en el Geffen Playhouse.
En la comedia Corky Romano, Falk comparte cartel con la estrella del Saturday Night Live Chris Catan, y posteriormente ha participado en la miniserie de televisión sobre el clásico El mundo perdido, con Bob Hoskins, y en A Town Without Christmas, con Patricia Heaton, el telefilm de la CBS de mejor audiencia del 2001.
En 2002, Falk participó en la película Invicto, dirigida por Walter Hill y protagonizada por Wesley Snipes y Ving Rhames.
En enero de 2003, se produce el episodio número 69 de Colombo: Columbo Likes theNightlife, emitido en la cadena ABC. En Abril de 2003, el quinto Annual Method Fest Independent Film Festival le honró con el preio del festival en reconocimiento a toda su carrera.
En Wilder Days, una producción de TNT/Johnson & Johnson Spotlight, que se emitió en Octubre de 2003, Falk interpreta al padre de Tim Daly y abuelo de Josh Hutcherson en un viaje por carretera que examina las emociones de tres generaciones de hombres. Retomó el personaje de ángel de A Town Without Christmas cuando protagonizó con Valerie Bertinelli Finding John Christmas. Falk le prestó su voz a Don Brizzi en la película de animación El espantatiburones y poco después recibió el premio en reconocimiento a su carrera profesional en los premios David Di Donatello en Italia. En 2004 protagonizó Checking Out, la versión cinematográfica de la obra ganadora del premio Tony, y también encarnó por tercera vez al ángel Max en el telefilme A Town Without Ornaments. Su siguiente trabajo sería en la película The Thing About My Folks, junto a Paul Reiser. Y también ha participado en Retirement, al lado de George Segal y Rip Torn.
Más allá de su talento como actor, Falks es también un excelente artista sobre todo al carboncillo- aunque últimamente también se ha introducido en el mundo de las acuarelas. Esta pasión comenzó como un pasatiempo entre el rodaje de sus escenas en una localización. Ha expuesto en numerosas galerías, entre ellas la galería de arte Bulgari en Roma en 2004. Muchas de sus pinturas se pueden admirar en su página web, www.PeterFalk.com, y también se pueden comprar litografías.