Inició su carrera en el mundo del espectáculo en 1977 como guionista de series como Sandford and Son (1972-1977) y Welcome Back Kotter (1975-1979). En poco tiempo, devino guionista para episodios piloto de series televisivas, pero tomó conciencia de que lo que más le interesaba era probar suerte como monologuista cómico.
En 1981, Shandling efectuó la primera aparición en The Tonight Show with Johnny Carson (1962-1992), lo cual hizo que volviera a cambiar el rumbo de su carrera. Siguió como invitado en muchas ocasiones, e hizo su primer especial cómico por cable para Showtime en 1984, además creando en 1986 su primer espacio televisivo, el muy reconocido por la crítica Its Garry Shandling Show para la misma Showtime. Este show nada convencional hacía uso de la innovación que significaba romper la cuarta pared hasta un nivel jamás visto previamente en televisión. Duró cuatro años en antena, y llegó a emitirse simultáneamente a través de Showtime y Fox. Fue nominado para varios Emmys y logró muchos Cable Ace.
En 1990, Shandling afrontó su primer especial para HBO, Stand Up. En 1992, Shandling creó Larry Sanders Show (1992-1998) para HBO, que se mantuvo en antena hasta 1998, llegando a alcanzar el récord absoluto de 79 nominaciones a los Emmy.
Shandling logró el Emmy al mejor guión de serie cómica por la última temporada del show.
No hace mucho, Shandling presentó la ceremonia de entrega de los Premios Emmy de 2004, siendo objeto del más caluroso aplauso por parte de la crítica debido a sus divertidos comentarios llenos de ironía y agudeza acerca de los cambios que los reality shows han generado en la televisión. El actor ya había presentado la ceremonia en 2000. El propio evento, fue objeto de la ovación de la crítica así como de las más altas puntuaciones en 14 años. Asimismo, Shandling ha presentado en tres ocasiones la ceremonia de los Premios Grammy.
Para la gran pantalla, la voz de Shandling puede escucharse en el film de animación Vecinos invasores (Over the Edge, 2006), de Dreamworks. La cinta resigue las aventuras de un grupo de animales que viven en el extremo de un suburbio en plena expansión, los cuales se aventuran cerca de las casas animados por un mapache viajado que resulta ser un embaucador (Jim Carrey prestando la voz). Shandling ofrece la suya a una tortuga recelosa de los humanos que todavía no ha superado el terror generado tras un encuentro con algunos chicos del nuevo vecindario.
Con anterioridad, escribió e interpretó ¿De qué planeta vienes? (What Planet Are You From? 2000) para Columbia Pictures. Otros títulos en el haber del actor son Hurly Burly (Hurly Burly, 1998), con Sean Penn; Un asunto de amor (Love Affair, 1994); y Enredos de sociedad (Town & Country, 2001), con Warren Beatty.