Paul Frederick Simon nació en Newark (New Jersey) el 13 de octubre de 1941 en el seno de una familia judía de origen húngaro. Siendo niño tenía dos pequeñas pasiones: el baseball y la música, ya que su padre era músico de orquesta.

A los 9 años coincidió en la escuela con un chico que vivía además muy cerca de su casa. Se trataba de Art Garfunkel, con el que formaría uno de los dúos musicales más importantes. Poco a poco los dos niños comenzaron a cantar en pequeñas fiestas y celebraciones religiosas de su barrio, e incluso formaron pequeños grupos con otros chicos, aunque estos grupos no perduraban.

Tras realizar una pequeña demo con un tema que habían compuesto, en 1957 un representante se fijó en ellos y les ofreció un contrato para grabar un sencillo. Lo lanzaron bajo el nombre artístico de Tom y Jerry (Art Garfunkel era Tom y Paul Simon era Jerry). El sencillo tenía dos temas: "Hey, Schoolgirl!" y "DancinŽ Wild". Tom y Jerry vendieron 100.000 copias del disco y consiguieron colocarse entre los 100 primeros de la lista Billboard. Posteriormente, editaron algún otro sencillo, pero a la vista de que no resultaron tan existosos como el primero, más bien al contrario, resultaron ser un fiasco, el dúo se deshizo.

A partir de 1959, Paul Simon simultanea un pequeño trabajo realizando demos de otros grupos de éxito con su incipiente carrera como solista, bajo el seudónimo de Jerry Landis. El trabajo de maquetero le permite aprender todas las técnicas de estudio, lo que le permitirá convertirse en un virtuoso de las grabaciones.

En los siguientes años, Paul Simon colabora con varios grupos locales, pero todos los intentos terminaron en fracasos. A finales de 1963 se reencuentra con Art Garfunkel y comienzan a ensayar un repertorio de canciones folk, junto a algunas composiciones del propio Paul Simon. En septiembre de ese mismo año se estrenan como Simon & Garfunkel.

En 1964 Paul Simon se fue a Londres por una temporada. Allí estuvo compartiende experiencias con otros músicos que también comenzaban en el mundillo, como Al Stewart, entre otros. Para ganarse la vida, se dedicaban a dar conciertos en locales nocturnos de Londres y Liverpool. Además, Paul Simon entró en plena actividad creativa, componiendo un puñado de buenas canciones.

De regreso a casa, Simon & Garfunkel grabaron su primer álbum: Wednesday Morning 3 AM, con versiones folk y alguno de los temas compuestos en Londres por Paul Simon, incluyendo la versión acústica de "The Sound Of Silence". El disco resultó un fracaso y Simon regresó a Londres. Allí, su amiga Judith Piepe le consiguió trabajo en un programa de la BBC, donde se podían escuchar sus canciones. La cosa fue tan bien y a la gente le gustaban tanto sus canciones que la CBS le ofreció publicar un disco con los temas de la radio. El resultado fue un acústico grabado de un tirón, titulado "The Paul Simon Song Book".

Mientras se encontraba en Londres, es Estados Unidos se comenzó a escuchar por la radio el tema "The Sound Of Silence" grabado con Garfunkel. La discográfico CBS lo publicó como sencillo, añadiéndole unos toques de guitarra eléctrica. El resultado fue tan grande que tuvieron que llamar a Paul Simon, quien regresó para la promoción del disco.

Gracias al tirón del sencillo se publica en 1966 el álbum The Sound Of Silence. Ese mismo año publican "Parsley, Sage, Rosemary&Thyme", con el que consiguen un disco de oro. En 1967 les ofrecen realizar la banda sonora de la película El graduado, con el tema estrella Mrs. Robinson. Este disco fue número uno de las listas durante 9 semanas. Además, consiguieron dos grammys por "Mrs. Robinson".

En 1969 aparece la canción The Boxer, una de las canciones más importantes de Paul Simon. Para entonces ya comenzaba a haber tensiones entre los dos miembros del dúo, ya que mientras Paul Simon componía los temas, Art Galfunkel intentaba modificarlos dándoles otro aire, cosa que no gustaba a Simon.

A principios de 1970 apareció Bridge Over Troubled Water ("Puente sobre aguas turbulentas"), que se mantuvo durante 10 semanas como número uno y del que se vendieron más de 11 millones de copias. Este álbum incluía el mítico tema "El cóndor pasa".

Tras una gira que les llevó a recorrer Europa, Simon & Garfunkel vuelven a Estados Unidos, pero no para cantar juntos. Su relación personal ha empeorado aún más y Art Garfunkel está más interesado en hacer cine que música. Así que comienzan a realizar trabajos por separado, sin juntarse para trabajar juntos.

En febrero de 1972 se publica el primer álbum en solitario de Paul Simon. El título, Paul Simon. El disco mezcla temas con diversos estilos, desde el reggae y el blues hasta el country. Este trabajo consiguió ser disco de oro y vendió un millón de copias.

En 1973 apareció su segundo álbum en solitario, There Goes Rhymin' Simon, al que siguió un año después el directo Live Rhymin, grabado durante su última gira. A finales del 75 aparece "Still Crazy After All These Years", un disco con fuertes inspiraciones jazz.

En 1978 Paul Simon participó en la película de Woody Allen "Annie Hall". Esa experiocia le motivó a intentar en vano que alguna productora le apoyara para crear su propia película.

Ese mismo año, rompió el contrato que le unía a la CBS, no sin antes publicar un último álbum, un recopilario con sus grandes éxitos.

Tras firmar contrato por la Warner, Paul Simon publica en 1980 el disco "One-Trick Pony", que resulta ser la banda sonora de su película, del mismo título. La película tiene un resultado decepcionante y no llega a estrenarse en los circuitos comerciales. Paralelamente, Paul Simon vive una tempestuosa relación con la actriz Carrie Fisher, que le produce una profunda depresión de la que tuvo que ser tratado.

El 19 de septiembre de 1981 Simon & Garfunkel se reencuentran para ofrecer un multitudinario concierto en el Central Park de NUeva York. El éxito fue tremendo y supuso el relanzamiento de las carreras de Paul Simon y de Art Garfunkel. Al año siguiente se publica un doble LP con el concierto de Central PArk. Después de este concierte, Simon & Garfunkel iniciaron una gira por Estados Unidos y Europa, pero las desavenencias volvieron a aflorar, con lo que finalmente tuvieron que dar un portazo a su relación, suspendiendo incluso la edición de un disco que esta previsto apareciera ese mismo año.

En agosto de 1983, Paul Simon se casa con Carrie Fisher, tras cinco años de noviazgo. Pero este matrimonio resulta ser un fracaso y apenas dura nueve meses.

En septiembre de 1986 sale el álbum "Graceland", que resulta ser un sonado éxito de Paul Simon, tras unos años de sequía. El disco es una fusión de sonidos africanos con el pop americano. A partir de este disco se puso de moda la música étnica en la cultura del pop/rock, al tiempo que supuso el relanzamiento definitivo de Paul Simon como uno de los mejores artistas del panorama mundial. Simon realizó durante dos años una gira por todo el mundo junto a músicos sudafricanos que colaboraron en la grabación del álbum, como forma de promocionar la cultura sudafricana.

En 1990 Paul Simon vuelve a publicar un nuevo trabajo, bajo el título de "The Rythm Of The Saints", con sonidos importados de Brasil y Camerún. El 15 de agosto de 1991 celebra en el Central Park y concierto ante más de un millón de personas, algo realmente increíble.

En noviembre de 1997 aparece "Songs From The Capeman", disco publicado en paralelo a la creación de la obra teatral "The Capeman", basada en la vida de Salvador Agrón, un portoriqueño de infancia difícil y juventud marginal que a los 16 años fue sentenciado a muerte tras haber asesinado a dos chicos blancos a los que confundió con miembros de una banda rival. Tanto el disco como la obra teatral resultaron ser un estrepitoso fracaso.

Para quitarse el mal sabor de boca, en 1999 inicia una gira por todo el país, acompañado por Bob Dylan. El repertorio de canciones estaba formado por temas de sus discos "Graceland" y "The Rythm Of The Saints", junto a la actuación de Bob Dylan interpretando sus propios temas.

En 2000 publica You're the One en solitario para reaparecer junto a Garfunkel.

Su nuevo disco de estudio se hace esperar hasta 2006, Surprise, con la producción de Brian Eno.