Nacido en Glasgow, Escocia, en 1949, a los siete años se fue a vivir con su familia a Newcastle, en Inglaterra, donde asistió a una escuela de gramática.

En la década de los sesenta aprendió a tocar la guitarra uniéndose a pequeñas bandas y aprendiendo de los guitarristas de la época como Jimi Hendrix, Scotty moore o James Burton. A los dieciseis montó un dúo con su amigo Sue Hercombe, llegando a aparecer en la televisión local.

En 1967 hizo un curso de periodismo, lo que le valió para asegurarse un puesto de reportero junior en un periódico de Leeds, a la vez que continuaba con sus estudios de gramática inglesa.

En un local de Leeds conoca a Steve Philips, un cantante y guitarrista de blues. Mark escribe artículos en el periódico sobre la música y los artistas en Leeds.

Junto a Steve crea un duo llamado The Duolian String Pickers, compaginando la música con sus trabajos respectivos.

Viviendo en Leeds, Mark Knopfler grabó su primera maqueta, en una habitación convertida en improvisado estudio. El título de la canción era Summers's Coming My Way.

Después de graduarse en la Universidad de Leeds en 1973, Mark Knopfler decidió irse a Londres, para intentar entrar en la escena musical. Finalmente, consiguió una audición y dos meses de trabajo en una banda llamada Brewer's Droop.

Poco tiempo después, su hermano David fue a vivir a Londres con él, y ambos crearon un pequeño grupo, Café Racers. A ellos se unió poco después, su compañero de piso, John Illsley y su amigo Pick Whiters. De esta unión nació una de las grandes bandas de la historia de la música moderna, los Dire Straits. Discos como Brothers in Arms, Alchemy, On Every Street, han conseguido ventas de discos multimillonarias para la banda.

En 1996 publica en solitario Golden Heart, al que le han seguido discos como Wag The Dog (1998), The Ragpicker's Dream (2002) y Shangri-La (2004).