Cheng Tai Shen nació en la provincia de Shanxi (China), donde trabajaba su padre. De niño se interesó por la literatura. A los 18 años se trasladó a Taiyuan para trabajar en una fábrica en condiciones muy duras, alzando una pala llena unas 500 veces al día.

Más tarde tuvo la oportunidad de conseguir el papel principal en una obra basada en la novela Dream of Clothes, de Qiong Yao, montada en el teatro local. Le sorprendió ser escogido para interpretar al protagonista ya que carecía de experiencia, pero este primer papel le llevó hasta la gran pantalla.

A pesar de haber superado la edad para ir a la universidad, ingresó en 1990 en la Facultad de Cultura y Artes de la provincia de Shanxi. En julio de 1993 empezó a trabajar en la Academia Central de Arte Dramático, sin por eso dejar los estudios. Se licenció en 1997 y trabajó inmediatamente en Mai fu (No puedo dormir), del conocido director chino Huang Jianxin, como ayudante de dirección y actor de reparto.

En 2001 obtuvo un papel principal en Haixian (Frutos de mar), de Zhu Wen, película ganadora del Premio del Jurado en el Festival de Venecia. En 2004 trabajó con el director Jia Zhangke en la aclamada Shijie (El mundo), ganadora de once premios internacionales.

En 2005, la revista "The Village Voice" le incluyó en el puesto 67 de la lista de los Cien Mejores Actores.