Tiene una capacidad asombrosa para metamorfosearse en escalofriantes aliens, en psicoterapeutas pirados, en lascivos ejecutivos del mundo del entretenimiento y, en "Pirates of the Caribbean: The Curse of the Black Pearl (Piratas del Caribe: La maldición de la Perla Negra", en un despreciable pirata a las órdenes de Barbossa. Arenberg es muy conocido por ser un actor de carácter y lleva trabajando con éxito en el cine, la televisión y el teatro desde hace 20 años.

Arenberg ha aparecido en más de 30 películas, incluyendo "Cradle Will Rock (Abajo el telón)", "RoboCop 3", "Waterworld", "Bob Roberts (Ciudadano Bob Roberts", "The Apocalypse", "Cross My Heart" y "Dungeons & Dragons (Dragones y Mazmorras)".

A los ocho años ya le gustaba el teatro y participó en una obra de la Escuela Hebrea. Asistió al Instituto de San Mónica junto a futuras estrellas como Sean Penn, Robert Downey, Jr. y Emilio Estévez, y escribió con Estévez una obra que dirigió Penn. El primer trabajo profesional de Arenberg fue en 1986 en el Mark Taper Forum en "Ghetto", una obra dirigida por Gordon Davidson. En pocas semanas le contrataron en tres películas, incluyendo "Tapeheads" junto a Tim Robbins y John Cusack.

Sus apariciones como actor invitado en la televisión empezaron en 1987 con la comedia de situación "Perfect Strangers", y han continuado con papeles tan inolvidables como el neoyorquino que roba plazas de aparcamiento en "Seinfeld"; como el asesino promotor de rock en "Tales From the Crypt (Cuentos desde la cripta)"; interpretando a Bobby G., en la controvertida comedia "Action"; así como papeles en "CSI: Crime Scene Investigation", "Charmed (Embrujadas)", "Scrubs", "Arli$$", "Friends", "Star Trek: The Next Generation", "Deep Space Nine" y "Voyager!".

Arenberg atribuye gran parte del éxito de su carrera de actor a su participación en el Actors’ Gang, una de las compañías teatrales más antiguas de Los Ángeles. Arenberg fundó el Actors’ Gang en 1981 junto con Tim Robbins y otros amigos de la UCLA. Después de trabajar 20 años como actor en esta compañía, acaba de debutar como director y escritor en "Foursome", una obra sobre golf, sexo y brujería.