Smith foi um dos pilares da cena punk em Nova York e teve papel fundamental na formação do som de uma geração. Antes de sua participação no Television, ele integrou o grupo Angel and the Snake, que posteriormente se transformou na famosa banda Blondie. Em 1975, ele se juntou ao Television, ocupando o lugar de Richard Hell, membro da formação original.
Após o término do Television em 1978, Smith continuou a trajetória musical ativa, atuando como músico de estúdio e em turnês com artistas como Tom Verlaine, Richard Lloyd, The Roches, Willie Nile e The Fleshtones. Em 1992, quando o Television se reuniu, ele voltou a fazer parte da banda e participou de turnês ao longo das décadas seguintes.
O guitarrista Jimmy Rip, que colaborou com Smith por muitos anos, mencionou que ele enfrentou sua doença de maneira discreta, mantendo planos musicais até recentemente. Rip destacou a determinação de Smith em retornar aos palcos e seu envolvimento com projetos relacionados às composições de Tom Verlaine.
Smith, conhecido por sua vida pessoal reservada, sempre evitou exposição na mídia, mesmo sendo parte de uma das bandas mais influentes do rock alternativo. Sua morte suscitou homenagens de músicos, fãs e artistas da cena nova-iorquina.
Ele residia em Nova York com sua esposa, Paula Cereghino, com quem também gerenciava uma vinícola.
