山西汾陽人。1920年赴日本留學,1922年考入東京美術學校(現東京藝術大學)西洋畫科,受業於日本著名油畫家藤島武二,1928年回國。受蔡元培先生之聘任北平大學造型藝術研究會導師,後來該會改為西畫系,衛天霖也升為主任。40年代曾在國立北平藝專,華北大學文藝學院和北平私立女子西洋畫學校任教。1949年以後先後任北師大教授、北京藝術師範學院副院長、北京藝術學院副院長、北京中央工藝美院教授。中國美術家協會會員。1980年在中國美術館舉辦「衛天霖油畫回顧展」,1998年在北京國際藝苑美術館舉辦「衛天霖誕辰100周年畫展」。