Родился 28 августа 1925 в Москве. В 1937—1938 родители были репрессированы. Окончил Литературный институт им. А. М. Горького в 1949.
Первый роман «Студенты» (1950) принес писателю Государственную премию. В 1959 вышел цикл рассказов и очерков «Под солнцем». В 1963 выходит роман «Утоление жажды». Рассказы на спортивные темы.
В 1966—1969 написал рассказы «Вера и Зойка», «В грибную осень» и др., повесть «Отблеск костра» (1967).
В 1969 году выходит повесть «Обмен», затем «Предварительные итоги», «Долгое прощание», «Другая жизнь», «Дом на набережной» (1970—1976). Именно "Дом на набережной" принес писателю огромную славу - он описал быт и нравы жителей правительственного дома 30-х годов, многие из которых, вселившись в комфортабельные квартиры (в то время почти все москвичи жили в коммуналках без удобств, часто даже без туалетов, пользовались деревянным стояком во дворе), прямо оттуда попадали в сталинские лагеря и были расстреляны.
Проза Трифонова зачастую автобиографична, главная тема — судьба интеллигенции в годы правления Сталина.
В 1973 году вышел роман о народовольцах «Нетерпение».
В 1978 году выходит роман «Старик». В 1981 году — роман «Время и место». Посмертно издан роман «Исчезновение» (1987).
Семья: гражданская жена/вдова (вторая жена) Трифонова (наст.фамилия Мирошниченко) Ольга Романовна, их сын Валентин.