Fils du comique et réalisateur Carl Reiner.
Rob Reiner fréquente durant sa jeunesse les plus grands auteurs et acteurs comiques de la télévision américaine : Mel Brooks, Neil Simon, Larry Gelbart, etc. Au cours de ses études à l'Université de Californie, il fonde le groupe d'improvisateurs The Session, puis continue son apprentissage au Bucks County Playhouse de Pennsylvanie. Après avoir monté Huis-clos de Jean-Paul Sartre avec Richard Dreyfuss, il travaille durant plusieurs années au sein d'une troupe d'improvisateurs, The Committee. A la fin des années 60, il débute comme scénariste-interprète sur The Smothers brothers show et obtient un triomphe avec le rôle de Meathead, le sympathique balourd de la série All in the family, pour lequel il décroche deux Emmys. Il s'illustre par ailleurs dans plusieurs films, dont Enter laughing de Carl Reiner et Summertree de Anthony Newley, et diverses émissions avant de passer derrière la caméra.
C'est en 1984 que Rob Reiner se signale à l'attention des cinéphiles avec un brillant docu-fiction rock, Spinal tap. Il signe ensuite la comédie Garçon choc pour nana chic (1985) avec John Cusack et Daphne Zuniga avant d'adapter la nouvelle Stand by me (1986) de Stephen King. Dorénavant sur la voie du succès, il réalise ce qui sera considéré à juste titre comme un modèle du genre, la comédie romantique Quand Harry rencontre Sally (1989). Le couple formé par Billy Crystal et Meg Ryan y fait merveille. S'essayant au thriller avec Misery, il permet à Kathy Bates de remporter en 1991 un Oscar pour son interprétation d'infirmière psychotique. Autre coup de maître : celui d'avoir réuni devant sa caméra un prestigieux casting composé entre autres de Tom Cruise, Jack Nicholson et Demi Moore pour le film de procès Des hommes d'honneur (1992).
Malheureusement, à partir du succès en demi-teinte du Président et Miss Wade (1995), les critiques se font plus acerbes à l'égard de son oeuvre. Son thriller judiciaire Les Fantômes du passé (1996) passe inaperçu, Une vie à deux (1999), dont l'affiche faisait saliver - Bruce Willis et Michelle Pfeiffer dans les rôles principaux -, est décrié pour son scénario simpliste, et la bluette Alex et Emma (2003) ne sort tout simplement pas dans les salles françaises. En 2005, Rob Reiner tente toutefois un come-back en fanfare avec La Rumeur court, une comédie romantique interprétée par Jennifer Aniston et inspirée du Lauréat, puis il réunit, 2 ans plus tard, Jack Nicholson et Morgan Freeman sur l'affiche de la comédie dramatique Sans plus attendre.