Né dans une petite communauté agricole de l'État de New York, il étudie la dramaturgie à l'École Juilliard et à l'Université d'État de New York, puis entre comme boursier à l'American Film Institute. Il écrit et tourne plus de 200 spots publicitaires avant de rédiger et mettre en scène son premier long métrage : le thriller fantastique Nomads, interprété par Pierce Brosnan et Lesley Ann Down. Après ce film, il ne signera plus les scénarii de ces films.

En 1987, McTiernan signe son premier succès avec Predator, un des grands rôles d'Arnold Schwarzenegger. Un an plus tard, Piège de Cristal confirme sa réputation, grâce à une mise en scène exceptionnellement dynamique, témoignant d'un sens aigu de l'espace et de l'atmosphère. Le film, interprété par Bruce Willis et Alan Rickman, remportera un triomphe critique et populaire, et se classera parmi les champions du box-office de l'année 1988. En 1990, McTiernan porte à l'écran le best-seller de Tom Clancy A la poursuite d'Octobre Rouge, nouveau succès international dont Sean Connery et Alec Baldwin se partagent la vedette. Il refait équipe avec Sean Connery sur Medicine Man, dirige Arnold Schwarzenegger dans la comédie pastiche d'action Last Action Hero et réalise son dernier épisode de la saga Die Hard, Une journée en enfer, avec Bruce Willis et Jeremy Irons, avant de signer le thriller romantique Thomas Crown, avec Pierce Brosnan et Renée Russo, Le 13ème guerrier, avec Antonio Banderas, le thriller Basic, avec John Travolta, et le film d'action futuriste Rollerball, avec Jean Reno et Rebecca Romijn.

McTiernan, qui se consacre occasionnellement à la production, a remporté en 1997 le Franklin J. Schaffner Award de l'American Film Institute. Il a notamment produit Die Hard 4 - Retour en enfer de Len Wiseman, avec Bruce Willis et Justin Long.