Nacido en Homestead (Pensilvania), de ascendencia irlandesa, McHugh provenía de una familia de artistas teatrales.^[1]​ Sus padres, Edward A. «Cutie» McHugh y Katherine Curry «Katie» McHugh, dirigían la compañía de teatro McHugh en Braddock (Pensilvania).^[2]​ De niño, actuó en teatro. Su hermano Matt y su hermana Kitty actuaron con él cuando tenía 10 años, pero la familia abandonó los escenarios alrededor de 1930.^[3]​ Otro hermano, Ed, se convirtió en director de escena y agente en Nueva York.^[4]​^[5]​

Tras dejar la compañía teatral familiar a los 17 años, McHugh se trasladó a Pittsburgh como actor principal y director de escena en el Teatro Empire. Pasó nueve años en compañías de repertorio y compañías itinerantes antes de actuar en Broadway.^[6]​

McHugh debutó en Broadway en The Fall Guy, escrita por George Abbott y James Gleason en 1925.^[6]​ También apareció en Show Girl (1929), un musical.^[7]​ Ese mismo año, hizo su primera película, If Men Played Cards as Women Do, un cortometraje producido por Paramount.^[2]​ First National Pictures lo contrató como actor contratado en enero de 1930.^[6]​

De 1954 a 1956 protagonizó el programa de radio Hotel For Pets.^[8]​

De 1964 a 1965, interpretó a Willie Walters, un manitas residente en la comedia de 27 episodios de la ABC, The Bing Crosby Show, que lo reunió de nuevo en pantalla con Bing Crosby. La serie también fue coprotagonizada por Beverly Garland. Su último papel cinematográfico fue como un cómico «capitán» en la película de 1967 protagonizada por Elvis Presley, Easy Come, Easy Go. Su última aparición en televisión fue como el manitas Charlie Wingate en «The Fix-It Man», un episodio de la serie de wéstern Lancer de la CBS.^[2]​

En radio, McHugh interpretó el papel de Fairchild Finnegan en Phone Again, Finnegan (1946-1947).^[9]​ También coprotagonizó Hotel for Pets (1954-1956).^[9]​^: 365

McHugh pertenecía a un grupo de amigos, conocido en Hollywood como la Irish mafia («Mafia irlandesa»), que incluía a sus amigos cercanos James Cagney, Pat O'Brien y Spencer Tracy, así como a sus compañeros actores Allen Jenkins, Ralph Bellamy, Frank Morgan,^[10]​ y Lynne Overman.^[11]​

Durante la Segunda Guerra Mundial, McHugh se unió a la Hollywood Victory Caravan («Caravana de la victoria de Hollywood»), un grupo de 21 estrellas que viajaban por todo el país en un tren especial y actuaron en varias ciudades durante tres semanas en 1942 para recaudar fondos para la Sociedad de Socorro del Ejército y la Marina. A continuación, realizó una gira de la USO por Inglaterra, apareciendo en el American Variety Show con Al Jolson, Merle Oberon, Patricia Morison y Allen Jenkins.^[12]​

McHugh regresó a Europa con un espectáculo de la USO creado por él, «McHugh's Revue», que realizó una gira por Francia, Países Bajos, Bélgica y Alemania en noviembre y diciembre de 1944. McHugh, cuatro hermosas chicas (las actrices Mary Brian, June Clyde, Charlotte Greer y Nina Nova) y el pianista Eddie Eisman recorrieron el frente, entreteniendo y conociendo a las tropas. Los Documentos de McHugh en la Biblioteca Pública de Nueva York incluyen muchos relatos de la gira. Por su trabajo con la USO, McHugh recibió una mención «por servicio excepcionalmente meritorio mientras trabajaba como miembro de una unidad de entretenimiento» del Ejército de los Estados Unidos, firmada por el Mayor General Raymond S. McLain. En una carta de 1945 a McHugh y su compañía, McLain escribió:

I want to make of record what I was glad to say to each of you when you left and what many of the command said to you then and what they have said to me since — “That your show was like an oasis in this desert of hardship and suffering”. It reminded us what a vital factor a bit of entertainment is in this business where boredom is almost as difficult to bear as the hardships of the campaign. Your show was sparkling, and left a refreshing atmosphere in the spirit of many battle weary soldiers.^[1]​
[Quiero dejar constancia de lo que me alegró decirles a cada uno de ustedes al partir, y lo que muchos miembros del mando les dijeron entonces y lo que me han dicho desde entonces: «Que su espectáculo fue como un oasis en este desierto de penurias y sufrimiento». Nos recordó la importancia de un poco de entretenimiento en este oficio, donde el aburrimiento es casi tan difícil de soportar como las dificultades de la campaña. Su espectáculo fue brillante y dejó una atmósfera refrescante en el espíritu de muchos soldados cansados de la batalla.]

McHugh estuvo casado con Dorothy McHugh (de soltera Spencer) desde 1933 hasta su muerte.^[3]​ Tuvieron tres hijos.^[2]​

El 11 de septiembre de 1981, McHugh murió en el Hospital Greenwich en Greenwich, Connecticut, a la edad de 83 años.^[13]​

• Frank McHugh en Internet Movie Database (en inglés).