Penny se educó en la Escuela de Shrewsbury y en el St Catharine's College, de Cambridge, antes de realizar sus estudios de postgrado en el Courtauld Institute of Art de Londres.

Su carrera académica empezó en Cambridge (en el Clare Hall), y luego como profesor de historiador del arte en la Universidad de Mánchester. Fue más tarde profesor en la Universidad de Oxford y en el King's College de Cambridge.

Entre 1984 y 1989, Penny fue conservador del Ashmolean Museum, de Oxford. En 1990, inició su relación con la National Gallery, como conservador de pintura renacentista. En 1991, identificó la Virgen de los claveles de Rafael, cuyo original se suponía perdido. Colaboró en 2002 con el Getty Center de Los Ángeles. Penny siguió trabajando en la National Gallery, en 2002 fue nombrado conservador jefe de escultura en la National Gallery of Art de Washington. Tras la vacante del antiguo director Saumarez, fue nombrado en 2008 director de la National Gallery de Londres.

Es experto en escultura. Penny escribe regularmente en The Burlington Magazine y en el London Review of Books.

• Taste and the Antique, 1981, con Francis Haskell. Tr.: El gusto y el arte de la Antigüedad, Alianza, 1990, ISBN 978-84-206-9041-4. Es un estudio sobre la formación del canon clásico en escultura.
• The Materials of Sculpture, Yale University Press, 1993.

• Maddocks, Fiona (27 de noviembre de 2007). «The National Gallery finds the right man». The Evening Standard. Archivado desde el original el 12 de enero de 2009. Consultado el 12 de enero de 2007. 
• Jones, Jonathan (27 de marzo de 2008). «Agent provocateur». The Guardian. Consultado el 27 de marzo de 2008. 
• Higgins, Charlotte (27 de marzo de 2008). «Buy old masters, says new National Gallery head». The Guardian. Consultado el 27 de marzo de 2008. 
• 2002 press release from the National Gallery of Art on Penny's appointment as Senior Curator of Sculpture