Nació en 1292 en Ashperton cerca de Hereford, como el segundo hijo de cinco de Sir William Grandisson (fallecido en 1335). Sir William era el heredero de Otón de Grandson (fallecido en 1328), amigo personal cercano del Rey Eduardo I, y jefe de la rama inglesa de una familia que estaba basada en el Castillo de Grandson, ahora en Suiza. Su madre, Sybil (fallecida en 1334), era una hija menor y coheredera de Sir John de Tregoz.^[3]​

Estudió en Oxford en 1306, luego de 1313 a 1317 estudió teología en la Universidad de París bajo Jacques Fournier, quien más tarde se convirtió en el Papa Benedicto XII. Regresó a estudiar en Oxford en 1326-7. Más tarde en Aviñón se convirtió en capellán y amigo del Papa Juan XXII, quien lo guió y lo envió en misiones diplomáticas. El Papa recompensó a Grandisson haciéndolo prebendario en York, Wells y Lincoln, y en octubre de 1310, Arcediano de Nottingham.^[3]​

Cuando su hermano mayor Peter murió en 1358 sin heredero, John se convirtió en el jefe de la familia. ^[3]​

Grandisson fue nominado como Obispo de Exeter el 10 de agosto de 1327 y fue consagrado el 18 de octubre de 1327 en Aviñón. Su entronización en Exeter fue el 22 de agosto de 1328.^[4]​ Luego diferenció su escudo de armas paterno sustituyendo un bonete de obispo por el águila central en la franja.

La Diócesis de Exeter estaba en cierto desorden después del asesinato del Obispo Stapeldon en 1326 y los dos obispados sucesores breves de James Berkeley y John Godeley. A su llegada a Exeter, Grandisson se encontró con varios problemas, incluida la deuda, la hostilidad de su capítulo y las malas relaciones con Hugh de Courtenay, luego convertido en Conde de Devon. Sin embargo, sus registros reflejan su personalidad enérgica que se manifestaba en su diligente aplicación de la disciplina, la supresión de abusos y el castigo de los infractores. Por otro lado, se preocupaba mucho por la educación y la religión del laicado, fomentando el interés en Santa Sidwell y urgiendo a que se registraran las vidas de los santos de Cornualles. Su residencia principal estaba en su finca de Chudleigh y evidentemente era un viajero poco dispuesto, saliendo raramente de su diócesis para asistir al parlamento o a una convocación eclesiástica.^[4]​

De Bishop Stapledon, Grandisson heredó una Catedral parcialmente reconstruida. En diciembre de 1328 consagró el altar mayor y luego comenzó a recaudar fondos en la diócesis para completar la nave, de la cual solo se había completado la primera bahía. Fue asistido por el maestro albañil, Thomas Witney, quien había estado trabajando en la catedral desde aproximadamente 1313. Después de la muerte de Witney, hacia 1342, el trabajo continuó a cargo de William Joy. Los principales intereses de Grandisson para la catedral fueron su propia capilla de capellanía, algunas de las claves del techo (especialmente la que representa el asesinato de Thomas Becket, un interés particular suyo), y probablemente el coro de los músicos.^[4]​

En 1335, Grandisson fundó un Colegio de Canónigos Seculares en Ottery St Mary, Devon, como escuela coral para ocho niños y un Maestro de Gramática, que sobrevive hoy como The King's School. Sin embargo, su proyecto más grande, en el que tuvo un gran interés personal, fue la reconstrucción y establecimiento como iglesia colegiata de la iglesia en Ottery St Mary. Tomando diez años desde 1337, la reconstrucción fue contemporánea con el trabajo en curso en la Catedral de Exeter y su construcción refleja varias características de la catedral. El hermano menor de Grandisson, Otho, ayudó a financiar la iglesia y el escudo de armas familiar apareció ampliamente en todo el edificio,^[4]​ gran parte de los cuales ha sido destruido o restaurado posteriormente.^[5]​

Grandisson donó la campana mayor en la torre sur de la Catedral de Exeter. Nombrada "Grandison" y refundida al menos tres veces, la campana actual lleva la inscripción "EX DONO IOHANNIS GRANDISON EPISCOPI EXON GVLIELMVS EVANS FECIT 1729".^[6]​

Durante su episcopado, enfrentó varios movimientos anticlericales en Devon. Por ejemplo, la Orden de Brothelyngham, una falsa orden monástica de 1348, regularmente recorría Exeter, secuestrando tanto a religiosos como a laicos y exigiendo dinero como rescate. ^[7]​También prohibió un culto popular que estaba siendo promovido por una casa de canónigos en el Priorato de Frithelstock.^[8]​

Grandisson falleció en Chudleigh el 16 de julio de 1369 y fue enterrado en la capilla en el lado sur de la puerta central de la fachada oeste de la Catedral de Exeter, una capilla que él había mandado construir.^[4]​ La capilla, dedicada a Santa Radegunda, fue desfigurada y su tumba fue destruida, probablemente a principios del siglo XVI.^[9]​

Se conservan dos trípticos de marfil y un díptico realizados en Inglaterra en la década de 1330 para la devoción privada e inscritos con los emblemas de John Grandisson como Obispo de Exeter. Uno de ellos, ahora conocido como el Tríptico de John Grandisson, se encuentra en el Museo Británico de Londres, y es considerado una obra maestra del tallado medieval inglés.^[10]​ El díptico está en el Museo del Louvre en París.

Un importante salterio conocido como el Salterio de Grandisson, propiedad del Obispo Grandisson, se conserva en la Biblioteca Británica de Londres. Registra la muerte de Grandisson y el hecho de que lo legó a la realeza.^[11]​

Cuando la tumba saqueada de Grandisson fue reabierta en 1956, se descubrió un pequeño anillo de oro esmaltado. Muestra a la Virgen y al niño y tiene similitudes con esmaltes creados en París alrededor de la década de 1330. Se ha sugerido que, como es demasiado pequeño para ser usado sobre un guante, podría haber sido una de sus posesiones más preciadas, probablemente usada oculta a la vista en su dedo meñique.^[12]​