Nació en la ciudad de Cartagena en 1881, en el seno de una familia acomodada dedicada al comercio.^[1]​ Inició sus estudios eclesiásticos en el Seminario Diocesano de Murcia. En 1898 ingresó en la Congregación de la Misión en el noviciado de los misioneros paúles en París, sin decírselo a sus padres. Allí prosiguió sus estudios eclesiásticos. Fue ordenado sacerdote en París en 1903.^[2]​

Inmediatamente después de ser ordenado fue enviado como vicario parroquial a la iglesia de San Luis de los Franceses de Lisboa. En 1910 fue proclamada la República portuguesa y las congregaciones religiosas fueron suprimidas, pero el padre Ballester pudo quedarse en Lisboa gracias al amparo de la embajada francesa. Entonces fundó varias escuelas en los barrios más pobres de Lisboa, un instituto profesional femenino, una escuela de hogar y un obrador.^[3]​ También predicó ejercicios espirituales a sacerdotes seculares y encuentra tiempo para estudiar a fondo las Sagradas Escrituras, publicando una edición muy cuidada y anotada del Nuevo Testamento, de la que se hicieron muchas ediciones en castellano y en portugués.

En 1919 fue destinado a Madrid. En 1920 publicó una buena versión bilingüe en español y latín, cuidadosamente anotada y comentada, con índices y mapas, del Nuevo Testamento, aunque no del texto griego original, sirviéndose para ello de la Vulgata jeromiana y de la traducción de Torres Amat; se volvió a publicar varias veces, por ejemplo en Bélgica (El Nuevo Testamento de Nuestro Señor Jesucristo en latín y castellano. Tournai: Sociedad de San Juan Evangelista / Desclée y Cía, 1936) y también una versión portuguesa.

En 1924 fue nombrado director de las Hermanas de la Caridad de hábito gris, a las que persuadió para conseguir los títulos académicos y profesionales que requerían los tiempos para el adecuado desempeño de su misión apostólica: magisterio, licenciaturas y enfermería.^[3]​

Con el estallido de la Guerra civil española pudo refugiarse en el hospital de San Luis de los Franceses, escapando poco después a Toulouse. Unos meses más tarde regresó a la España sublevada.^[1]​ Intentó rescatar a las religiosas de su Orden de la zona roja y desarrolló su oficio pastoral en los hospitales de sangre de la zona.

El 12 de febrero de 1938 Pío XI lo nombró obispo de León, en la zona controlada por los sublevados. Al ser provista la diócesis de forma unilateral por la Santa Sede, sin haber consultado a Franco, el nombramiento provocó malestar en este último. Ballester se mostró desde el primer momento fiel al bando sublevado, como demuestran tres telegramas dirigidos respectivamente a Franco, Jordana y el conde de Rodezno en los que expresa su apoyo al primer gobierno de los rebeldes conformado cuatro días antes.^[1]​

En 1943 fue trasladado a la sede de Vitoria, que entonces todavía agrupaba las tres Provincias Vascongadas (territorio de la actual comunidad autónoma del País Vasco).^[4]​

Fue procurador en las Cortes Españolas durante la I y II legislaturas (1943-1949) por designación del jefe del Estado, Francisco Franco.

Preconizado para el arzobispado de Santiago de Compostela, falleció el 31 de enero de 1949 en Vitoria, sin haber tomado posesión de la sede compostelana.^[5]​ Se encuentra enterrado en la Catedral de María Inmaculada (Vitoria).

• Quiero ser santa. Estampas biográficas de una Hija de la Caridad, Sor Emilia Heredia y Guerrero (Madrid, Mez. Campos, 1941).
• Jesucristo, cuadernos evangélicos (Madrid, Espasa Calpe, 1944).

También preparó varias ediciones de las Sagradas Escrituras:

• El Nuevo Testamento de N.S.J.C. (Madrid, Blass, 1933).
• Novi Testamenti Domini Nostri Jesu Christi Index Theologicus (Madrid, Luz, 1943).