El primer artículo sobre Zero-shot learning en el procesamiento del lenguaje natural apareció en 2008, en un artículo de Chang, Ratinov, Roth y Srikumar, en la Asociación para el Avance de la Inteligencia 2008^[6]​ (AAAI'08), pero el nombre que allí se dio al paradigma de aprendizaje fue clasificación sin datos. El primer artículo sobre ZSL en visión por computadora apareció en la misma conferencia, con el nombre de Zero-data learning. El término apareció por primera vez en la literatura en un artículo de Palatucci, Hinton, Pomerleau y Mitchell en la Conferencia Sobre el Sistema de Procesamiento de Información Neuronal del 2009^[7]​ NIPS'09 en 2009. Esta terminología se repitió más tarde en otro artículo sobre visión por computador y el término ZSL se impuso como una derivación del one-shot learning que se había introducido en la visión por computador años antes.

En visión por computadora, los modelos de ZSL aprenden los parámetros de las clases vistas junto con sus representaciones de clase y se basan en la similitud representacional entre las etiquetas de clase para que, durante la inferencia, las instancias puedan clasificarse en nuevas clases.

En el procesamiento del lenguaje natural, la dirección técnica clave desarrollada se basa en la capacidad de "entender las etiquetas", es decir, representar las etiquetas en el mismo espacio semántico que el de los documentos que hay que clasificar. Esto permite la clasificación de un único ejemplo sin observar ningún dato anotado, la forma más pura de clasificación de Zero-shot. El artículo original utilizaba la representación del Análisis Semántico Explícito (Explicit Semantic Analysis por sus siglas en inglés ESA^[8]​), pero otros artículos posteriores utilizaron otras representaciones, incluidas representaciones densas. Este enfoque también se extendió a dominios multilingües, tipificación fina de entidades y otros problemas. Además, más allá de depender únicamente de las representaciones, el enfoque computacional se ha ampliado para depender de la transferencia de otras tareas, como la vinculación textual y la respuesta a preguntas.

El documento original también señala que, más allá de la capacidad de clasificar un solo ejemplo, cuando se da una colección de ejemplos, con la suposición de que provienen de la misma distribución, es posible hacer una mejora del rendimiento de una manera similar a la semisupervisada (o aprendizaje transductivo).^[9]​

A diferencia de la generalización estándar en el aprendizaje automático, donde se espera que se clasifiquen correctamente las nuevas muestras en clases que ya han observado durante el entrenamiento, en ZSL no se han dado muestras de las clases durante el entrenamiento del clasificador. Por tanto, puede considerarse un caso extremo de adaptación al dominio.

Naturalmente, hay que dar algún tipo de información auxiliar sobre estas clases de ZSL y este tipo de información puede ser de varios tipos.

• Aprendizaje con atributos: las clases van acompañadas de una descripción estructurada predefinida. Por ejemplo, para las descripciones de aves, podría incluir "cabeza roja", "pico largo". Estos atributos suelen estar organizados de forma compositiva estructurada y tener en cuenta esa estructura mejora el aprendizaje. Aunque este enfoque se ha utilizado sobre todo en la visión por computadora, también hay algunos ejemplos en el procesamiento del lenguaje natural.^[2]​

• Aprendizaje a partir de descripciones textuales: Como se ha señalado anteriormente, ésta ha sido la dirección clave que se ha seguido en el procesamiento del lenguaje natural. En este caso, se considera que las etiquetas de clase tienen un significado y a menudo se completan con definiciones o descripciones de texto libre en lenguaje natural. Esto podría incluir, por ejemplo, una descripción Wikipedia de la clase.^[10]​

• Similitud entre clases: Aquí, las clases están incrustadas en un espacio continuo. Un clasificador sin ejemplos previos puede predecir que una muestra corresponde a alguna posición en ese espacio, y la clase incrustada más cercana se utiliza como clase predicha, aunque no se hayan observado tales muestras durante el entrenamiento.

La configuración ZSL anterior supone que, en el momento de la prueba, sólo se dan muestras de Zero-shot, es decir, muestras de nuevas clases no vistas. En el ZSL generalizado, en el momento de la prueba pueden aparecer muestras tanto de clases nuevas como conocidas. Esto plantea nuevos retos para los clasificadores en el momento de la prueba, porque es muy difícil estimar si una muestra dada es nueva o conocida. Algunos enfoques para manejar esto incluyen:

• Un módulo de compuerta, se entrena primero para decidir si una muestra dada pertenece a una clase nueva o a una antigua, y luego, en el momento de la inferencia, emite una decisión dura, o una decisión probabilística suave
• Un módulo generativo, que se entrena para generar una representación de características de las clases no vistas —un clasificador estándar puede entonces entrenarse en muestras de todas las clases, vistas y no vistas.

ZSL se ha aplicado a los siguientes campos:

• Clasificación de imágenes
• Segmentación semántica
• Generación de imágenes
• Detección de objetos^[11]​
• Procesamiento del lenguaje natural^[4]​^[5]​
• Biología computacional