El problema parece haber sido planteado a mediados del siglo XX después del trabajo de Beurling y von Neumann,^[1]​ quienes encontraron (pero nunca publicaron) una solución positiva para el caso de operadores compactos. Luego, fue planteado por Paul Halmos para el caso de operadores ${\displaystyle T}$  tales que ${\displaystyle T^{2}}$  es compacto. Esto fue resuelto afirmativamente, para una clase más general de operadores polinomialmente compactos (operadores ${\displaystyle T}$  tales que ${\displaystyle p(T)}$  es un operador compacto para un polinomio no nulo ${\displaystyle p}$  adecuadamente escogido), por Allen R. Bernstein y Abraham Robinson en 1966.

Para espacios de Banach, el primer ejemplo de operador sin subespacio invariante fue construido por Per Enflo, quien propuso un contraejemplo al problema del subespacio invariante en 1975, publicando un resumen en 1976. Enflo presentó el artículo completo en 1981, y la complejidad y longitud del artículo atrasaron su publicación hasta 1987.^[2]​El trabajo de Enflo inspiró a una similar construcción de un operador sin subespacios invariantes, por ejemplo a Beauzamy, quien reconoció las ideas de Enflo.^[2]​

En la década de 1990, Enflo desarrolló un enfoque «constructivo» al problema del subespacio invariante en espacios de Hilbert.^[3]​

En mayo de 2023, apareció una prepublicación de Enflo en arXiv,^[4]​ en la cual, de ser correcta, se resuelve el problema para espacios de Hilbert y completa el panorama.

Formalmente, el problema del subespacio invariante para un espacio de Banach complejo ${\displaystyle H}$  de dimensión > 1 pregunta si todo operador lineal acotado ${\displaystyle T:H\to H}$  tiene un subespacio ${\displaystyle T}$ -invariante cerrado no trivial: un subespacio lineal cerrado ${\displaystyle W}$  de ${\displaystyle H}$ , que es distinto de ${\displaystyle \{0\}}$  y de ${\displaystyle H}$ , tal que ${\displaystyle T(W)\subset W}$ .

Una respuesta negativa al problema está estrechamente relacionada con las propiedades de las órbitas ${\displaystyle T}$ . Si ${\displaystyle x}$  es un elemento del espacio de Banach ${\displaystyle H}$ , la órbita de ${\displaystyle x}$  bajo la acción de ${\displaystyle T}$ , denotada por ${\displaystyle [x]}$ , es el subespacio generado por la secuencia ${\displaystyle \{T^{n}(x)\,:\,n\geq 0\}}$ . A esto también se lo llama subespacio ${\displaystyle T}$ -cíclico generado por ${\displaystyle x}$ . A partir de la definición, se deduce que ${\displaystyle [x]}$  es un subespacio ${\displaystyle T}$ -invariante. Además, es el subespacio ${\displaystyle T}$ -invariante mínimo que contiene a ${\displaystyle x}$ : si ${\displaystyle W}$  es otro subespacio invariante que contiene ${\displaystyle x}$ , entonces necesariamente ${\displaystyle T^{n}(x)\in W}$  para todo ${\displaystyle n\geq 0}$  (ya que ${\displaystyle W}$  es ${\displaystyle T}$ -invariante), y ${\displaystyle [x]\subset W}$ . Si ${\displaystyle x}$  es no nulo, entonces ${\displaystyle [x]}$  no es igual a ${\displaystyle \{0\}}$ , por lo que su clausura es bien el espacio entero ${\displaystyle H}$  (en cuyo caso a ${\displaystyle x}$  también se lo llama vector cíclico para ${\displaystyle T}$ ), o bien se trata de un subespacio ${\displaystyle T}$ -invariante no trivial. Por tanto, un contraejemplo al problema del subespacio invariante sería un espacio de Banach ${\displaystyle H}$  y un operador acotado ${\displaystyle T:H\to H}$  para los que todo vector no nulo ${\displaystyle x\in H}$  es un vecotr clíclico para ${\displaystyle T}$ . (Donde un «vector cíclico» ${\displaystyle x}$  para un operador ${\displaystyle T}$  en un espacio de Banach ${\displaystyle H}$  se trata de un vector para el que la órbita ${\displaystyle [x]}$  de ${\displaystyle x}$  es densa en ${\displaystyle H}$ ).

• Abramovich, Yuri A.; Aliprantis, Charalambos D. (2002), An Invitation to Operator Theory, Graduate Studies in Mathematics 50, Providence, RI: American Mathematical Society, ISBN 978-0-8218-2146-6, MR 1921782, doi:10.1090/gsm/050 .
• Argyros, Spiros A.; Haydon, Richard G. (2011), «A hereditarily indecomposable L_∞-space that solves the scalar-plus-compact problem», Acta Math. 206 (1): 1-54, MR 2784662, S2CID 119532059, arXiv:0903.3921, doi:10.1007/s11511-011-0058-y .
• Aronszajn, N.; Smith, K. T. (1954), «Invariant subspaces of completely continuous operators», Annals of Mathematics, Second Series 60 (2): 345-350, JSTOR 1969637, MR 0065807, doi:10.2307/1969637 .
• Atzmon, Aharon (1983), «An operator without invariant subspaces on a nuclear Fréchet space», Annals of Mathematics, Second Series 117 (3): 669-694, JSTOR 2007039, MR 701260, doi:10.2307/2007039 .
• Beauzamy, Bernard (1985), «Un opérateur sans sous-espace invariant: simplification de l'exemple de P. Enflo» [An operator with no invariant subspace: simplification of the example of P. Enflo], Integral Equations and Operator Theory (en francés) 8 (3): 314-384, MR 792905, S2CID 121418247, doi:10.1007/BF01202903 .
• Beauzamy, Bernard (1988), Introduction to operator theory and invariant subspaces, North-Holland Mathematical Library 42, Amsterdam: North-Holland, ISBN 978-0-444-70521-1, MR 967989 .
• Bernstein, Allen R.; Robinson, Abraham (1966), «Solution of an invariant subspace problem of K. T. Smith and P. R. Halmos», Pacific Journal of Mathematics 16 (3): 421-431, MR 0193504, doi:10.2140/pjm.1966.16.421 .
• Enflo, Per (1976), «On the invariant subspace problem in Banach spaces», Séminaire Maurey--Schwartz (1975--1976) Espaces L^p, applications radonifiantes et géométrie des espaces de Banach, Exp. Nos. 14-15, Centre Math., École Polytech., Palaiseau, p. 7, MR 0473871 .
• Enflo, Per (1987), «On the invariant subspace problem for Banach spaces», Acta Mathematica 158 (3): 213-313, MR 892591, doi:10.1007/BF02392260 .
• Enflo, Per; Lomonosov, Victor (2001), «Some aspects of the invariant subspace problem», Handbook of the geometry of Banach spaces I, Amsterdam: North-Holland, pp. 533-559, ISBN 9780444828422, MR 1863701, doi:10.1016/S1874-5849(01)80015-2 .
• Halmos, Paul R. (1966), «Invariant subspaces of polynomially compact operators», Pacific Journal of Mathematics 16 (3): 433-437, MR 0193505, doi:10.2140/pjm.1966.16.433 .
• Lomonosov, V. I. (1973), «Invariant subspaces of the family of operators that commute with a completely continuous operator», Akademija Nauk SSSR. Funkcional' Nyi Analiz I Ego Prilozenija 7 (3): 55-56, MR 0420305, S2CID 121421267, doi:10.1007/BF01080698 .
• Pearcy, Carl; Shields, Allen L. (1974), «A survey of the Lomonosov technique in the theory of invariant subspaces», en C. Pearcy, ed., Topics in operator theory, Mathematical Surveys (13), Providence, R.I.: American Mathematical Society, pp. 219-229, MR 355639 .
• Read, C. J. (1984), «A solution to the invariant subspace problem», The Bulletin of the London Mathematical Society 16 (4): 337-401, MR 749447, doi:10.1112/blms/16.4.337 .
• Read, C. J. (1985), «A solution to the invariant subspace problem on the space l₁», The Bulletin of the London Mathematical Society 17 (4): 305-317, MR 806634, doi:10.1112/blms/17.4.305 .
• Read, C. J. (1988), «The invariant subspace problem for a class of Banach spaces, 2: hypercyclic operators», Israel Journal of Mathematics 63 (1): 1-40, MR 0959046, S2CID 123651876, doi:10.1007/BF02765019 .
• Radjavi, Heydar; Rosenthal, Peter (1982), «The invariant subspace problem», The Mathematical Intelligencer 4 (1): 33-37, MR 0678734, S2CID 122811130, doi:10.1007/BF03022994 .
• Radjavi, Heydar; Rosenthal, Peter (2003), Invariant Subspaces (Second edición), Mineola, NY: Dover, ISBN 978-0-486-42822-2, MR 2003221 .
• Radjavi, Heydar; Rosenthal, Peter (2000), Simultaneous triangularization, Universitext, New York: Springer-Verlag, pp. xii+318, ISBN 978-0-387-98467-4, MR 1736065, doi:10.1007/978-1-4612-1200-3 .
• Śliwa, Wiesław (2008), «The Invariant Subspace Problem for Non-Archimedean Banach Spaces», Canadian Mathematical Bulletin 51 (4): 604-617, MR 2462465, S2CID 40430187, doi:10.4153/CMB-2008-060-9, hdl:10593/798 .
• Yadav, B. S. (2005), «The present state and heritages of the invariant subspace problem», Milan Journal of Mathematics 73 (1): 289-316, MR 2175046, S2CID 121068326, doi:10.1007/s00032-005-0048-7 .