Riesgos_de_sufrimiento Knowpia

Los riesgos de sufrimiento, o riesgos de sufrimiento astronómico futuro, o riesgos-s, son riesgos que implican una cantidad astronómica de sufrimiento, mucho mayor que todo el sufrimiento que se ha producido en la Tierra.^[2]^[3] A veces se consideran una subclase de los riesgos existenciales.^[4]

Los riesgos de sufrimiento tienen un alcance similar a los riesgos existenciales.^[1]

Entre las fuentes de posibles riesgos-s se encuentran la inteligencia artificial encarnada o incorporada^[5] y la superinteligencia,^[6] así como la colonización espacial, que podría dar lugar a "guerras constantes y catastróficas"^[7] y a un inmenso aumento del sufrimiento de los animales salvajes al introducir en otros planetas, de forma intencionada o inadvertida, animales salvajes que "generalmente llevan vidas cortas y miserables, repletas a veces del sufrimiento más brutal".^[8]

Fuentes de riesgos del sufrimiento

Inteligencia artificial encarnada e incorporada

Se refiere a inteligencias artificiales (IA) que interactúan directamente con el mundo físico, lo que aumenta el riesgo de que sus acciones generen sufrimiento masivo si no están adecuadamente controladas.

Superinteligencia

Una IA con capacidades superiores a las humanas podría, de manera involuntaria o deliberada, provocar un sufrimiento astronómico si sus objetivos no están alineados con los intereses humanos o si sus acciones escapan al control humano.

Colonización espacial

La colonización espacial podría aumentar el sufrimiento astronómico al introducir animales salvajes en nuevos ecosistemas, lo que generaría desequilibrios ecológicos. En hábitats desconocidos, los animales podrían tener dificultades para sobrevivir, enfrentándose a la hambruna, las enfermedades y la depredación. Estos desafíos, combinados con ecosistemas inestables, podrían provocar colapsos o explosiones poblacionales, lo que resultaría en un sufrimiento generalizado. Además, la falta de depredadores naturales o de una biodiversidad adecuada en los planetas colonizados podría empeorar la situación, replicando los problemas ecológicos de la Tierra a una mayor escala. Esto plantea preocupaciones éticas sobre las consecuencias no intencionadas de la colonización espacial, ya que podría propagar un inmenso sufrimiento animal en nuevos ecosistemas inestables. Phil Torres argumenta que la colonización espacial presenta riesgos significativos de "sufrimiento", donde la expansión en el espacio conduciría a la creación de diversas especies y civilizaciones con intereses conflictivos. Estas diferencias, combinadas con armamento avanzado y las vastas distancias entre civilizaciones, resultarían en conflictos catastróficos e irresolubles.^[9]

Computación biológica

Steven Umbrello, investigador en ética de la inteligencia artificial, ha advertido de que la computación biológica, que implica el diseño de sistemas basados en procesos biológicos, podría hacer que dichos sistemas sean más vulnerables a generar riesgos de sufrimiento astronómico.^[10]

Véase también

Lectura adicional

Althaus, David, Gloor, Lukas (14 de septiembre de 2016). «Reducing Risks of Astronomical Suffering: A Neglected Priority». Center on Long-Term Risk (en inglés). Consultado el 10 de febrero de 2021.
Baumann, Tobias (2022). Avoiding the Worst: How to Prevent a Moral Catastrophe (en inglés). Independently published. ISBN 979-8359800037.
«S-risks: An introduction». Center for Reducing Suffering (en inglés estadounidense). Consultado el 10 de febrero de 2021.
Metzinger, Thomas (19 de febrero de 2021). «Artificial Suffering: An Argument for a Global Moratorium on Synthetic Phenomenology». Journal of Artificial Intelligence and Consciousness (en inglés) 08: 43-66. ISSN 2705-0785. doi:10.1142/S270507852150003X.
Minardi, Di (15 de octubre de 2020). «The grim fate that could be 'worse than extinction'». BBC Future (en inglés). Consultado el 11 de febrero de 2021.

Referencias

↑ Sotala, Kaj (14 de junio de 2018). «AI Alignment Podcast: Astronomical Future Suffering and Superintelligence with Kaj Sotala». Lucas Perry (en inglés) (Future of Life Institute). Consultado el 4 de junio de 2022.
↑ Daniel, Max (20 de junio de 2017). «S-risks: Why they are the worst existential risks, and how to prevent them (EAG Boston 2017)». Center on Long-Term Risk (en inglés estadounidense). Consultado el 14 de septiembre de 2023.
↑ Hilton, Benjamin (Setiembre de 2022). «'S-risks'». 80,000 Hours (en inglés estadounidense). Consultado el 14 de septiembre de 2023.
↑ Baumann, Tobias (2017). «S-risk FAQ». Center for Reducing Suffering (en inglés). Consultado el 14 de septiembre de 2023.
↑ Umbrello, Steven; Sorgner, Stefan Lorenz (Junio 2019). «Nonconscious Cognitive Suffering: Considering Suffering Risks of Embodied Artificial Intelligence». Philosophies (en inglés) 4 (2): 24. doi:10.3390/philosophies4020024.
↑ Sotala, Kaj; Gloor, Lukas (27 de diciembre de 2017). «Superintelligence As a Cause or Cure For Risks of Astronomical Suffering». Informatica (en inglés) 41 (4). ISSN 1854-3871.
↑ Torres, Phil (1 de junio de 2018). «Space colonization and suffering risks: Reassessing the "maxipok rule"». Futures (en inglés) 100: 74–85. ISSN 0016-3287. doi:10.1016/j.futures.2018.04.008.
↑ Kovic, Marko (1 de febrero de 2021). «Risks of space colonization». Futures (en inglés) 126: 102638. ISSN 0016-3287. doi:10.1016/j.futures.2020.102638.
↑ Torres, Phil (2018). «Space colonization and suffering risks: Reassessing the "maxipok rule"». Futures 103: 144-154. doi:10.1016/j.futures.2018.04.008. Consultado el 19 de octubre de 2024.
↑ Umbrello, Steven; Sorgner, Stefan Lorenz (junio de 2019). «Nonconscious Cognitive Suffering: Considering Suffering Risks of Embodied Artificial Intelligence». Philosophies 4 (2): 24. doi:10.3390/philosophies4020024. hdl:2318/1702133. Consultado el 20 de octubre de 2024.