Riscos de sofrimento

Grade de escopo e gravidade do artigo "Existential Risk Prevention as Global Priority", de Bostrom[1]

Os riscos de sofrimento, ou riscos-s, são riscos que envolvem uma quantidade astronômica de sofrimento, muito mais do que todo o sofrimento ocorrido na Terra.[2][3] Às vezes, eles são categorizados como uma subclasse de riscos existenciais.[4]

As fontes de possíveis riscos-s incluem a inteligência artificial incorporada[5] e a superinteligência,[6] bem como a colonização espacial, que poderia levar a "guerras constantes e catastróficas"[7] e a um imenso aumento no sofrimento dos animais selvagens, introduzindo-os em outros planetas, intencional ou inadvertidamente, "geralmente com vidas curtas e miseráveis, cheias de sofrimentos às vezes brutais".[8]

Steven Umbrello, um pesquisador de ética em IA, alertou que a computação biológica pode tornar o design do sistema mais propenso a riscos-s.[5]

Ver também

• Alinhamento da inteligência artificial
• Ética na inteligência artificial
• Ética da terraformação
• Risco existencial da inteligência artificial geral
• Risco catastrófico global
• Sofrimento de animais selvagens

Referências

1. Bostrom, Nick (2013). «Existential Risk Prevention as Global Priority» (PDF). Global Policy (em inglês). 4 (1): 15–3. doi:10.1111/1758-5899.12002 – via Existential Risk 
2. Daniel, Max (20 de junho de 2017). «S-risks: Why they are the worst existential risks, and how to prevent them (EAG Boston 2017)». Center on Long-Term Risk (em inglês). Consultado em 14 de setembro de 2023 
3. Hilton, Benjamin (Setembro de 2022). «'S-risks'». 80,000 Hours (em inglês). Consultado em 14 de setembro de 2023 
4. Baumann, Tobias (2017). «S-risk FAQ». Center for Reducing Suffering (em inglês). Consultado em 14 de setembro de 2023 
5. Umbrello, Steven; Sorgner, Stefan Lorenz (Junho de 2019). «Nonconscious Cognitive Suffering: Considering Suffering Risks of Embodied Artificial Intelligence». Philosophies (em inglês). 4 (2). 24 páginas. doi:10.3390/philosophies4020024. hdl:2318/1702133 
6. Sotala, Kaj; Gloor, Lukas (27 de dezembro de 2017). «Superintelligence As a Cause or Cure For Risks of Astronomical Suffering». Informatica (em inglês). 41 (4). ISSN 1854-3871 
7. Torres, Phil (1 de junho de 2018). «Space colonization and suffering risks: Reassessing the "maxipok rule"». Futures (em inglês). 100: 74–85. ISSN 0016-3287. doi:10.1016/j.futures.2018.04.008 
8. Kovic, Marko (1 de fevereiro de 2021). «Risks of space colonization». Futures (em inglês). 126. 102638 páginas. ISSN 0016-3287. doi:10.1016/j.futures.2020.102638 

Leitura adicional

• Baumann, Tobias (2022). Avoiding the Worst: How to Prevent a Moral Catastrophe (em inglês). [S.l.]: Independently published. ISBN 979-8359800037 
• Metzinger, Thomas (19 de fevereiro de 2021). «Artificial Suffering: An Argument for a Global Moratorium on Synthetic Phenomenology». Journal of Artificial Intelligence and Consciousness (em inglês). 08: 43–66. ISSN 2705-0785. doi:10.1142/S270507852150003X 
• Minardi, Di (15 de outubro de 2020). «The grim fate that could be 'worse than extinction'». BBC Future (em inglês). Consultado em 11 de fevereiro de 2021 
• Baumann, Tobias (2017). «S-risks: An introduction». Center for Reducing Suffering (em inglês). Consultado em 10 de fevereiro de 2021 
• Althaus, David; Gloor, Lukas (14 de setembro de 2016). «Reducing Risks of Astronomical Suffering: A Neglected Priority». Center on Long-Term Risk (em inglês). Consultado em 10 de fevereiro de 2021