Rizici patnje, ili s-rizici, su rizici koji uključuju astronomsku količinu patnje; mnogo više od svih patnji koje su se do sada dogodile na Zemlji.[2][3] Ponekad se kategorišu kao podklasa egzistencijalnih rizika.[4]

Tabela opsega i ozbiljnosti iz Bostromovog rada „Prevencija egzistencijalnog rizika kao globalni prioritet“[1]

Izvori mogućih s-rizika uključuju utelovljenu veštačku inteligenciju[5] i superinteligenciju,[6] kao i kolonizaciju svemira, što bi potencijalno moglo dovesti do „stalnih i katastrofalnih ratova“[7] i ogromnog povećanja patnje divljih životinja njihovim unošenjem na druge planete, bilo namerno ili nehotice.[8]

Stiven Ambrelo, istraživač etike veštačke inteligencije, upozorio je da biološko računarstvo može učiniti dizajn sistema sklonijim s-rizicima.[5]

Reference

уреди
  1. ^ Bostrom, Nick (2013). „Existential Risk Prevention as Global Priority” (PDF). Global Policy. 4 (1): 15—3. doi:10.1111/1758-5899.12002 — преко Existential Risk. 
  2. ^ Daniel, Max (2017-06-20). „S-risks: Why they are the worst existential risks, and how to prevent them (EAG Boston 2017)”. Center on Long-Term Risk (на језику: енглески). Приступљено 2023-09-14. 
  3. ^ Hilton, Benjamin (септембар 2022). „'S-risks'. 80,000 Hours (на језику: енглески). Приступљено 2023-09-14. 
  4. ^ Baumann, Tobias (2017). „S-risk FAQ”. Center for Reducing Suffering (на језику: енглески). Приступљено 2023-09-14. 
  5. ^ а б Umbrello, Steven; Sorgner, Stefan Lorenz (јун 2019). „Nonconscious Cognitive Suffering: Considering Suffering Risks of Embodied Artificial Intelligence”. Philosophies (на језику: енглески). 4 (2): 24. doi:10.3390/philosophies4020024 . hdl:2318/1702133 . 
  6. ^ Sotala, Kaj; Gloor, Lukas (2017-12-27). „Superintelligence As a Cause or Cure For Risks of Astronomical Suffering”. Informatica (на језику: енглески). 41 (4). ISSN 1854-3871. 
  7. ^ Torres, Phil (2018-06-01). „Space colonization and suffering risks: Reassessing the "maxipok rule". Futures (на језику: енглески). 100: 74—85. ISSN 0016-3287. S2CID 149794325. doi:10.1016/j.futures.2018.04.008. 
  8. ^ Kovic, Marko (2021-02-01). „Risks of space colonization”. Futures (на језику: енглески). 126: 102638. ISSN 0016-3287. S2CID 230597480. doi:10.1016/j.futures.2020.102638. 

Literatura

уреди