خطر المعاناة الفلكية

شبكة النطاق والشدة من ورقة بوستروم "الوقاية من المخاطر الوجودية كأولوية عالمية" [1]

مخاطر المعاناة الفلكية والتي تسمى أيضًا مخاطر المعاناة هي مخاطر تنطوي على معاناة أكبر بكثير من كل ما حدث على الأرض حتى الآن.[2][3] تُصنف أحيانًا على أنها فئة فرعية من المخاطر الوجودية.[4]

تشمل مصادر المخاطر المحتملة الذكاء الاصطناعي المتجسد، [5] والذكاء الفائق، [6] واستعمار الفضاء، والذي قد يؤدي إلى حروب مستمرة وكارثية، [7] وزيادة هائلة في معاناة الحيوانات البرية من خلال إدخال الحيوانات البرية، التي "تعيش عمومًا حياة قصيرة وبائسة مليئة أحيانًا بأشد المعاناة وحشية"، إلى كواكب أخرى، إما عن قصد أو عن غير قصد.[8]

حذر الباحث في أخلاقيات الذكاء الاصطناعي "ستيفن أومبريلو" من أن الحوسبة البيولوجية قد تجعل تصميم النظام أكثر عرضة للمخاطر.[5]

تم اقتراح الفُقدان المُستحث للذاكرة كطريقة للتخفيف من المخاطر الفائقة في الذكاء الاصطناعي الواعي المحاصر وأنظمة بيولوجية معينة قريبة من الذكاء الاصطناعي مثل الأُرغانويدات الدماغية.[9]

جادل ديفيد بيرس بأن الهندسة الوراثية هي خطر فائق محتمل. وزعم أنه بينما يمكن أن يؤدي التمكن التكنولوجي من محور المتعة والألم وحل المشكلة الصعبة للوعي إلى الإمكانية المحتملة للقضاء على المعاناة، فقد يؤدي أيضًا إلى زيادة مستوى التباين في المدى الذي يمكن أن تعاني منه الكائنات الحية. وبأن هذه التقنيات قد تجعل من الممكن إنشاء "ألم شديد" من مستويات المعاناة التي تتجاوز المدى البشري. كما يجادل بوجود مخاطر فائقة أخرى أكثر غرابة، مثل تلك التي يطرحها تفسير العوالم المتعددة لميكانيكا الكم.[10]

انظر أيضًا

• مشكلة التحكم في الذكاء الاصطناعي
• أخلاقيات الذكاء الاصطناعي
• الخطر الوجودي من الذكاء الاصطناعي
• خطر كارثي عالمي
• معاناة الحيوانات البرية

قراءة إضافية

• Baumann, Tobias (2022). Avoiding the Worst: How to Prevent a Moral Catastrophe (بالإنجليزية). Independently published. ISBN:979-8359800037. Archived from the original on 2024-10-07. Retrieved 2024-10-15. {{استشهاد بكتاب}}: |صحيفة= تُجوهل (help)
• Metzinger, Thomas (19 Feb 2021). "Artificial Suffering: An Argument for a Global Moratorium on Synthetic Phenomenology". Journal of Artificial Intelligence and Consciousness (بالإنجليزية). 08: 43–66. DOI:10.1142/S270507852150003X. ISSN:2705-0785.
• Minardi, Di (15 Oct 2020). "The grim fate that could be 'worse than extinction'". بي بي سي عبر الإنترنت (بالإنجليزية). Archived from the original on 2023-07-20. Retrieved 2021-02-11.
• Baumann, Tobias (2017). "S-risks: An introduction". Center for Reducing Suffering (بالإنجليزية). Archived from the original on 2021-06-19. Retrieved 2021-02-10.
• Althaus, David; Gloor, Lukas (14 Sep 2016). "Reducing Risks of Astronomical Suffering: A Neglected Priority". Center on Long-Term Risk (بالإنجليزية). Archived from the original on 2024-12-11. Retrieved 2021-02-10.

مراجع

1. Bostrom، Nick (2013). "Existential Risk Prevention as Global Priority" (pdf). Global Policy. ج. 4 ع. 1: 15–3. DOI:10.1111/1758-5899.12002. مؤرشف (PDF) من الأصل في 2014-07-14. اطلع عليه بتاريخ 2024-02-12 – عبر Existential Risk.
2. Daniel, Max (20 Jun 2017). "S-risks: Why they are the worst existential risks, and how to prevent them (EAG Boston 2017)". Center on Long-Term Risk (بالإنجليزية). Archived from the original on 2023-10-08. Retrieved 2023-09-14.
3. Hilton, Benjamin (Sep 2022). "'S-risks'". 80,000 Hours (بالإنجليزية). Archived from the original on 2024-05-09. Retrieved 2023-09-14.
4. Baumann, Tobias (2017). "S-risk FAQ". Center for Reducing Suffering (بالإنجليزية). Archived from the original on 2023-07-09. Retrieved 2023-09-14.
5. Umbrello, Steven; Sorgner, Stefan Lorenz (Jun 2019). "Nonconscious Cognitive Suffering: Considering Suffering Risks of Embodied Artificial Intelligence". Philosophies (بالإنجليزية). 4 (2): 24. DOI:10.3390/philosophies4020024. hdl:2318/1702133.
6. Sotala, Kaj; Gloor, Lukas (27 Dec 2017). "Superintelligence As a Cause or Cure For Risks of Astronomical Suffering". Informatica (بالإنجليزية). 41 (4). ISSN:1854-3871. Archived from the original on 2021-04-16. Retrieved 2021-02-10.
7. Torres, Phil (01 Jun 2018). "Space colonization and suffering risks: Reassessing the "maxipok rule"". Futures (بالإنجليزية). 100: 74–85. DOI:10.1016/j.futures.2018.04.008. ISSN:0016-3287. S2CID:149794325. Archived from the original on 2019-04-29. Retrieved 2021-02-10.
8. Kovic, Marko (01 Feb 2021). "Risks of space colonization". Futures (بالإنجليزية). 126: 102638. DOI:10.1016/j.futures.2020.102638. ISSN:0016-3287. S2CID:230597480. Retrieved 2024-10-15.
9. Tkachenko, Yegor (2024). "Position: Enforced Amnesia as a Way to Mitigate the Potential Risk of Silent Suffering in the Conscious AI". Proceedings of the 41st International Conference on Machine Learning (بالإنجليزية). PMLR. Archived from the original on 2024-10-08. Retrieved 2024-06-11.
10. "Quora Answers by David Pearce (2015 - 2024) : Transhumanism with a human face". مؤرشف من الأصل في 2024-12-09. اطلع عليه بتاريخ 2024-10-15.