Введение. Объектом исследования являются философские проблемы развития искусственного интеллекта (ИИ). В статье анализируется влияние технологий ИИ на общество и науку. Рассматриваются некоторые проблемы этики ИИ, в том числе с философско-аксиологического ракурса. Предполагается, что ответом на экзистенциальные риски использования искусственного интеллекта должен стать поиск новых философских подходов к этическим аспектам, касающихся высоких технологий, в том числе концепция цифрового гуманизма.
Содержание. Автор подробно анализирует такие аспекты темы, как классификация экзистенциальных рисков по Н. Бострому, последствия развития сверхразума, феномен технологической сингулярности, проблемы контроля ИИ по С. Расселу. В статье обосновывается необходимость новых подходов к пониманию философии и этики ИИ как фундамента для построения цифрового будущего в интересах человека. Будущего, где homo sapiens как субъект цифровой революции превращается в homo digital, но остается важнее программного кода. Особое внимание уделяется вопросу аксиологического обучения технологий ИИ как гарантии обеспечения глобальной безопасности. Рассматривается гипотеза о том, что этика искусственного интеллекта, которая не может ограничиваться лишь этическими правилами при разработке систем ИИ, а должна учитывать подобие «свободы воли» у машины, может базироваться на принципах философской концепции «цифрового гуманизма».
Выводы. Новизна исследования заключается в рассмотрении совокупности концепций, связанных с экзистенциальными рисками развития ИИ. На основе проведенного философского анализа дается обоснование цифрового гуманизма как теоретического фундамента для построения безопасных моделей ИИ и мощной интеллектуальной силы для социально-технологических изменений. Автор отмечает, что данная концепция требует широкого обсуждения и дополнения, а также более критичного взгляда на проблему взаимоотношений человека и технологий, однако рассматривает ее как перспективную и значимую для философского дискурса. Автор убежден, что миссия современной философии техники: сохранить веру в то, что человек сможет удержать технологии ИИ под контролем и они станут основой
для более «человекоцентричного» и безопасного будущего на нашей планете.
Introduction. The object of the study is the philosophical problems of the development of artificial intelligence. The article analyzes the impact of AI technologies on society and science. Some problems of AI ethics are considered, including from a philosophical and axiological perspective. It is assumed that the answer to the existential risks of using artificial intelligence should be the search for new philosophical approaches to the ethical aspects related to high technologies, including the concept of digital humanism.
Content. The author analyzes in detail such aspects of the topic as the classification of existential risks according to N. Bostrom, the consequences of the development of superintelligence, the phenomenon of technological singularity, the problems of AI control according to S. Russell. The article substantiates the need for new approaches to understanding the philosophy and ethics of AI as a foundation for building a digital future in the interests of humans. A future where homo sapiens as a subject of the digital revolution turns into homo digital, but remains more important than the program code. Particular attention is paid to the issue of axiological training of AI technologies as a guarantee of global security. The hypothesis is considered that the ethics of artificial intelligence, which cannot be limited only to ethical rules in the development of AI systems, but must take into account the semblance of “free will” in the machine, can be based on the principles of the philosophical concept of digital humanism.
Conclusions. The novelty of the study lies in the consideration of a set of concepts related to the existential risks of artificial intelligence (AI) development. Based on the conducted philosophical analysis, a justification is given for digital humanism as a theoretical foundation for building safe AI models and a powerful intellectual force for socio-technological changes. The author acknowledges that this concept requires extensive discussion and addition, as well as a more critical look at the problem of the relationship between man and technology, but considers it as promising and significant for philosophical discourse. The author is convinced that the mission of modern philosophy of technology is to maintain faith that humans will be able to keep AI technologies under control and that they will become the basis for a more human-centered and safer future on our planet.
Белобрагина Анна Сергеевна-
Национальный исследовательский университет «Московский институт электронной техники»
Москва, Российская Федерация
belobragina@gmail.com
1. Алексеев А.Ю. Когнитотехнологические проекты искусственной личности // Человек: образ и сущность. Гуманитарные аспекты. – 2014. – № 1. – С. 156–174. EDN: SQVTKF.
2. Бадмаева М. Х. Этика искусственного интеллекта: принцип ответственности Ганса Йонаса // Вестник Бурятского государственного университета. – 2022. – № 1. – С. 67–79. DOI: 10.18101/1994-0866-2022-1-67-79. EDN: WAKAJS.
3. Беликова Е. К. Основные вопросы философии искусственного интеллекта // Философия и культура. – 2024. – № 1. – С. 1–11. DOI: 10.7256/2454-0757.2024.1.69543. EDN: PURYRC.
4. Разин А. В. Этика искусственного интеллекта // Философия и общество. – 2019. – № 1. – С. 57–73. EDN: YPCXWS.
5. Игнатьев В. И. И грядет «другой» актор: cтановление техносубъекта в контексте движения к технологической сингулярности // Социология науки и технологий. – 2019. – Т. 10, № 1. – С. 64–78. DOI: 10.24411/2079-0910-2019-10005. EDN: XPCHXJ.
6. Карпов В. Э., Готовцев П. М, Ройзензон Г. В. К вопросу об этике и системах искусственного интеллекта // Философия и общество. – 2018. –№ 2. – С. 84–105. DOI: 10.30884/jfio/2018.02.07. EDN: YAEVYT.
7. Колесник, М. А., Копцева Н. М. Философские основы цифрового гуманизма // Цифровизация. – 2024. – Т. 5, № 1. – С. 18–34. EDN: DOHPLW.
8. Моисеенко, М. В. Вызовы современности: искусственный интеллект. Этический аспект // Гуманитарный вестник. – 2018. –№ 9. – Статья 3. DOI: 10.18698/2306-8477-2018-9-547. EDN: VKGOYT.
9. НагльЛ.Цифровые технологии: размышления о различии между инструментальной рациональностью и практическим разумом // Кантовский сборник. – 2022. – Т. 41, № 1. – С. 60–88. DOI: 10.5922/0207-6918-2022-1-3. EDN: HSHBOF.
10. НазароваЮ.В., Каширин А.Ю.Экзистенциальные риски искусственного интеллекта в контексте аксиологии трансгуманизма: (по материалам работ Н.Бострома) // Общество: философия, история, культура. – 2023. – № 11. – С. 40–45. DOI: 10.24158/fik.2023.11.5. EDN: OGBJBQ.
11. СоколовЮ.И.Экзистенциальный риск технологической сингулярности // Проблемы анализа риска. – 2019. – Т. 16, № 3. – С. 62–77. DOI: 10.32686/1812-5220-2019-16-3-62-77. EDN: HDDELB.
12. Хокинс Д. Экзистенциальные риски использования искусственного интеллекта // Супермозг: революция в понимании человеческого и искусственного интеллекта; пер. с англ. С. Черникова. – М: Альпина ПРО, 2024. – С. 171–180. – (Библиотека Сбера; т. 112).
13. Шаткин М. А. Социально-философские аспекты развития генеративного искусственного интеллекта // Известия Саратовского университета. Новая серия. Серия: Философия. Психология. Педагогика. – 2023. – Т. 23, вып. 4. – С. 41–418. DOI: 10.18500/1819-7671-2023-23-4-414-418. EDN: PBDAAR.
14. Bostrom N. Existential risks: analyzing human extinction scenarios and related hazards [Электронный ресурс] // Journal of Evolution and Technology. – 2002 – Vol. 9. – URL: http://jetpress.org/volume9/risks.html (accessed: 20.04.2025).
15. Coeckelbergh M.What is digital humanism? A conceptual analysis and an argument for a more critical and political digital (post)humanism // Journal of Responsible Technology. – 2024. – Vol. 17. – Pp. 100073. DOI: 10.1016/j.jrt.2023.100073
16. Nida-R?melin J., Weidenfeld N. Digital humanism: for a humane transformation of democracy, economy and culture in the digital age. – Cham: Springer, 2022. – VIII, 127 p.
17. Floridi L. AI as Agency Without Intelligence: on ChatGPT, Large Language Models, and Other Generative Models // Philosophy & Technology. – 2023. – Vol. 36. – Article number
15. DOI: 10.1007/s13347-023-00621-y.
18. Jonas H. Technology as a subject for ethics // Social Research. – 1982. –Vol. 49. – No. 4. – Pp. 891–898.
19. Nowotny H. Digital humanism: navigating the tensions ahead // Perspectives on digital humanism / ed. H.Werthner, E. Prem, E. F. Lee, C. Ghezzi. – Cham: Springer, 2022. – Pp. 317–321
20. Prem E. Principles of digital humanism: a critical post-humanist view // Journal of Responsible Technology. – 2024. – Vol. 17. – Pp. 100075. DOI: 10.1016/j.jrt.2024.100075.
21. Russell S. Artificial intelligence and the problem of control // Perspectives on digital humanism / ed. H.Werthner, E. Prem, E. F. Lee, C. Ghezzi. – Cham: Springer, 2022. – Pp. 19–24.
22. Russell S. Human compatible: artificial intelligence and the problem of control. London: Penguin, 2019. – 352 p.
1. Alekseev, A. YU. (2014) Kognitotekhnologicheskie proekty iskusstvennoj lichnosti [Cognitive technology projects of artificial personality]. CHelovek: obraz i sushchnost'. Gumanitarnye aspekty – Human Being: Image and Essence. Humanitarian Aspects. No. 1. Pp. 156–174. (In Russian). EDN: SQVTKF.
2. Badmaeva, M. H. (2022) Etika iskusstvennogo intellekta: princip otvetstvennosti Gansa Jonasa [Ethics of Artificial Intelligence: Hans Jonas's Principle of Responsibility]. Vestnik Buryatskogo gosudarstvennogo universiteta – The Buryat State University Bulletin. No. 1. Pp. 67–79. (In Russian). DOI: 10.18101/1994-0866-2022-1-67-79. EDN: WAKAJS.
3. Belikova, E. K. (2024) Osnovnye voprosy filosofii iskusstvennogo intellekta [Key Issues in the Philosophy of Artificial Intelligence]. Filosofiya i kul'tura – Philosophy and Culture. No. 1. Pp. 1–11. (In Russian). DOI: 10.7256/2454-0757.2024.1.69543. EDN: PURYRC.
4. Razin, A. V. (2019) Etika iskusstvennogo intellekta [Ethics of Artificial Intelligence]. Filosofiya i obshchestvo – Philosophy and Society. No. 1. Pp. 57–73. (In Russian). EDN: YPCXWS.
5. Ignat'ev, V. I. (2019) I gryadet «drugoj» aktor: ctanovlenie tekhnosub"ekta v kontekste dvizheniya k tekhnologicheskoj singulyarnosti [And the “other” actor is coming: the formation of the technosubject in the context of the movement towards technological singularity]. Sociologiya nauki i tekhnologij – Sociology of Science and Technology. Vol. 10. No. 1. Pp. 64–78. (In Russian). DOI: 10.24411/2079-0910-2019-10005. EDN: XPCHXJ.
6. Karpov, V. E., Gotovcev, P. M, Rojzenzon, G. V. (2018) K voprosu ob etike i sistemah iskusstvennogo intellekta [On the issue of ethics and artificial intelligence systems]. Filosofiya i obshchestvo – Philosophy and Society. No. 2. Pp. 84–105. (In Russian). DOI: 10.30884/jfio/2018.02.07. EDN: YAEVYT.
7. Kolesnik, M. A., Kopceva, N. M. (2024) Filosofskie osnovy cifrovogo gumanizma [Philosophical Foundations of Digital Humanism]. Cifrovizaciya – Digitalization. Vol. 5. No. 1. Pp. 18–34. (In Russian). EDN: DOHPLW.
8. Moiseenko, M. V. (2018) Vyzovy sovremennosti: iskusstvennyj intellekt. Eticheskij aspekt [Challenges of Modernity: Artificial Intelligence. Ethical Aspect]. Gumanitarnyj vestnik – Humanitarian Bulletin. No. 9. – Stat'ya 3. (In Russian). DOI: 10.18698/2306-8477-2018-9-547. EDN: VKGOYT.
9. Nagl', L. (2022) Cifrovye tekhnologii: razmyshleniya o razlichii mezhdu instrumental'noj racional'nost'yu i prakticheskim razumom [Digital Technologies: Reflections on the Difference between Instrumental Rationality and Practical Reason]. Kantovskij sbornik – Kantian Journal. Vol. 41. No. 1. Pp. 60–88. (In Russian). DOI: 10.5922/0207-6918-2022-1-3. EDN: HSHBOF.
10. Nazarova, YU. V., Kashirin, A. YU (2023) Ekzistencial'nye riski iskusstvennogo intellekta v kontekste aksiologii transgumanizma: (po materialam rabot N. Bostroma) [Existential risks of artificial intelligence in the context of the axiology of transhumanism: (based on the works of N.Bostrom)]. Obshchestvo: filosofiya, istoriya, kul'tura – Society: philosophy, history, culture. No. 11. Pp. 40–45. (In Russian). DOI: 10.24158/fik.2023.11.5. EDN: OGBJBQ.
11. Sokolov, YU. I. (2019) Ekzistencial'nyj risk tekhnologicheskoj singulyarnosti. Problemy analiza riska – Issues of risk analysis. Vol. 16. No. 3. Pp. 62–77. (In Russian). DOI: 10.32686/1812-5220-2019-16-3-62-77. EDN: HDDELB.
12. Hokins, D. (2024) Supermozg: revolyuciya v ponimanii chelovecheskogo i iskusstvennogo intellekta [Superbrain: A Revolution in Understanding Human and Artificial Intelligence]. Mosow: Al'pina PRO. (In Russian).
13. Shatkin, M. A. (2023) Social'no-filosofskie aspekty razvitiya generativnogo iskusstvennogo intellekta [Social and philosophical aspects of the development of generative artificial intelligence]. Izvestiya Saratovskogo universiteta. Novaya seriya. Seriya: Filosofiya. Psihologiya. Pedagogika – News of Saratov University. Ser. Philosophy, psychology, pedagogy. Vol. 23, No. 4. Pp. 41–418. (In Russian). DOI: 10.18500/1819-7671-2023-23-4-414-418. EDN: PBDAAR.
14. Bostrom, N. (2002) Existential risks: analyzing human extinction scenarios and related hazards. Journal of Evolution and Technology. Vol. 9. – URL: http://jetpress.org/volume9/risks.html (accessed: 20.04.2025).
15. Coeckelbergh, M. (2024) What is digital humanism? A conceptual analysis and an argument for a more critical and political digital (post)humanism. Journal of Responsible Technology. Vol. 17. Pp. 100073. DOI: 10.1016/j.jrt.2023.100073
16. Nida-R?melin, J., Weidenfeld, N. (2022) Digital humanism: for a humane transformation of democracy, economy and culture in the digital age. Cham: Springer.
17. Floridi, L. (2023) AI as Agency Without Intelligence: on ChatGPT, Large Language Models, and Other Generative Models. Philosophy & Technology. Vol. 36. Article number 15. DOI: 10.1007/s13347-023-00621-y.
18. Jonas, H. (1982) Technology as a subject for ethics. Social Research. Vol. 49, No. 4. Pp. 891–898.
19. Nowotny, H. (2022) Digital humanism: navigating the tensions ahead. Perspectives on digital humanism. ed. H.Werthner, E. Prem, E. F. Lee, C. Ghezzi. Cham: Springer. Pp. 317–321
20. Prem, E. (2024) Principles of digital humanism: a critical post-humanist view. Journal of Responsible Technology. Vol. 17. Pp. 100075. DOI: 10.1016/j.jrt.2024.100075.
21. Russell, S. (2022) Artificial intelligence and the problem of control. Perspectives on digital humanism / ed. H.Werthner, E. Prem, E. F. Lee, C. Ghezzi. – Cham: Springer. Pp. 19–24.
22. Russell, S. (2019) Human compatible: artificial intelligence and the problem of control. London: Penguin.