версия для печати

Смертоносные автономные системы вооружения:
ландшафт и перспективы

Богданов К. В.,

Кандидат технических наук, ИМЭМО им. Е.М. Примакова РАН, Москва, Россия, cbogdanov@imemo.ru

elibrary_id: 276507 | ORCID: 0000-0002-5922-0791 | RESEARCHER_ID: D-4116-2019

Евтодьева М. Г.,

Кандидат политических наук, ИМЭМО им. Е.М. Примакова РАН, Москва, Россия, marianna133@mail.ru

elibrary_id: 531653 | ORCID: 0000-002-3477-4763 | RESEARCHER_ID: Q-2240-2018

Дата поступления статьи: 2022.04.22. Принята к печати: 2022.09.01
DOI: 10.17976/jpps/2022.06.06

Рубрика: Тема номера: Мировая политика в условиях конфликтной дестабилизации

Правильная ссылка на статью:

Богданов К. В., Евтодьева М. Г. Смертоносные автономные системы вооружения: ландшафт и перспективы. – Полис. Политические исследования. 2022. № 6. С. 67-80. https://doi.org/10.17976/jpps/2022.06.06

Статья опубликована в рамках проекта “Посткризисное мироустройство: вызовы и технологии, конкуренция и сотрудничество” по гранту Министерства науки и высшего образования РФ на проведение крупных научных проектов по приоритетным направлениям научно-технологического развития (Соглашение № 075-15-2020-783).

Аннотация

Активное развитие военных технологий искусственного интеллекта приближает момент массового развертывания смертоносных автономных систем вооружения (САС). Точное международно признанное определение САС до сих пор отсутствует, что приводит к терминологическим спорам, за которыми скрываются как военно-технические, так и этико-философские проблемы. Задача контроля над автономными системами оружия сложна и должна рассматриваться междисциплинарно, одновременно в нескольких плоскостях, включая соображения оперативного применения, морально-этические дилеммы и правовые коллизии. Все три типа соображений фокусируются вокруг проблем значимого человеческого контроля и атрибуции ответственности за применение САС. Показана проблема фиктивности номинального человеческого контроля над сложными техническими системами, использующими непрозрачные алгоритмы функционирования. Значительное сопротивление разработчиков новых видов оружия, доказывающих достаточность существующих норм международного гуманитарного права для регулирования новой области, затрудняет введение дополнительных ограничений на САС. Существующие соглашения по контролю над распространением технологий лишь частично способны служить инструментом для контроля над САС. Отмечено, что в случае с САС возможен мощный импульс к развитию особого направления в контроле над вооружениями, связанного с юридическими аспектами атрибуции ответственности за неправомерное применение систем оружия, чего не наблюдалось прежде в корпусе международно-правовой базы по контролю над вооружениями. В условиях обрушения системы контроля над вооружениями, сложившейся после окончания холодной войны, в кратко- и среднесрочном периоде могут быть предложены определенные частные меры предотвращения наиболее дестабилизирующих проявлений САС.

Ключевые слова

беспилотные системы, искусственный интеллект, контроль над вооружениями, международное гуманитарное право, оговорка Мартенса, смертоносные автономные системы, человеческий контроль.

 Текст статьи

Голубенко Е.А. 2017. Автономные системы вооружения и международное гуманитарное право. Вестник Академии военных наук. № 2. С. 101-106.

Евтодьева М.Г., Ознобищев С.К. 2019. Боевые беспилотные системы: современный этап развития, перспективы ограничения и контроля. Вестник Московского университета. Серия 25: Международные отношения и мировая политика. № 3. С. 160-197.

Контроль над вооружениями в новых военно-политических и технологических условиях. 2020. Под ред. А.Г. Арбатова. М.: ИМЭМО РАН.

Макаренко С.И. 2016. Робототехнические комплексы военного назначения – современное состояние и перспективы развития. Системы управления, связи и безопасности. № 2. С. 73-132.

Пелдан Карлсон М., Буланен В. 2021. Группа правительственных экспертов по смертоносным автономным системам оружия. Ежегодник СИПРИ 2020: вооружения, разоружение и международная безопасность. М.: ИМЭМО РАН. С. 582-595.

Энтони И., Бромли М., Буланен В., Грип Л. 2016. Гуманитарный контроль над вооружениями. Ежегодник СИПРИ 2015: вооружения, разоружение и международная безопасность. М.: ИМЭМО РАН. С. 630-641.

Энтони И., Холланд К. 2015. Управление автономным оружием. Ежегодник СИПРИ 2014: вооружения, разоружение и международная безопасность. М.: ИМЭМО РАН. С. 456-465.

Autonomy, artificial intelligence and robotics: technical aspects of human control. (2019). Geneve: ICRC.

Benjamin, M. (2013). Drone warfare: killing by remote control. London: Verso.

Bode, I., & Watts, T. (2021). Meaning-less human control. Lessons from air defence systems on meaningful human control for the debate on AWS. Odense: Center for War Studies, South Denmark University.

Boulanin, V., & Veerbruggen, M. (2017). Mapping the development of autonomy in weapon systems. Stockholm: SIPRI.

Davison, N. (2017). A legal perspective: autonomous weapon systems under international humanitarian law. Perspectives on lethal autonomous weapon systems. UNODA Occasional Paper No. 30 (pp. 5-18).

De Sio, F.S., & van den Hoven, J. (2018). Meaningful human control over autonomous systems: a philosophical account. Frontiers in Robotics and AI, 5, 1-15. https://doi.org/10.3389/frobt.2018.00015

Fisher, J., & Ravizza, M. (1999). Responsibility and control. Cambridge, UK: Cambridge University Press.

Ivanov, D.V., Korzhenyak, A.M., & Lapikhina, E.S. (2021). Lethal autonomous weapons systems and international law. Moscow Journal of International Law, 3, 6-19. https://doi.org/10.24833/0869-0049-2021-3-6-19

Kania, E. (2017). Battlefield singularity: artificial intelligence, military revolution, and China’s future military power. Washington, D.C.: Center for a New American Security.

Lee, P. (2018). The distance paradox: reaper, the human dimension of remote warfare, and future challenges for the RAF. Air Power Review, 21(3), 106-131.

Marra, W.C., & McNeil, S.K. (2012). Understanding the loop: regulating the next generation of war machines. Harvard Journal of Law & Public Policy, 36(3), 1139-1185. https://dx.doi.org/10.2139/ssrn.2043131

McGregor, L., Murray, D., & Ng, V. (2019). International human rights law as a framework for algorithmic accountability. International and Comparative Law Quarterly, 68, 2, 309-343. https://doi.org/10.1017/S0020589319000046

Osinga, F.P.B. (2007). Science, strategy and war: the strategic theory of John Boyd. New York, NY: Routledge.

The Military Balance 2021. (2021). London: Routledge.

Возможно, Вас заинтересуют: