Нельзя доверять интеллекту

США и Китай договорились, что решения о применении ядерного оружия должны контролироваться человеком

Одним из немногих конкретных достижений встречи лидеров КНР и США Си Цзиньпина и Джо Байдена стала устная договоренность о том, что решения о применении ядерного оружия должны оставаться за человеком, а не искусственным интеллектом. Ранее США призвали всю ядерную «пятерку» взять на себя подобные обязательства, однако из-за конфликта вокруг Украины соответствующие переговоры так и не были начаты. Вместе с тем власти РФ неоднократно давали понять, что в будущем международные договоренности об ограничении искусственного интеллекта необходимы.

То, что Си Цзиньпин и Джо Байден пришли к общему пониманию важности сохранения человеческого контроля над искусственным интеллектом (ИИ) в военно-ядерной сфере, следует из официальных пресс-релизов, выпущенных сторонами по итогам переговоров двух президентов на полях саммита Азиатско-Тихоокеанского экономического сотрудничества (АТЭС) в Лиме. «Главы двух стран считают, что стороны провели откровенный и конструктивный диалог по вопросам управления искусственным интеллектом… Они подтвердили необходимость укреплять международное сотрудничество для продвижения искусственного интеллекта на благо всех, а также необходимость сохранить контроль человека над решениями о применении ядерного оружия»,- говорится в сообщении МИД КНР.

«Лидеры двух стран подтвердили необходимость устранения рисков, связанных с системами искусственного интеллекта, повышения безопасности искусственного интеллекта и развития международного сотрудничества, а также продвижения искусственного интеллекта на благо всех людей. Лидеры двух стран подтвердили необходимость сохранения человеческого контроля над принятием решения о применении ядерного оружия. Лидеры двух стран также подчеркнули необходимость тщательно изучать потенциальные риски и развивать технологии искусственного интеллекта в военной сфере осмотрительно и ответственно»,- отметили, в свою очередь, в Белом доме. И в Пекине, и в Вашингтоне при этом напомнили, что в этом году стороны поддержали в рамках Генассамблеи ООН резолюции друг друга, касающиеся безопасного использования искусственного интеллекта.

Советник президента США Джейк Салливан на пресс-конференции в Лиме отдельно высказался по поводу достигнутых главами государств договоренностей. «Два лидера сделали важный шаг вперед в отношении безопасности и риска ИИ, они согласились о необходимости сохранения человеческого контроля над решением о применении ядерного оружия, что является первым случаем заявления США и КНР о пересечении искусственного интеллекта и ядерной доктрины, и это является отражением того, как даже при оборонной конкуренции между нами и КНР мы могли бы работать на ответственной основе для управления рисками»,- заявил он. По словам Джейка Салливана, лидеры США и Китая «сгенерировали нечто значимое». «Это не конечная остановка. Это начало, и мы надеемся на продолжение»,- подчеркнул он.

Подробнее

Источник: Коммерсант