ООН перед новым испытанием в эпоху искусственного интеллекта

Гутерриш предупреждает: ИИ опережает глобальное управление

Автор: Ахмед Фатхи (Ahmed Fathi)

ООН, Нью-Йорк: Когда я задал Генеральному секретарю ООН вопрос о том, сохраняют ли правительства контроль над технологиями, способными влиять на выборы и вооруженные конфликты, ответ прозвучал неожиданно откровенно. У Организации Объединенных Наций, сказал он, нет реальных рычагов воздействия. Есть механизмы, платформы и процедуры, но нет власти, которая позволяла бы навязывать решения.

Значимость этого момента была не в эффекте неожиданности, а в честности. Он вслух сформулировал то, что многие государства и институты предпочитают признавать негласно: искусственный интеллект развивается быстрее, чем политические и правовые системы, призванные его сдерживать.

Дальше не последовало обещаний жесткого регулирования. Вместо этого Генеральный секретарь дал трезвую оценку границ возможного. Он подробно описал, что ООН реально может делать в сфере ИИ: объединять экспертов, создавать научные панели, готовить аналитические отчеты и организовывать глобальные дискуссии. Это серьезная работа, но она не означает принуждение. По сути, это архитектура управления без полномочий вводить обязательные правила.

Именно этот разрыв лежит в центре мирового спора об искусственном интеллекте. ООН пытается выработать общее понимание и общий язык для обсуждения ИИ, а не создать жесткий свод правил с санкциями. Такой подход объясняется скорее политической реальностью, чем институциональной слабостью. Государства не готовы уступать контроль в сфере, напрямую связанной с национальной безопасностью, экономической конкуренцией и стратегическим влиянием. В итоге ООН формирует рамки обсуждения, но не определяет итоговые решения.

Контраст между амбициями и реальными полномочиями хорошо заметен в недавних инициативах ООН по ИИ. В заявлениях и резолюциях делается упор на этику, инклюзивность и сотрудничество, при этом сознательно избегаются обязательства, которые могли бы ограничить действия влиятельных государств или крупных корпораций. В результате складывается система, способная обозначать риски и задавать нормы, но почти не способная заставить сильных игроков изменить поведение.

Когда речь зашла о том, какими должны быть настоящие «предохранители», Генеральный секретарь свел разговор к одной ключевой идее — человеческому контролю. Люди, подчеркнул он, должны оставаться теми, кто принимает решения, особенно если на кону человеческие жизни. Его жесткое неприятие автономных систем вооружений, которые самостоятельно решают, кого убивать, где и почему, стало одной из самых четких моральных границ, обозначенных на пресс-конференции.

Не менее показателен был и его ответ о растущем влиянии технологических компаний. Регулирование, отметил он, в конечном счете остается задачей государств. Законы о конкуренции и монополиях, возможно, придется обновить с учетом цифровой реальности, но принуждение не будет исходить из Секретариата ООН. Если оно и появится, то на уровне национальных правительств.

За этими репликами просматривалась более широкая мысль о трансформации самой власти. Сегодня власть определяется уже не только территорией, армиями или размером экономики. Все большее значение имеют данные и контроль над системами, которые их собирают, обрабатывают и используют. Этот сдвиг постепенно переносит влияние от государственных институтов к частным структурам, причем быстрее, чем международные правила и институты успевают адаптироваться.

Это создает проблемы не только для регулирования, но и для легитимности. Когда решения, влияющие на жизнь целых обществ, все чаще принимаются алгоритмами, разработанными вне демократического контроля, привычные представления об ответственности начинают размываться. Генеральный секретарь говорил об этом не как о заговоре или моральном кризисе, а как о структурном перекосе, который существующие институты пока не умеют ни осмыслить, ни исправить.

К этому добавляется и нерешенный вопрос справедливости. Многие страны не располагают ресурсами и возможностями, чтобы влиять на политику в сфере ИИ или в полной мере пользоваться его преимуществами. Без долгосрочных инвестиций в навыки, инфраструктуру и институты глобальные дискуссии рискуют оказаться под контролем тех, кто и так обладает наибольшей силой. Управление без ресурсов не сокращает разрыв, а лишь углубляет его.

В целом этот диалог дал ясное представление о нынешней позиции ООН в вопросе искусственного интеллекта. Это по-прежнему площадка, где называются риски, формулируются ценности и обсуждаются нормы, но не место, где обеспечивается их исполнение. Генеральный секретарь не пытался скрыть эту реальность, и именно его откровенность привлекла внимание.

Остается открытым вопрос: может ли система, созданная для того, чтобы собирать мнения, предупреждать и консультировать, со временем превратиться в механизм, реально влияющий на поведение государств и корпораций. Пока подход ООН к искусственному интеллекту отражает более широкую картину мирового порядка: власть движется быстрее, чем право, а институты с трудом поспевают за этими изменениями.