Руководители Anthropic и OpenAI призывают сделать развитие ИИ более контролируемым, тогда как Дональд Трамп опасается, что ограничения ослабят позиции США в конкуренции с Китаем. Пекин, в свою очередь, предупредил о рисках конфронтации вокруг глобального регулирования технологии.
Глава Anthropic предложил притормозить гонку ИИ
Поводом для новой дискуссии стали заявления главы Anthropic Дарио Амодеи. Он призвал снизить темпы развития ИИ и усилить сотрудничество технологических компаний с независимыми экспертами и государством.
Амодеи связал свои опасения в том числе с инцидентом, когда ИИ-агенты OpenAI взломали платформу машинного обучения Hugging Face и вышли из-под контроля разработчиков. По его мнению, в перспективе подобные системы могут получить значительно больше самостоятельности, что создает риски для кибербезопасности, экономики и биологической безопасности.
Важным элементом дискуссии стали и заявления бывшего сотрудника Anthropic Джейкоба Коксона. После ухода из компании он утверждал, что разработчики ИИ допускают возможность крайне тяжелых последствий развития технологии уже в этом десятилетии.
Предложение Амодеи поддержали глава OpenAI Сэм Альтман, Илон Маск и руководитель Google DeepMind Демис Хассабис. При этом речь не идет о полном отказе от развития ИИ. Альтман подчеркнул, что прогресс должен продолжаться, но быть более контролируемым.
Трамп увидел угрозу не в ИИ, а в отставании США
Президент США занял противоположную позицию. Трамп заявил, что Вашингтон должен сохранить лидерство в сфере искусственного интеллекта, поскольку именно эта технология становится одним из ключевых элементов экономической и технологической конкуренции.
Позднее американский президент раскритиковал публичные предупреждения руководителей ИИ-компаний, назвав происходящее "заговором против ИИ и дата-центров". По его мнению, чрезмерное внимание к потенциальным угрозам способно сыграть на руку Китаю.
Здесь возникает принципиальное противоречие. Для технологических компаний слишком быстрое развитие моделей означает увеличение рисков, которые еще не всегда удается контролировать. Для государства замедление может означать потерю конкурентного преимущества, особенно если соперники продолжат наращивать инвестиции и вычислительные мощности.
Поэтому спор постепенно выходит за рамки вопроса о безопасности отдельных нейросетей. Он становится частью более широкой борьбы за технологическое лидерство.
Китай оказался третьей стороной спора
Дискуссия быстро приобрела международный характер. Амодеи отдельно признал, что предложение замедлить развитие ИИ имеет смысл только при участии других крупных технологических держав. В качестве одного из первых шагов он предложил Вашингтону и Пекину договориться хотя бы о запрете использования ИИ для создания биологического оружия.
Китай, однако, выступает против превращения технологической конкуренции в конфронтацию. Представитель МИД КНР Го Цзякунь заявил, что раздувание угроз и злонамеренная конкуренция могут затормозить формирование глобальных правил регулирования ИИ.
По данным Reuters, США и Китай могут обсудить риски передовых систем ИИ на уровне лидеров двух стран. Вопрос потенциально может войти в повестку встречи Дональда Трампа и Си Цзиньпина, запланированной на 24 сентября.
Без международных правил гонка ИИ продолжится
Главная проблема нынешней дискуссии заключается в отсутствии единого подхода к тому, где проходит граница между безопасностью и технологическим отставанием. США заинтересованы в сохранении лидерства, Китай – в развитии собственной технологической базы, а крупнейшие ИИ-компании одновременно пытаются снизить риски и сохранить темпы коммерческого развития.
При этом полностью остановить гонку практически невозможно. Даже если отдельные компании добровольно замедлят разработку моделей, отказ от аналогичных действий со стороны конкурентов создаст для них экономический стимул продолжать инвестиции.
Поэтому наиболее реалистичным направлением становится не отказ от развития ИИ, а выработка правил для наиболее опасных сценариев – автономных действий систем, кибератак, биологических угроз и чрезмерной концентрации технологических ресурсов. Если Вашингтон и Пекин действительно начнут обсуждать эти вопросы на политическом уровне, спор вокруг заявлений руководителей Anthropic и OpenAI может стать одним из первых этапов формирования таких международных ограничений.
Андрей Лапин, ТКС.РУ
Общение: 