Он призвал страны договориться о четких ограничениях для ИИ и усилить контроль за технологиями до того, как их возможности выйдут за пределы существующих механизмов безопасности.
ООН предлагает договориться о границах развития ИИ
Как сообщает "Интерфакс", Фолькер Тюрк выступил с предупреждением на открытии 63-й сессии Совета ООН по правам человека в Женеве 7 сентября. По его оценке, развитие передового искусственного интеллекта потенциально может создать риск для существования человечества.
Тюрк призвал государства и компании не ограничиваться обсуждением преимуществ ИИ, а заранее определить пределы допустимого развития и применения таких систем. По его словам, странам, которые разрабатывают ИИ-технологии или участвуют в их цепочках поставок, необходимо согласовать международные "красные линии".
Вопрос приобретает особое значение на фоне быстрого роста вычислительных возможностей и расширения применения ИИ за пределами отдельных экспериментальных систем.
Власть над технологией сосредоточена у небольшого числа игроков
Отдельную обеспокоенность верховного комиссара вызывает концентрация возможностей ИИ в руках ограниченного числа компаний и руководителей. Он указал, что фактически огромная власть над развитием технологии сегодня сосредоточена у небольшого количества людей.
Для международного регулирования это создает сложную ситуацию. Государства пытаются выработать общие правила, тогда как сами технологии развиваются значительно быстрее, чем формируются соответствующие правовые механизмы.
При этом регулирование ИИ затрагивает не только вопросы цифровой безопасности. Алгоритмы уже используются в критически важных сферах, включая финансы, промышленность, транспорт, государственное управление и оборону. Поэтому потенциальный сбой или неконтролируемое применение мощных систем может иметь последствия далеко за пределами IT-сектора.
От предупреждений к международным правилам
Тюрк призвал обеспечить гарантии безопасности ИИ до того, как риски станут трудноуправляемыми. В ближайшее время он также намерен обратиться к технологическим компаниям с призывом принять меры по снижению потенциальных угроз.
Речь идет о переходе от общих дискуссий о регулировании искусственного интеллекта к конкретным требованиям к разработчикам и государствам. Одним из возможных направлений становится согласование международных критериев безопасности для наиболее мощных моделей и систем.
Для бизнеса это означает, что по мере развития международных правил требования к ИИ могут распространяться не только на разработчиков программного обеспечения. Они потенциально затронут производителей вычислительного оборудования, поставщиков компонентов, облачные платформы и другие звенья технологических цепочек.
Почему вопрос становится международным
Особенность ИИ заключается в глобальном характере его цепочки создания. Разработка модели может происходить в одной стране, вычислительные мощности предоставляться в другой, компоненты производиться в третьей, а конечный продукт использоваться по всему миру.
Поэтому национального регулирования может оказаться недостаточно. Именно на необходимость согласованных международных правил указывает позиция Тюрка: страны, где создаются ИИ-технологии, и государства, участвующие в цепочках их поставок, должны определить общие ограничения.
Пока заявление ООН носит характер политического призыва, а не нового обязательного международного запрета. Однако оно показывает, что вопросы безопасности передового ИИ все заметнее переходят из профессиональной дискуссии технологической отрасли в сферу международной политики и регулирования.
Андрей Лапин, ТКС.РУ
Общение: 