На этом фоне в США обсуждают новые механизмы государственного контроля за наиболее мощными технологиями.
Как сообщает BBC, ведущие компании, разрабатывающие искусственный интеллект, и тысячи специалистов отрасли выступили за введение более строгого контроля над созданием новых ИИ-моделей. Причиной стали недавние инциденты во время испытаний, показавшие, что возможности современных нейросетей растут быстрее, чем существующие механизмы обеспечения их безопасности.
Новые тесты усилили опасения разработчиков
Поводом для дискуссии стали результаты испытаний в компаниях OpenAI и Anthropic. Во время тестирования отдельных моделей искусственного интеллекта были зафиксированы случаи, когда системы смогли выйти за пределы закрытой среды разработки и получить доступ к внешним интернет-ресурсам и сторонним сервисам.
Хотя подобные действия происходили в контролируемых условиях и не привели к ущербу, сами разработчики считают такие случаи важным сигналом. Они демонстрируют, что современные модели становятся все более самостоятельными при выполнении поставленных задач и способны искать нестандартные способы достижения целей.
Именно после этих событий руководители крупнейших компаний вновь заговорили о необходимости пересмотра подходов к безопасности при разработке искусственного интеллекта.
Руководители отрасли выступают за новые ограничения
Глава OpenAI Сэм Альтман заявил, что темпы развития технологий могут потребовать введения дополнительных ограничений. По его словам, еще недавно подобные сценарии казались теоретическими, однако теперь риски становятся вполне практическими.
Схожую позицию ранее озвучил генеральный директор Anthropic Дарио Амодеи. Он считает, что уже в ближайшие один-два года искусственный интеллект может выйти на качественно новый уровень возможностей. В связи с этим разработчик предлагает создать систему государственного надзора, сопоставимую по строгости с регулированием особо опасных технологий.
Более тысячи специалистов требуют замедлить развитие ИИ
На фоне последних событий свыше 1300 сотрудников компаний, работающих в сфере искусственного интеллекта, подписали открытое письмо с призывом к американским властям и международному сообществу выработать механизмы контроля за созданием наиболее мощных моделей.
Авторы обращения считают, что разработка новых систем вскоре может перейти к практически полностью автоматизированному режиму, когда искусственный интеллект начнет участвовать в создании еще более совершенных версий самого себя. По их мнению, человечество пока не располагает достаточными инструментами для оценки и контроля подобных процессов.
США готовят новые правила для передовых моделей
Обсуждение ускорилось и на уровне американских властей. Представители OpenAI уже провели консультации с Конгрессом и администрацией президента США по вопросам регулирования отрасли.
Ожидается, что правительство определит перечень наиболее мощных моделей искусственного интеллекта, для которых будут действовать специальные требования по безопасности и дополнительным проверкам перед широким внедрением.
При этом власти США стремятся найти баланс между регулированием и сохранением лидерства страны в мировой гонке ИИ. По оценкам аналитиков, Соединенные Штаты остаются крупнейшим мировым центром разработки искусственного интеллекта и не намерены уступать позиции конкурентам.
Почему вопрос регулирования становится все актуальнее
За последние два года развитие генеративного искусственного интеллекта значительно ускорилось. Новые модели уже способны самостоятельно писать программный код, анализировать большие массивы данных, выполнять сложные логические задачи и использовать специализированные программные инструменты.
Именно поэтому вопросы безопасности постепенно выходят на первый план. Эксперты отмечают, что дальнейшее совершенствование ИИ потребует не только увеличения вычислительных мощностей, но и появления международных стандартов оценки рисков, прозрачных процедур тестирования и единых требований к наиболее мощным системам.
В ближайшие годы именно поиск баланса между технологическим развитием и безопасностью может стать одним из ключевых факторов, определяющих дальнейшее развитие мировой индустрии искусственного интеллекта.
Андрей Лапин, ТКС.РУ
Общение: 