Microsoft, Nvidia и Meta выступили против ограничений открытых моделей ИИ

Коалиция из 25 компаний, фондов и отраслевых организаций опубликовала 24 июля открытое письмо, адресованное американским властям. Среди подписантов оказались Microsoft, Nvidia, Meta, IBM, Dell Technologies, Palantir, Hugging Face, Mozilla, Linux Foundation, Mistral, Perplexity, ServiceNow, Replit и Y Combinator.

Авторы документа просят не вводить преждевременные ограничения для моделей с открытыми весами. Такие модели можно скачать, запускать на собственной инфраструктуре, дополнительно обучать и приспосабливать под конкретные задачи. При этом доступ к весам еще не делает разработку полностью открытой: исходный код, обучающие наборы, методика подготовки данных и подробности обучения могут оставаться закрытыми.

Именно поэтому привычное выражение «ИИ с открытым исходным кодом» здесь неточно. Письмо защищает прежде всего возможность распространять обученные параметры модели и независимо запускать ее без постоянного обращения к облачному сервису разработчика.

Спор начался не с безопасности

Обращение появилось в момент, когда американские власти обсуждают действия против китайских разработчиков ИИ. Поводом стали подозрения в том, что новые китайские модели могли обучаться на результатах закрытых американских систем при помощи дистилляции.

Дистилляция позволяет использовать ответы более крупной модели для обучения другой системы. Сам метод давно применяется при разработке ИИ, тестировании и уменьшении моделей. Спор возникает вокруг способа получения исходных ответов, соблюдения условий сервиса и масштаба автоматического сбора данных.

Подписанты не отрицают проблему возможного присвоения чужих разработок. Они предлагают отделять допустимое обучение от незаконного извлечения технологий и применять меры против конкретных нарушителей. По их позиции, общий запрет дистилляции или распространения весов заденет проекты, которые не связаны с предполагаемой кражей.

Такой подход меняет смысл письма. Это не требование оставить рынок ИИ без правил, а попытка не допустить, чтобы расследование действий отдельных компаний привело к ограничениям для всего класса моделей.

Открытые нужны разным участникам рынка

Состав коалиции показывает, почему вопрос вышел за пределы сообщества разработчиков. Производители оборудования получают спрос на серверы и ускорители, облачные платформы продают вычислительные мощности, а разработчики приложений могут выбирать между несколькими моделями и поставщиками.

Для корпоративного заказчика доступные веса означают возможность разместить систему внутри собственной инфраструктуры. Это упрощает работу с конфиденциальными данными, позволяет менять модель под внутренние процессы и снижает зависимость от условий одного API. Однако локальный запуск не означает автоматически низкую стоимость: крупной модели все равно нужны ускорители, память, электроэнергия и специалисты для обслуживания.

Письмо также связывает открытые веса с конкуренцией. Когда базовую модель можно запускать у разных поставщиков, владельцу приложения проще сменить облачную площадку или развернуть систему самостоятельно. Закрытый сервис оставляет такую возможность только в пределах, установленных его владельцем.

Этим объясняется и заметное отсутствие среди подписантов OpenAI, Anthropic и Google, чьи передовые системы в основном распространяются через контролируемые сервисы. Само отсутствие подписи не доказывает, что эти компании требуют запрета открытых моделей. Оно лишь показывает, что единая позиция крупнейших разработчиков по этому вопросу пока не сложилась.

Фото: ITHome