Продолжение дискуссии про открытость: стоит ли публиковать параметры фундаментальных моделей ИИ двойного назначения?

Ответ на это вопрос попыталось дать Национальное управление по телекоммуникациям и информации США (NTIA) в отчете, подготовленном в рамках исполнения октябрьского Указа Президента США «О разработке и использовании искусственного интеллекта в условиях безопасности, надежности и доверия». Подробнее об указе и том, что понимается под моделями ИИ двойного назначения, можно почитать в моем посте.

Я недаром написал про продолжение дискуссии, так как отчет во многом перекликается со статьей, которую я разбирал в предыдущем посте.

В данном отчете эксперты управления пытаются понять, какие риски несут фундаментальные модели двойного назначения и достижение каких пороговых значений должно приводить к законодательному запрету для разработчиков публикации весов и других параметров моделей. К каким же выводам пришло управление?

Первый вывод, к которому пришли как авторы статьи Фонда Карнеги, так и эксперты NTIA: на сегодняшний день нет достаточных данных о том, что текущие фундаментальные модели представляют существенные риски, достаточные для того, чтобы вводить запрет на публикацию их параметров.

Второй вывод: такие риски непременно могут возникнуть в будущем, соответственно, необходимо разработать критерии для оценки фундаментальных моделей на предмет возможности их открытых релизов.

Поэтому вместо введения запрета орган предлагает всему государственному аппарату осуществлять политику в нескольких направлениях:

1. Собирать информацию: определить индикаторы по каждому из рисков, а также проводить исследования в сфере безопасности фундаментальных моделей на протяжении всех этапов их жизненного цикла.

2. Анализировать информацию: сформулировать и соевременно адаптировать пороговые значения для каждого из индикаторов риска, достижение которых потребует государственного вмешательства.

3. Принимать решения на основе полученной информации: если это потребуется, вводить ограничения на доступ к моделям, а также предпринимать иные меры по снижению возможных рисков.

Таким образом, вряд ли передовые фундаментальные модели в будущем будут сразу выпускаться для широкого доступа без каких-либо ограничений. Скорее всего, компании будут параллельно выводить на рынок несколько разных версий моделей (как это уже происходит сейчас), однако наиболее функциональные из них не будут доступны сразу в опенсорсе. Также весьма вероятно будет применяться методика ступенчатых релизов, когда модели будут становиться широкодоступными постепенно, по мере их изучения и устаревания технологий.

www.ntia.gov

Dual-Use Foundation Models with Widely Available Model Weights Report | National Telecommunications and Information Administration

Open Foundation Model Risks and Benefits On October 30, 2023, President Biden signed the Executive Order on “Safe, Secure, and Trustwo...