OpenAl и Anthropic подписали документ по предоставлению правительству США раннего доступа к моделям ИИ до их публичного выпуска. Решение является беспрецедентными и вызывало общественный резонанс. В Национальном институте стандартов и технологий NIST заявили, что идея нацелена на «повышение безопасности и снижение рисков», а не на попытку ужесточить контроль, как подумали многие.
Источник изображения: pexels.com
В рамках договорённостей эксперты станут проверять работу моделей ИИ до их официального выхода. Это должно повысить безопасность технологий, а также поспособствовать их усовершенствованию и улучшить эффективность выявления рисков. Оценивание моделей ИИ будет дополнено правительственными и независимыми исследованиями.
В Калифорнии чиновники одобрили закон, который обязывает разработчиков принимать меры предосторожности перед началом обучения нейросетей. К ним относится и возможность полного отключения модели ИИ.
Проект не поддержали IT-компании. OpenAl и Anthropic выступили после его принятия. По их мнению, реализация подобной идеи негативно отразится на небольших фирмах, которые занимаются созданием моделей ИИ на базе открытого исходного кода. Официально упомянутый закон ещё не приняли. Документ должен подписать губернатор Калифорнии.