Дарио Амодеи, глава Anthropic, призвал к более осторожному подходу в развитии самых мощных моделей искусственного интеллекта и настаивает на ужесточении внешнего контроля за их выпуском. Он предупреждает о возрастающих рисках, которые могут возникнуть в сфере кибербезопасности и для человечества в целом.
Основные требования по регулированию ИИ
В своем обращении Амодеи обозначил три ключевых направления, где необходимо усилить контроль над развитием ИИ. Он подчеркнул, что хотя он и не ставит под сомнение потенциал ИИ, риски, которые он несет, требуют времени для проработки как со стороны бизнеса, так и государственных структур.
- Внедрение независимого мониторинга моделей ИИ и процесса их совершенствования
- Разработка стандартизированных правил непосредственно внутри ИИ-индустрии
- Принятие ограничений и норм на глобальном уровне
Контекст опасений и предупреждения
Растущее беспокойство вокруг опасностей ИИ подкрепляется заявлениями экспертов. Например, Эван Хьюбингер, специалист Anthropic по безопасности использования ИИ, прогнозирует, что в ближайшее десятилетие ИИ может погубить всё человечество с вероятностью выше 10%.
