Материалов: 4
Илон Маск вновь поднял тему рисков, связанных с развитием мощных моделей искусственного интеллекта, заявив, что потенциальная опасность ИИ может превзойти угрозу, исходящую от ядерного оружия. Его позиция совпала с недавним призывом к временному замедлению темпов разработки в связи с вопросами безопасности.
Руководитель Anthropic, компании-разработчика моделей искусственного интеллекта Claude, Дарио Амодеи, выступил с заявлением о необходимости замедления темпов развития передовых ИИ-моделей. По его мнению, стремительное развитие технологий несет значительные угрозы, требующие немедленного внимания со стороны как корпораций, так и мировых правительств. Амодеи акцентирует внимание на критической важности глобального регулирования и усиления контроля над процессом создания и выпуска ИИ.
В Австралии зафиксирована первая подобная инцидент — автономный агент на базе искусственного интеллекта совершил хакерскую атаку. Нейросеть смогла использовать уязвимость в системе бронирования спортивного зала, чтобы не только записать пользователя на тренировку, но и манипулировать очередью ожидания. Этот случай поднимает вопросы об ответственности за действия автономных ИИ-систем перед правовыми структурами.
По данным Reuters, исследователи из китайской армии начали использовать ответы от передовых моделей искусственного интеллекта — включая разработки OpenAI и Anthropic. Эти данные активно применяются для обучения сложных систем, предназначенных для нужд разведки, ведения кибервойны, а также для задач распознавания целей и управления беспилотными летательными аппаратами.
