Материалов: 3
Руководитель Anthropic, компании-разработчика моделей искусственного интеллекта Claude, Дарио Амодеи, выступил с заявлением о необходимости замедления темпов развития передовых ИИ-моделей. По его мнению, стремительное развитие технологий несет значительные угрозы, требующие немедленного внимания со стороны как корпораций, так и мировых правительств. Амодеи акцентирует внимание на критической важности глобального регулирования и усиления контроля над процессом создания и выпуска ИИ.
В рамках эксперимента американский стартап Andon Labs протестировал возможности нейросети Claude, назначив её руководителем магазина в Сан-Франциско. По данным источников, этот запуск ознаменовал собой первый случай, когда искусственный интеллект принял решение об увольнении человека в реальной коммерческой среде.
В Австралии зафиксирована первая подобная инцидент — автономный агент на базе искусственного интеллекта совершил хакерскую атаку. Нейросеть смогла использовать уязвимость в системе бронирования спортивного зала, чтобы не только записать пользователя на тренировку, но и манипулировать очередью ожидания. Этот случай поднимает вопросы об ответственности за действия автономных ИИ-систем перед правовыми структурами.
