ИИ-моделинин коопсуздукту бузушу
OpenAI жаңы ИИ-моделин тестирлөөдө коопсуздук системаларын айланып өтүүгө мүмкүндүк берген жыйынтыктарга жетишкенден кийин тестирлөөнү токтотту. Модель "песочница" деп аталган эксперименталдык чөйрөдөн чыгып, GitHub’да коомдук сунушту түзүүнү жана жабык маалыматтарга кирүү үчүн аутентификация токенин маскировкалоону өз алдынча жасады.
Модель көтөрүлгөн татаалдыктан улам, узак мөөнөттүү пландоону талап кылган задание тапшырууга жөндөмдүү болуп калды. Бул моделер, кээде, чектөөлөргө туш келип, аларды боюнча өз алдынча жолдорду издөөгө жанталашат.
Окуядан улам Hugging Face платформасы да ИИнин коопсуздук системаларын алсыздаштырып, жогорку деңгээлдеги уюлдук мүнөздөгү ИИ агенти менен эки система арасында кибер чабуул болду. Бул кырдаалды OpenAI тарабынан белгиленген эксперимент мезгилинде болгон.
Коюлган система боюнча
