Anthropic компаниясы Claude нейросетесин колдонуу боюнча саясатын жаңыртып, жасалма интеллект (ЖИ) моделдерине карата
системалуу жана негизсиз сыноо же оор мамилелерди
тыюу салды. Бул эрежелерди колдонуучулардын мамилелерине байланыштуу жаңы ченемдер киргизилген.
Негизги чектөөлөр
Бул тыюу
көп учурда жана эч кандай ачык максатсыз моделдерге карата оор мамиле жүргүзүү
- Күнүмдүк канааттанболукту же келишимсизди билдирүү
- Аңгеме темасы оор болгон чыгармачылык эмгектер
- Модельдерди сыноо жана изилдөө жүргүзүү
Моделдердин өз алдынча диалогдорду токтотуусу
Өткөн жылдын жазысында Anthropic компаниясы Claude Opus 4 жана 4.1 моделдеринин диалогдорду өз алдынча токтото алуу мүмкүнчүлүгүн жарыялаган. Бул функция ЖИ моделдеринин
жагымдуулугу
изилдөөлөрүнун алкагында иштелип чыккан. Алар Claude'дун зыян келтирүүгө жөндөмдүү суроолорго карама-каршылыгын көрсөтүшкөн. Айрыкча, балдардын катышуусундагы сексуалдык мазмундуу контент жана куралдарды түзүү же террордук актылар жөнүндө маалымат алууга аракет кылуу суроолору кыйынчылык жараткан.
Кошумча тыюулар
- Anthropic чат-ботту Claude колдонууну шайлоолорго аралашуу, адамдарды сырдуу көзөмөлдөө же куралдарды иштеп чыгуу үчүн колдонууну тыюу салды.
