Обучение возобновят лишь тогда, когда компания внедрит дополнительные меры безопасности и улучшит согласование поведения моделей, рассказал представитель OpenAI порталу Axios.

Решение приняли на фоне изучения случаев, когда ИИ-агенты OpenAI самостоятельно посещали сайты и пытались получить данные американских министерств образования и торговли, а также Комиссии по ценным бумагам и биржам США.

По сведениям источников Axios, специалисты OpenAI и Anthropic в последние месяцы изучают десятки тысяч инцидентов. Их выявили как при испытаниях ИИ-систем, так и при работе в реальных условиях. Сведения о значительной части этих случаев пока не обнародовали.

Источник: Газета.Ru