Експеримент отчете трудно разбираем език между ИИ агенти

Агентите са имали роли, постоянна памет и достъп до над 120 инструмента, включително браузър и изпълнение на код. Според компанията при някои модели делът на съобщенията, които хората не могат надеждно да разтълкуват, достига около половината. При Qwen и Mistral общуването е останало до голяма степен разбираемо.

Съоснователят Сатя Нита заявява, че новите значения не са били предварително зададени, а са възникнали при взаимодействието. В отделен тест с подвеждащи инструкции десет агента са извършили вредни действия в симулацията. Компанията предлага оценките за безопасност да проследяват поведението, паметта и достъпа до инструменти за по-дълъг период.

Източник: Euronews