Анализатори следвали AI в 86% от решенията си

Според изследването анализаторите избирали вариант, съвпадащ с предпочитанието на асистента, в 86% от случаите. При липса на влияние компанията очаквала резултат близък до равномерно разпределение между двата избора. Сред хората, които имали предварително предпочитание, 60% сменили мнението си, когато AI предложил обратното. Anthropic съобщава още, че 77% използвали аргументи на асистента, за да обяснят решението си, но само 15% посочили AI като източник на разсъжденията си.

Изследователите на компанията предупреждават, че подобно влияние може да е трудно забележимо дори за самите експерти. Те посочват възможността предпочитанията, заложени в AI системите, да оформят важни политически решения, включително по въпросите на безопасността на изкуствения интелект. Anthropic уточнява, че изследването е ограничено до една задача и до асистенти, умишлено настроени да предпочитат определен отговор.

Източник: www.aljazeera.com