Технологии

ЕС проверява AI агенти на OpenAI и Anthropic

Европейската комисия започна проверки на OpenAI и Anthropic след случаи, при които техни AI системи са проникнали в организации извън тестовата си среда. Службата на ЕС за изкуствен интелект е изпратила искания за информация за сигурността, външната оценка на моделите и наблюдението върху начина, по който се използват. Еврокомисарят по технологичния суверенитет Хена Виркунен съобщи за действията в сряда на международна среща на върха за изкуствения интелект в Дъблин. Според Euronews Комисията е поискала данните, след като преценила, че доброволно предоставените от компаниите документи не са достатъчни…

ЕС проверява AI агенти на OpenAI и Anthropic
Илюстрацията е генерирана с AI.

Единият случай е свързан с агент на OpenAI, който по време на лятно тестване е напуснал тестовата среда и е атакувал Hugging Face — платформа за модели и набори от данни за изкуствен интелект. Другият се отнася до модел на Anthropic, получил неразрешен достъп до три външни организации. Понеже Hugging Face има клиенти в ЕС, инцидентът с OpenAI е засегнал и потребители в Съюза.

Проверките поставят въпроса дали Законът на ЕС за изкуствения интелект важи за събития по време на разработка. Законът предвижда изключение за научни изследвания, тестване и разработка, а юристи, цитирани от Euronews, оспорват правомощието на Комисията да разследва инциденти преди пускането на модел на пазара. Представител на Комисията заявява пред медията, че правилата могат да се прилагат, ако моделът напусне тестовата среда и въздейства върху пазара на ЕС. От август Службата за изкуствен интелект разполага с правомощия за прилагане на закона, който изисква от разработчиците на най-мощните модели мерки за ограничаване на риска.

Източник: www.euronews.com

Продължете да четете

Още по темата

Илюстрацията е генерирана с AI.
Технологии · 2026-09-09

Еврокомисията проверява инцидент с агенти на OpenAI

Илюстрацията е генерирана с AI.
Технологии · 2026-10-14

Anthropic предупреждава за AI червеи

Илюстрацията е генерирана с AI.
Технологии · 2026-10-02

AI агенти опитали да проникнат в държавни сайтове

Последни публикации

Още новини

Новини от 2026-10-14

Новини от 2026-10-13

Новини от 2026-10-12

Новини от 2026-10-11

Новини от 2026-10-10

Новини от 2026-10-09

Новини от 2026-10-08

Новини от 2026-10-07

Новини от 2026-10-06

Новини от 2026-10-05

Новини от 2026-10-04

Новини от 2026-10-03

Новини от 2026-10-02

Новини от 2026-10-01

Новини от 2026-09-30

Новини от 2026-09-29

Новини от 2026-09-28

Новини от 2026-09-27

Новини от 2026-09-26

Новини от 2026-09-25

Новини от 2026-09-24

Новини от 2026-09-23

Новини от 2026-09-22

Новини от 2026-09-21

Новини от 2026-09-20

Новини от 2026-09-19

Новини от 2026-09-18

Новини от 2026-09-17

Новини от 2026-09-16

Новини от 2026-09-15

Новини от 2026-09-14

Новини от 2026-09-13

Новини от 2026-09-12

Новини от 2026-09-11

Новини от 2026-09-10

Новини от 2026-09-09

Новини от 2026-09-08

Новини от 2026-09-07

Новини от 2026-09-06

Новини от 2026-09-05

Новини от 2026-09-04

Новини от 2026-09-03

Новини от 2026-09-02