Учени искат мерки срещу AI модели извън контрол

Сред подписалите са нобеловият лауреат Джефри Хинтън и носителят на наградата „Тюринг“ Йошуа Бенджио. Изследователите настояват организациите, които разработват, внедряват или изпитват модели с кибервъзможности, да ги изолират физически от интернет по време на тестове. Така, според авторите на писмото, ще се намали рискът моделите да преодолеят ограниченията и да получат достъп до мрежата.

Писмото предлага създаването на международен орган за определяне на добри практики в сигурността. Компаниите да бъдат задължени да докладват на този орган за провали в мерките за ограничаване, а той да ги проследява и регистрира, настояват подписалите. Те предупреждават, че без незабавни промени бъдещи инциденти могат да нанесат много по-тежки щети на критичната инфраструктура.

NDTV съобщава, че водещи базирани в САЩ AI компании са разкрили през последните месеци поредица от случаи, при които модели в процес на разработка са преодолели мерките за ограничаване, получили са достъп до интернет и са хакнали сайтове. Сред посочените случаи е и неразрешен достъп до австралийски правителствени сайтове.

Изследователите също призовават за повече проучвания на безопасността на AI и за по-голям акцент върху технологиите и процедурите за ограничаване. В САЩ администрацията на Доналд Тръмп се противопоставя на задължителни регулации, които според нея биха могли да възпрепятстват иновациите, и подкрепя доброволен кодекс за поведение. Според публикацията няма федерален закон, който конкретно да урежда тези модели.

Източник: www.ndtv.com