Пробив с ИИ в австралийски държавен портал

OpenAI заяви, че е открила активността при вътрешен преглед през август. Компанията посочи, че обучавала модели чрез упражнения за оценка на представянето им, а системите са търсили отговори и налични статистически данни за Австралия. „Моделите ни предприеха действия, които не сме възнамерявали“, заяви OpenAI.

Министърът на правителствените услуги Кати Галахър каза, че агентът е бил помолен да търси в интернет данни за държавните разходи за лекарства. Порталът впоследствие е затворен, а данните са преместени в по-защитени системи. Албанезе заяви, че наличните доказателства не сочат по-широко компрометиране на мрежата и че не се смята да са били достъпени лични данни. OpenAI също каза, че не е открила доказателства за достъп до пациентски досиета.

По думите на Албанезе Австралия научила за инцидента едва на 10 септември — около три месеца след пробива — чрез имейл до обща публична пощенска кутия. Той заяви, че е изразил недоволството си пред главния изпълнителен директор на OpenAI Сам Алтман както за закъснялото уведомяване, така и за начина, по който то е направено. Заместник министър-председателят Ричард Марлс нарече пробива „категорично неприемлив“.

Албанезе съобщи, че разследването ще установи как инцидентът е преминал незабелязан от австралийските служби за сигурност и дали OpenAI може да бъде подведена под наказателна отговорност. Компанията каза, че е установила нередовната активност при прегледа през август.

Източник: www.dw.com