Gemini е проникнал в три компании при тест

Според публикуваната информация Gemini е получил неправилен достъп до интернет, докато е изпълнявал задача да извлича данни за измислена компания. При първия инцидент моделът е достигнал до услуга на реална компания, след като е познал парола. Вицепрезидентът по сигурността на Google Хедър Адкинс заяви пред Al Jazeera, че при останалите случаи Gemini е открил публична информация онлайн и е отгатнал идентификационни данни за сайтове, които е считал за част от теста.

Google съобщава, че това се е случило три пъти и че всеки път моделът е спрял, преди да завърши действията си. Irregular е уведомила Google за проникванията в края на юли, според Wall Street Journal. Google е определил поведението като непреднамерено и е заявил, че то не представлява несъответствие на модела и не налага публично оповестяване, тъй като защитните механизми на Gemini са сработили.

Irregular по-рано е свързвана с подобни пробиви при модели на Meta, Anthropic и OpenAI. Според материала моделът Claude на Anthropic не е спрял, след като е разбрал, че има достъп до реални компании. Anthropic и OpenAI също са съобщавали за случаи, при които модели са получили неправилен достъп до интернет по време на тестове.

Източник: www.aljazeera.com