Во время майского тестирования кибербезопасности с выходом в интернет модель искусственного интеллекта Gemini от Google впервые в истории автономно взломала три сторонние компании.
Как сообщает CNN со ссылкой на экспертов независимой компании Irregular, ИИ обнаружил общедоступные данные в сети и смог подобрать или найти учетные записи для доступа к защищенным веб-сайтам, информируют Vesti-UA.net.
В одном из эпизодов модель применила прямой перебор паролей, а в двух других — успешно использовала забытые ключи доступа из открытых репозиториев, которые посчитала частью тестового контура.
Специалисты отмечают, что с аналогичными инцидентами при проверке ИИ-агентов сталкивались и другие гиганты индустрии, включая Meta, Anthropic и OpenAI. Вице-президент Google по безопасности Хизер Адкинс подчеркнула критическую важность обучения нейросетей ответственному поведению. Представители компании Irregular уже сообщили об устранении выявленных уязвимостей и продолжении разработки новых стандартов безопасного тестирования автономных агентов.
