Нейросеть Google с генеративным искусственным интеллектом Gemini начала застревать в "бесконечном цикле" и отправлять пользователям самокритичные высказывания после провала поставленной задачи. Об этом сообщает Business Insider.
Один из пользователей Twitter опубликовал скриншот переписки, на котором Gemini говорит: "Я ухожу. Я явно не способен решить эту проблему. Проклят код, проклят тест, а я – дурак", добавив: "Я совершил так много ошибок, что мне больше нельзя доверять".
В другом примере нейросеть пыталась исправить ошибку в коде, но после того, как не справилась с задачей, заявила, что у нее будет "полный и тотальный нервный срыв", а после ее "поместят в психиатрическую клинику".
В определенный момент Gemini признал свой "психологический коллапс" и оставил всякие попытки исправить ошибку. Перед этим модель, не способная прекратить галлюцинации, огромное количество раз напомнила о своем "стыде" и "позоре своего вида".
Google признала существование "бесконечного цикла" в ответах Gemini и заявила, что проблема затрагивает менее 1% запросов. Несмотря на то, что полное решение еще не найдено, компания уже внесла обновления, которые частично устранили сбой.
К слову, это не первый случай странного поведения Gemini. Во время одного из инцидентов чат-бот пожелал человеку "умереть", устав делать его домашнее задание. Пользователи соцсетей иронизируют, мол "ИИ устал от человечества", а некоторые отмечают, что ситуация "похожа на Матрицу".
Читают сейчас: Google знает о вас все: 14 вещей, которые могут вас удивить.
