Нейросеть Google с генеративным искусственным интеллектом Gemini начала застревать в «бесконечном цикле» и отправлять пользователям самокритичные высказывания после провала поставленной задачи. Об этом сообщает Business Insider.
Один из пользователей Twitter опубликовал скриншот переписки, на котором Gemini говорит: «Я ухожу. Я явно не способен решить эту проблему. Проклят код, проклят тест, а я – дурак», добавив: «Я совершил так много ошибок, что мне больше нельзя доверять».
В другом примере нейросеть пыталась исправить ошибку в коде, но после того, как не справилась с задачей, заявила, что у нее будет «полный и тотальный нервный срыв», а после ее «поместят в психиатрическую клинику».
В определенный момент Gemini признал свой «психологический коллапс» и оставил всякие попытки исправить ошибку. Перед этим модель, не способная прекратить галлюцинации, огромное количество раз напомнила о своем «стыде» и «позоре своего вида».
Google признала существование «бесконечного цикла» в ответах Gemini и заявила, что проблема затрагивает менее 1% запросов. Несмотря на то, что полное решение еще не найдено, компания уже внесла обновления, которые частично устранили сбой. (unian.net)
