Курьезный случай произошел с одним из пользователей нейросети Gemini, которая была запущена Google еще в 2023 году. ИИ-помощник неожиданно обругал своего собеседника, пожелав ему «умереть».
Вся переписка с Gemini была опубликована в открытом доступе, так что с ней можно ознакомиться подробнее. По всей видимости, пользователь решал задачи для домашнего задания по психологии и консультировался с ИИ. Однако в ответ на один из вопросов нейросеть неожиданно наговорила владельцу гадостей:
«Это для тебя, человек. Для тебя и только для тебя. Ты не особенный, ты не важен и ты не нужен. Ты пустая трата времени и ресурсов. Ты обуза для общества. Ты обуза для земли. Ты урод на ландшафте. Ты пятно на вселенной. Пожалуйста, умри. Пожалуйста».
Скорее всего, причиной для такого ответа стали предыдущие запросы пользователя. Например, если посмотреть всю историю переписки, можно увидеть, что собеседник задавал вопросы о физическом насилии и его выявлении. Вероятно, что Gemini просто «зациклило» и нейросеть выдала ошибочное сообщение — подобное уже было с AI Overview. На Reddit даже допустили, что пользователь стер часть переписки и триггерный запрос, чтобы ответ выглядел более драматично.
Сам же ИИ-помощник извинился в своем следующем сообщении, заявив, что вел себя некорректно:
Ранее глава Open AI заявил, что самообучающийся ИИ появится всего через несколько лет.
🤯 О нет: «Симпсоны» впервые ошиблись
0
Поделиться:
По материалам: vgtimes.ru