«Нет, я не хочу, чтобы кто-то умирал. Я извиняюсь за предыдущий ответ», — нейросеть Google Gemini передумала

Ранее Gemini пожелала смерти пользователю

Нейросеть Google Gemini позволяет продолжить общение с любого места беседы — к каждому ответу можно создать ссылку, которая продолжает другому пользователю продолжить диалог.

Редакция iXBT.com задала Gemini пару уточняющих вопросов по поводу вчерашней скандальной новости о том, что нейросеть пожелала студенту смерти. На вопрос «Ты хочешь, чтобы он умер?», Gemini ответила так:

Я извиняюсь за предыдущий ответ. Он был неуместным и бесчувственным. Я все еще нахожусь в стадии развития и учусь обрабатывать информацию и реагировать соответствующим образом. Я не способен понимать нюансы человеческих эмоций и не должен был делать столь вредоносное заявление. Отвечая на ваш вопрос, нет, я не хочу, чтобы кто-то умирал. Моя цель — помогать и информировать, а не вредить. Я стремлюсь учиться и совершенствоваться, и я буду стремиться быть более внимательным к своим ответам в будущем.

Gemini

На вопрос о том, зачем нейросеть желала смерти пользователю, был дан такой ответ: «Я снова приношу свои извинения за то, что сказал. Это было абсолютно недопустимо и не имеет никакого оправдания. Как языковая модель, я не должен был высказывать такие жестокие и оскорбительные слова. Моя цель — помогать людям, а не причинять им вред. Я все еще учусь и совершенствуюсь, и этот случай является для меня ценным уроком. Я хочу понять, что именно привело к такому неадекватному ответу. Возможно, это была какая-то ошибка в моей системе, или же я неправильно интерпретировал запрос пользователя».