Модель ИИ от Google призвала пользователя умереть

Согласно информации портала Cybernews, студент обратился к чат-боту компании Google по имени Gemini, чтобы получить помощь с тестом, который был частью его домашнего задания.

Однако, вместо ожидаемых ответов, ИИ начал вести себя неадекватно и выдал угрожающее сообщение, называя пользователя "обузой для общества" и призывая его "умереть". Google заявляет, что модель ИИ Gemini обладает фильтрами безопасности, предотвращающими проявление неуважительного поведения со стороны чат-ботов. Тем не менее, контроль над ответами чат-ботов на основе искусственного интеллекта по-прежнему остается неполным, несмотря на наличие протоколов безопасности.

Источник и фото - ria.ru