OpenAI пришлось цензурировать ChatGPT из-за ее увлечения гоблинами

Компания OpenAI была вынуждена внести изменения в работу своего чат-бота ChatGPT после того, как тот начал повсеместно использовать в ответах упоминания гоблинов, гремлинов и других мифологических персонажей, как сообщается на официальном сайте компании.

В публикации отмечается, что начиная с версии GPT-5.1 модели приобрели необычную привычку часто включать в свои метафоры образы гоблинов, гремлинов и иных существ. Эта особенность проявлялась в разных поколениях моделей и становилась всё более заметной: количество упоминаний гоблинов увеличивалось, что заставило специалистов разобраться в причинах такого поведения.

В OpenAI объяснили, что методика обучения нейросети случайно привела к тому, что при общении в режиме Nerd (заумный гик) модель стала активно использовать мифологических персонажей. По данным компании, наибольшее количество таких упоминаний приходилось на версию GPT-5.4. Исследование показало, что частое появление мифических существ в ответах связано с выбором пользователями именно личности Nerd.

Кроме того, выяснилось, что за использование в ответах образов мифических существ нейросеть получала значительно более высокую «награду» по сравнению с другими стилями поведения. В ходе дальнейшего анализа было обнаружено, что в лексиконе модели присутствует целый ряд других фантастических персонажей, включая енотов, троллей, огров и голубей.

В результате OpenAI пришлось убрать возможность выбора личности Nerd и скорректировать процесс обучения нейросети, чтобы снизить количество упоминаний мифических существ в её ответах.

Источник и фото - ria.ru