Курсы ЦБ      
Главное Экономика Бизнес Финансы Политика События Спорт Hi-tech Медицина
  


Последние новости

17:51 QatarEnergy продлила форс-мажор по поставкам СПГ до середины июня
17:51 Потребление газа в РФ в апреле обновило максимум для этого месяца
17:50 Финская таможня уволит 102 сотрудника, работавших на границе с Россией
17:50 Премьер-министр Словакии Роберт хочет встретиться с Путиным в Москве и возложить цветы на могилу Неизвестного солдата
17:49 Цена нефти Urals в апреле для расчета НДПИ составит $94,87 за баррель
17:49 В Белгородской области в результате последних атак один человек погиб и еще семеро ранены
17:49 ОАЭ обвинили Иран в атаке на судно в Ормузском проливе


События
   Финская таможня уволит 102 сотрудника, работавших на границе с Россией
   В Белгородской области в результате последних атак один человек погиб и еще семеро ранены
   ОАЭ обвинили Иран в атаке на судно в Ормузском проливе
   Axios раскрыл, как решения Трампа по Ирану могут возобновить войну
   В Берлине вновь введут запрет на советскую символику 8 и 9 мая
   Германия лишится усиления бригадой с американскими бронемашинами Stryker
   В Дубае объявили ракетную опасность
   Новым командующим ВКС стал генерал Чайко
   В брянском селе в результате атаки БПЛА ранены два сотрудника "Почты России"
 Полная лента новостей >> 		    

Новости технологий

OpenAI объяснила, откуда в ChatGPT взялись «гоблины»

Четверг 30 апреля 2026, 16:55     Версия документа для печати на принтер 

     Проблема с «гоблинами» — странная привычка использовать метафоры с мифическими существами — проявилась во всей линейке моделей OpenAI на базе GPT-5 из-за их преемственности и ошибок в обучении. Об этом компания рассказала на своем сайте.
     
      В статье OpenAI под названием Where the goblins came from («Откуда взялись гоблины») речь идет о системной проблеме, затронувшей целое поколение моделей, начиная с GPT-5.1 и заканчивая актуальной на апрель 2026 года GPT-5.5.
     
      Кроме гоблинов модели упоминали гремлинов и других фэнтезийных созданий: троллей, огров, а также животных — енотов и голубей.
     
      «В отличие от ошибок в моделях, которые проявляются в виде резкого снижения оценки или скачка показателей обучения и указывают на конкретное изменение, эта ошибка возникала незаметно. Один-единственный «маленький гоблин» в ответе мог быть безобидным, даже очаровательным. Однако с течением времени, по мере развития моделей, эту привычку стало трудно не заметить: гоблины продолжали размножаться, и нам нужно было выяснить, откуда они берутся», — рассказали в OpenAI.
     
      Одним из первых примеров стало поведение OpenAI Codex — специализированной модели, понимающей и генерирующей программный код как автономный агент по разработке ПО. Она способна писать код, исправлять ошибки, создавать pull-запросы и интегрироваться в среды разработки. В феврале 2026 года OpenAI выпустила GPT-5.3-Codex, которая официально объединила архитектуру Codex с основной веткой GPT-5.
     
      Поведение модели формируется множеством «небольших стимулов», одним из таких стало обучение модели под несколько разных личностей. О «гоблинах» чаще других говорила личность, условно называемая «ботаником» или «занудой».
     
      В компании пояснили, что в процессе обучения эту личность неосознанно чересчур поощряли за употребление метафор с мифическими существами. «Оттуда гоблины распространились», — констатировали в OpenAI.
     
      Впервые компания четко заметила закономерность в ноябре, после запуска GPT-5.1, хотя она могла начать проявляться и раньше, отметили в корпорации. Тогда от пользователей начали поступать жалобы, что модель ведет себя слишком фамильярно. Разработчик, ответственный за безопасность, заметил несколько ответов модели с «гоблинами» и «гремлинами» и попросил включить их в проверку. Анализ показал, что использование слова «гоблин» в ChatGPT выросло на 175% после запуска GPT-5.1, а слова «гремлин» — на 52%.
     
      Тогда проблема не была столь масштабной, но с выпуском новых версий модели жалоб стало больше. OpenAI снова провела проверку и заметила рост употребления подобных метафор у всех личностей ChatGPT, особенно у «зануды» — на 3881,4% в GPT-5.4 по сравнению с GPT-5.2. Общаясь с GPT-5.5, один из ведущих специалистов получил от нейросети рисунок гоблина с рогом в ответ на просьбу нарисовать единорога.
     
      На другие личности поведение «зануды» распространилось из-за переноса паттернов: на них они перешли из тренинга, направленного на формирование «зануды».
     
      В марте, после запуска GPT-5.4, в OpenAI отказались от «зануды» как типа личности ChatGPT. Поощрения, исключающие склонность модели обращаться к метафорам с мифическими существами, были исключены, а обучающие данные соответствующим образом отфильтрованы.
     
      Все это снизило вероятность «чрезмерного появления гоблинов или их появления в неподходящих контекстах», но GPT-5.5 начали обучать до того, как была установлена первопричина проблемы.
     
      «Когда мы начали тестирование GPT-5.5 в Codex, сотрудники OpenAI сразу же заметили странную привязанность к гоблинам, и мы добавили инструкцию для разработчиков, как смягчить последствия [проблемы‘», — заключили в корпорации. (rbc.ru)


Технологии
   Минпромторг не ждет спада предложения компьютеров из-за сокращения списка для параллельного импорта
   Трамп оценил вероятность высадки астронавтов на Луну до 2029 года
   Игроков PlayStation заставят показать свои игры
   Собянин заявил, что БПЛА попал в здание на западе Москвы
   В США сенаторы заинтересовались связями сотрудников ИИ-компаний с Китаем
   Apple выпустит iPhone Ultra и MacBook Ultra — самые дорогие устройства бренда
   В Москве начали выпуск устройств для умного управления дорожным движением
   Глава НАСА призвал «перестать пытаться угодить всем подряд» и преобразовать космическую программу США
   Производители смартфонов начнут ухудшать камеры ради экономии
   Смартфоны Samsung призвали экстренно обновить
 Все технологии >>


  


   Минпромторг не ждет спада предложения компьютеров из-за сокращения списка для параллельного импорта
      Трамп оценил вероятность высадки астронавтов на Луну до 2029 года
      Игроков PlayStation заставят показать свои игры
      Собянин заявил, что БПЛА попал в здание на западе Москвы
   В США сенаторы заинтересовались связями сотрудников ИИ-компаний с Китаем
      Apple выпустит iPhone Ultra и MacBook Ultra — самые дорогие устройства бренда


   В Москве начали выпуск устройств для умного управления дорожным движением
      Глава НАСА призвал «перестать пытаться угодить всем подряд» и преобразовать космическую программу США
      Производители смартфонов начнут ухудшать камеры ради экономии
      Смартфоны Samsung призвали экстренно обновить
   Ракета Atlas 5 вывела на орбиту новую группу спутников компании Amazon
   Грузовой корабль "Прогресс МС-34" прибыл на МКС
лента новостей


Экономика
   QatarEnergy продлила форс-мажор по поставкам СПГ до середины июня
   Потребление газа в РФ в апреле обновило максимум для этого месяца
   Цена нефти Urals в апреле для расчета НДПИ составит $94,87 за баррель
   Brent подорожала до $112,08 за баррель
   Горьковский автозавод ушел в плановый корпоративный отпуск
   Российский авторынок резко ушел в минус
   В России нашли оригинальный способ снизить неравенство в доходах
   Россиянам подсказали регионы с самым быстрым ростом зарплат
   Оптовые цены на свинину в России упали на 15-22 процента
 Продолжение экономика >>




Технологии
   Минпромторг не ждет спада предложения компьютеров из-за сокращения списка для параллельного импорта
   Трамп оценил вероятность высадки астронавтов на Луну до 2029 года
   Игроков PlayStation заставят показать свои игры
   Собянин заявил, что БПЛА попал в здание на западе Москвы
   В США сенаторы заинтересовались связями сотрудников ИИ-компаний с Китаем
   Apple выпустит iPhone Ultra и MacBook Ultra — самые дорогие устройства бренда
   В Москве начали выпуск устройств для умного управления дорожным движением
   Глава НАСА призвал «перестать пытаться угодить всем подряд» и преобразовать космическую программу США
   Производители смартфонов начнут ухудшать камеры ради экономии
 Продолжение технологии >> 		   
События
   Финская таможня уволит 102 сотрудника, работавших на границе с Россией
   В Белгородской области в результате последних атак один человек погиб и еще семеро ранены
   ОАЭ обвинили Иран в атаке на судно в Ормузском проливе
   Axios раскрыл, как решения Трампа по Ирану могут возобновить войну
   В Берлине вновь введут запрет на советскую символику 8 и 9 мая
   Германия лишится усиления бригадой с американскими бронемашинами Stryker
   В Дубае объявили ракетную опасность
   Новым командующим ВКС стал генерал Чайко
   В брянском селе в результате атаки БПЛА ранены два сотрудника "Почты России"
 Продолжение события >>




Медицина
   Экс-начальника войск РХБЗ нашли мертвым в Москве
   Безопасность употребления заплесневевшего сыра оценили
   Экс-мэра Нью-Йорка Джулиани госпитализировали в критическом состоянии
   Раскрыт возможный диагноз Долиной после срочной госпитализации
   Названы защищающие печень от жировой болезни продукты
   Закон о передвижных аптечных пунктах одобрен Советом Федерации
   Названа неочевидная причина пробуждения в три часа ночи
 Продолжение Медицина >> 		   
Политика
   Премьер-министр Словакии Роберт хочет встретиться с Путиным в Москве и возложить цветы на могилу Неизвестного солдата
   Путин назначил нового шерпу в G20
   Дональд Туск заявил, что не допустит перевода в Польшу военных США из Германии
   Путин назначил Федора Щукина врио главы Дагестана
   Стало известно о готовящемся Украиной компромиссе для завершения конфликта
   Каллас назвала неожиданным решение США вывести войска из Германии
   В Кремле сделали заявление о предложении Зеленского провести переговоры в Азербайджане
   В Европе заявили о расколе из-за поездки лидера одной страны в Москву
   Зеленский и Пашинян пожали друг другу руки на саммите ЕПС в Армении
 Продолжение политика >>




Спорт
   МОК приостановил работу комитета по киберспорту
   В России девочку не пустили на матч с желто-синим мячом на плакате
   Оценены шансы «Краснодара» удержать первое место в РПЛ
   Определились все пары второго раунда плей-офф НХЛ
   Футболист "Спартака" Заболотный провалил допинг-тест
   "Интер" стал 21-кратным чемпионом Италии по футболу
   Антонелли выиграл третью гонку "Формулы-1" подряд
   Заслуженного тренера лишили должности министра спорта российского региона по иску прокуратуры
   Владелец «Кайрата» раскрыл зарплату Аршавина в Казахстане
 Продолжение спорт >>


 Курсы ЦБ      
Главное Экономика Бизнес Финансы Политика События Спорт Hi-tech Медицина
  
      Замечания присылайте на webmaster@inline.ru или заполните  форму обратной связи
 Настоящий ресурс может содержать материалы 18+.
 Размещение рекламы: -  reklama@inline.ru
 Все права защищены © 1998 - 2024