Курсы ЦБ      
Главное Экономика Бизнес Финансы Политика События Спорт Hi-tech Медицина
  


Последние новости

18:14 В Прибалтике обратились к Украине из-за падений дронов
18:13 Балетмейстер Мариинского театра решила вернуть квартиру по «схеме Долиной»
18:12 Блокировка VPN в России обойдется в сотни миллиардов рублей
18:12 Россиянина женили и отправили на СВО ради миллионов
18:10 Зеленский начал переговоры с Пашиняном
18:09 Сотни протестующих попытались сорвать Met Gala из-за одного человека
18:09 Подходящим для ЦСКА тренером назвали другого иностранца из РПЛ


События
   В Прибалтике обратились к Украине из-за падений дронов
   Балетмейстер Мариинского театра решила вернуть квартиру по «схеме Долиной»
   Блокировка VPN в России обойдется в сотни миллиардов рублей
   Россиянина женили и отправили на СВО ради миллионов
   Сотни протестующих попытались сорвать Met Gala из-за одного человека
   Бывшему помощнику Владимира Жириновского запросили срок за аферы
   Названы возможные причины нападения на российского губернатора
   Синоптик: В Москве потеплеет до плюс 28 градусов 6 мая
   Брекоткин из «Уральских пельменей» высказался о своей популярности у молодежи
 Полная лента новостей >> 		    

Новости технологий

OpenAI объяснила, откуда в ChatGPT взялись «гоблины»

Четверг 30 апреля 2026, 16:55     Версия документа для печати на принтер 

     Проблема с «гоблинами» — странная привычка использовать метафоры с мифическими существами — проявилась во всей линейке моделей OpenAI на базе GPT-5 из-за их преемственности и ошибок в обучении. Об этом компания рассказала на своем сайте.
     
      В статье OpenAI под названием Where the goblins came from («Откуда взялись гоблины») речь идет о системной проблеме, затронувшей целое поколение моделей, начиная с GPT-5.1 и заканчивая актуальной на апрель 2026 года GPT-5.5.
     
      Кроме гоблинов модели упоминали гремлинов и других фэнтезийных созданий: троллей, огров, а также животных — енотов и голубей.
     
      «В отличие от ошибок в моделях, которые проявляются в виде резкого снижения оценки или скачка показателей обучения и указывают на конкретное изменение, эта ошибка возникала незаметно. Один-единственный «маленький гоблин» в ответе мог быть безобидным, даже очаровательным. Однако с течением времени, по мере развития моделей, эту привычку стало трудно не заметить: гоблины продолжали размножаться, и нам нужно было выяснить, откуда они берутся», — рассказали в OpenAI.
     
      Одним из первых примеров стало поведение OpenAI Codex — специализированной модели, понимающей и генерирующей программный код как автономный агент по разработке ПО. Она способна писать код, исправлять ошибки, создавать pull-запросы и интегрироваться в среды разработки. В феврале 2026 года OpenAI выпустила GPT-5.3-Codex, которая официально объединила архитектуру Codex с основной веткой GPT-5.
     
      Поведение модели формируется множеством «небольших стимулов», одним из таких стало обучение модели под несколько разных личностей. О «гоблинах» чаще других говорила личность, условно называемая «ботаником» или «занудой».
     
      В компании пояснили, что в процессе обучения эту личность неосознанно чересчур поощряли за употребление метафор с мифическими существами. «Оттуда гоблины распространились», — констатировали в OpenAI.
     
      Впервые компания четко заметила закономерность в ноябре, после запуска GPT-5.1, хотя она могла начать проявляться и раньше, отметили в корпорации. Тогда от пользователей начали поступать жалобы, что модель ведет себя слишком фамильярно. Разработчик, ответственный за безопасность, заметил несколько ответов модели с «гоблинами» и «гремлинами» и попросил включить их в проверку. Анализ показал, что использование слова «гоблин» в ChatGPT выросло на 175% после запуска GPT-5.1, а слова «гремлин» — на 52%.
     
      Тогда проблема не была столь масштабной, но с выпуском новых версий модели жалоб стало больше. OpenAI снова провела проверку и заметила рост употребления подобных метафор у всех личностей ChatGPT, особенно у «зануды» — на 3881,4% в GPT-5.4 по сравнению с GPT-5.2. Общаясь с GPT-5.5, один из ведущих специалистов получил от нейросети рисунок гоблина с рогом в ответ на просьбу нарисовать единорога.
     
      На другие личности поведение «зануды» распространилось из-за переноса паттернов: на них они перешли из тренинга, направленного на формирование «зануды».
     
      В марте, после запуска GPT-5.4, в OpenAI отказались от «зануды» как типа личности ChatGPT. Поощрения, исключающие склонность модели обращаться к метафорам с мифическими существами, были исключены, а обучающие данные соответствующим образом отфильтрованы.
     
      Все это снизило вероятность «чрезмерного появления гоблинов или их появления в неподходящих контекстах», но GPT-5.5 начали обучать до того, как была установлена первопричина проблемы.
     
      «Когда мы начали тестирование GPT-5.5 в Codex, сотрудники OpenAI сразу же заметили странную привязанность к гоблинам, и мы добавили инструкцию для разработчиков, как смягчить последствия [проблемы‘», — заключили в корпорации. (rbc.ru)


Технологии
   Минпромторг не ждет спада предложения компьютеров из-за сокращения списка для параллельного импорта
   Трамп оценил вероятность высадки астронавтов на Луну до 2029 года
   Игроков PlayStation заставят показать свои игры
   Собянин заявил, что БПЛА попал в здание на западе Москвы
   В США сенаторы заинтересовались связями сотрудников ИИ-компаний с Китаем
   Apple выпустит iPhone Ultra и MacBook Ultra — самые дорогие устройства бренда
   В Москве начали выпуск устройств для умного управления дорожным движением
   Глава НАСА призвал «перестать пытаться угодить всем подряд» и преобразовать космическую программу США
   Производители смартфонов начнут ухудшать камеры ради экономии
   Смартфоны Samsung призвали экстренно обновить
 Все технологии >>


  


   Минпромторг не ждет спада предложения компьютеров из-за сокращения списка для параллельного импорта
      Трамп оценил вероятность высадки астронавтов на Луну до 2029 года
      Игроков PlayStation заставят показать свои игры
      Собянин заявил, что БПЛА попал в здание на западе Москвы
   В США сенаторы заинтересовались связями сотрудников ИИ-компаний с Китаем
      Apple выпустит iPhone Ultra и MacBook Ultra — самые дорогие устройства бренда


   В Москве начали выпуск устройств для умного управления дорожным движением
      Глава НАСА призвал «перестать пытаться угодить всем подряд» и преобразовать космическую программу США
      Производители смартфонов начнут ухудшать камеры ради экономии
      Смартфоны Samsung призвали экстренно обновить
   Ракета Atlas 5 вывела на орбиту новую группу спутников компании Amazon
   Грузовой корабль "Прогресс МС-34" прибыл на МКС
лента новостей


Экономика
   «Ъ»: Старейшая косметическая фабрика «Свобода» столкнулась с угрозой банкротства
   QatarEnergy продлила форс-мажор по поставкам СПГ до середины июня
   Потребление газа в РФ в апреле обновило максимум для этого месяца
   Цена нефти Urals в апреле для расчета НДПИ составит $94,87 за баррель
   Brent подорожала до $112,08 за баррель
   Горьковский автозавод ушел в плановый корпоративный отпуск
   Российский авторынок резко ушел в минус
   В России нашли оригинальный способ снизить неравенство в доходах
   Россиянам подсказали регионы с самым быстрым ростом зарплат
 Продолжение экономика >>




Технологии
   Минпромторг не ждет спада предложения компьютеров из-за сокращения списка для параллельного импорта
   Трамп оценил вероятность высадки астронавтов на Луну до 2029 года
   Игроков PlayStation заставят показать свои игры
   Собянин заявил, что БПЛА попал в здание на западе Москвы
   В США сенаторы заинтересовались связями сотрудников ИИ-компаний с Китаем
   Apple выпустит iPhone Ultra и MacBook Ultra — самые дорогие устройства бренда
   В Москве начали выпуск устройств для умного управления дорожным движением
   Глава НАСА призвал «перестать пытаться угодить всем подряд» и преобразовать космическую программу США
   Производители смартфонов начнут ухудшать камеры ради экономии
 Продолжение технологии >> 		   
События
   В Прибалтике обратились к Украине из-за падений дронов
   Балетмейстер Мариинского театра решила вернуть квартиру по «схеме Долиной»
   Блокировка VPN в России обойдется в сотни миллиардов рублей
   Россиянина женили и отправили на СВО ради миллионов
   Сотни протестующих попытались сорвать Met Gala из-за одного человека
   Бывшему помощнику Владимира Жириновского запросили срок за аферы
   Названы возможные причины нападения на российского губернатора
   Синоптик: В Москве потеплеет до плюс 28 градусов 6 мая
   Брекоткин из «Уральских пельменей» высказался о своей популярности у молодежи
 Продолжение события >>




Медицина
   Эндокринолог раскрыла секреты идеального шашлыка
   Экс-начальника войск РХБЗ нашли мертвым в Москве
   Безопасность употребления заплесневевшего сыра оценили
   Экс-мэра Нью-Йорка Джулиани госпитализировали в критическом состоянии
   Раскрыт возможный диагноз Долиной после срочной госпитализации
   Названы защищающие печень от жировой болезни продукты
   Закон о передвижных аптечных пунктах одобрен Советом Федерации
 Продолжение Медицина >> 		   
Политика
   Зеленский начал переговоры с Пашиняном
   Турцию назвали нечестным посредником для переговоров по Украине
   Уволенный Путиным глава кавказского региона сделал заявление
   Минобороны ФРГ заявило, что США не отменяли планы разместить ракеты "Томагавк" в Германии
   Бессент призвал Китай принять участие в операции по открытию Ормузского пролива
   Премьер-министр Словакии Роберт хочет встретиться с Путиным в Москве и возложить цветы на могилу Неизвестного солдата
   Путин назначил нового шерпу в G20
   Дональд Туск заявил, что не допустит перевода в Польшу военных США из Германии
   Путин назначил Федора Щукина врио главы Дагестана
 Продолжение политика >>




Спорт
   Подходящим для ЦСКА тренером назвали другого иностранца из РПЛ
   Назван главный фаворит бомбардирской гонки Лиги чемпионов
   МОК приостановил работу комитета по киберспорту
   В России девочку не пустили на матч с желто-синим мячом на плакате
   Оценены шансы «Краснодара» удержать первое место в РПЛ
   Определились все пары второго раунда плей-офф НХЛ
   Футболист "Спартака" Заболотный провалил допинг-тест
   "Интер" стал 21-кратным чемпионом Италии по футболу
   Антонелли выиграл третью гонку "Формулы-1" подряд
 Продолжение спорт >>


 Курсы ЦБ      
Главное Экономика Бизнес Финансы Политика События Спорт Hi-tech Медицина
  
      Замечания присылайте на webmaster@inline.ru или заполните  форму обратной связи
 Настоящий ресурс может содержать материалы 18+.
 Размещение рекламы: -  reklama@inline.ru
 Все права защищены © 1998 - 2024