Курсы ЦБ      
Главное Экономика Бизнес Финансы Политика События Спорт Hi-tech Медицина
  


Последние новости

16:55 OpenAI объяснила, откуда в ChatGPT взялись «гоблины»
16:54 Мадьяр потребовал прав для венгров Украины
16:54 КСИР предостерег США от новых атак на Иран
16:54 Кремль назвал возможные сроки перемирия с Украиной ко Дню Победы
16:53 Путин заявил, что «Страна восходящего солнца» — это Россия
16:50 Думе предложили проверять военных на алкоголь на местах, без доставления в медорганизации
16:50 Владельцы крупнейших НПЗ заключат договоры с Минэнерго и ФАС о стабилизации внутреннего рынка


События
   КСИР предостерег США от новых атак на Иран
   Кремль назвал возможные сроки перемирия с Украиной ко Дню Победы
   Думе предложили проверять военных на алкоголь на местах, без доставления в медорганизации
   В Туапсе у горевшего НПЗ начали обустраивать дренажную систему для предотвращения новых разливов нефтепродуктов
   Изучение духовно-нравственной культуры в школах начнется с января 2027 года
   До плюс 20 градусов прогнозируется в Москве на первые майские праздники
   В Москве ученица 4-го класса ранила учителя ножом
   Минэкономразвития задумалось об особом режиме регулирования восхождений на Эльбрус
   В Туапсинском районе ограничили использование сырой воды в связи с объявлением режима ЧС регионального уровня
 Полная лента новостей >> 		    

Новости технологий

OpenAI объяснила, откуда в ChatGPT взялись «гоблины»

Четверг 30 апреля 2026, 16:55     Версия документа для печати на принтер 

     Проблема с «гоблинами» — странная привычка использовать метафоры с мифическими существами — проявилась во всей линейке моделей OpenAI на базе GPT-5 из-за их преемственности и ошибок в обучении. Об этом компания рассказала на своем сайте.
     
      В статье OpenAI под названием Where the goblins came from («Откуда взялись гоблины») речь идет о системной проблеме, затронувшей целое поколение моделей, начиная с GPT-5.1 и заканчивая актуальной на апрель 2026 года GPT-5.5.
     
      Кроме гоблинов модели упоминали гремлинов и других фэнтезийных созданий: троллей, огров, а также животных — енотов и голубей.
     
      «В отличие от ошибок в моделях, которые проявляются в виде резкого снижения оценки или скачка показателей обучения и указывают на конкретное изменение, эта ошибка возникала незаметно. Один-единственный «маленький гоблин» в ответе мог быть безобидным, даже очаровательным. Однако с течением времени, по мере развития моделей, эту привычку стало трудно не заметить: гоблины продолжали размножаться, и нам нужно было выяснить, откуда они берутся», — рассказали в OpenAI.
     
      Одним из первых примеров стало поведение OpenAI Codex — специализированной модели, понимающей и генерирующей программный код как автономный агент по разработке ПО. Она способна писать код, исправлять ошибки, создавать pull-запросы и интегрироваться в среды разработки. В феврале 2026 года OpenAI выпустила GPT-5.3-Codex, которая официально объединила архитектуру Codex с основной веткой GPT-5.
     
      Поведение модели формируется множеством «небольших стимулов», одним из таких стало обучение модели под несколько разных личностей. О «гоблинах» чаще других говорила личность, условно называемая «ботаником» или «занудой».
     
      В компании пояснили, что в процессе обучения эту личность неосознанно чересчур поощряли за употребление метафор с мифическими существами. «Оттуда гоблины распространились», — констатировали в OpenAI.
     
      Впервые компания четко заметила закономерность в ноябре, после запуска GPT-5.1, хотя она могла начать проявляться и раньше, отметили в корпорации. Тогда от пользователей начали поступать жалобы, что модель ведет себя слишком фамильярно. Разработчик, ответственный за безопасность, заметил несколько ответов модели с «гоблинами» и «гремлинами» и попросил включить их в проверку. Анализ показал, что использование слова «гоблин» в ChatGPT выросло на 175% после запуска GPT-5.1, а слова «гремлин» — на 52%.
     
      Тогда проблема не была столь масштабной, но с выпуском новых версий модели жалоб стало больше. OpenAI снова провела проверку и заметила рост употребления подобных метафор у всех личностей ChatGPT, особенно у «зануды» — на 3881,4% в GPT-5.4 по сравнению с GPT-5.2. Общаясь с GPT-5.5, один из ведущих специалистов получил от нейросети рисунок гоблина с рогом в ответ на просьбу нарисовать единорога.
     
      На другие личности поведение «зануды» распространилось из-за переноса паттернов: на них они перешли из тренинга, направленного на формирование «зануды».
     
      В марте, после запуска GPT-5.4, в OpenAI отказались от «зануды» как типа личности ChatGPT. Поощрения, исключающие склонность модели обращаться к метафорам с мифическими существами, были исключены, а обучающие данные соответствующим образом отфильтрованы.
     
      Все это снизило вероятность «чрезмерного появления гоблинов или их появления в неподходящих контекстах», но GPT-5.5 начали обучать до того, как была установлена первопричина проблемы.
     
      «Когда мы начали тестирование GPT-5.5 в Codex, сотрудники OpenAI сразу же заметили странную привязанность к гоблинам, и мы добавили инструкцию для разработчиков, как смягчить последствия [проблемы‘», — заключили в корпорации. (rbc.ru)


Технологии
   В США сенаторы заинтересовались связями сотрудников ИИ-компаний с Китаем
   Apple выпустит iPhone Ultra и MacBook Ultra — самые дорогие устройства бренда
   В Москве начали выпуск устройств для умного управления дорожным движением
   Глава НАСА призвал «перестать пытаться угодить всем подряд» и преобразовать космическую программу США
   Производители смартфонов начнут ухудшать камеры ради экономии
   Смартфоны Samsung призвали экстренно обновить
   Ракета Atlas 5 вывела на орбиту новую группу спутников компании Amazon
   Грузовой корабль "Прогресс МС-34" прибыл на МКС
 Все технологии >>


  


   В США сенаторы заинтересовались связями сотрудников ИИ-компаний с Китаем
      Apple выпустит iPhone Ultra и MacBook Ultra — самые дорогие устройства бренда
   В Москве начали выпуск устройств для умного управления дорожным движением
      Глава НАСА призвал «перестать пытаться угодить всем подряд» и преобразовать космическую программу США
      Производители смартфонов начнут ухудшать камеры ради экономии
      Смартфоны Samsung призвали экстренно обновить


   Ракета Atlas 5 вывела на орбиту новую группу спутников компании Amazon
   Грузовой корабль "Прогресс МС-34" прибыл на МКС
лента новостей


Экономика
   Владельцы крупнейших НПЗ заключат договоры с Минэнерго и ФАС о стабилизации внутреннего рынка
   ПАО "Объединенная авиастроительная корпорация" получила 9,5 млрд годовой чистой прибыли по МСФО против убытка годом ранее
   Котировки нефти перешли к резкому падению
   Мишустин оценил вложения в Каспийский кластер Дагестана в 22 млрд рублей
   Оценка Пентагоном трат в $25 млрд на операцию против Ирана не включает восстановление баз США
   Международные резервы РФ с 17 по 24 апреля сократились на $7,8 млрд
   Путин заявил, что мост на Сахалин нужно строить, несмотря на цену
   Израиль объяснил отказ принять российское судно с зерном
   Киев попросил суд в Париже отменить компенсацию Татарстану на $104 млн
 Продолжение экономика >>




Технологии
   В США сенаторы заинтересовались связями сотрудников ИИ-компаний с Китаем
   Apple выпустит iPhone Ultra и MacBook Ultra — самые дорогие устройства бренда
   В Москве начали выпуск устройств для умного управления дорожным движением
   Глава НАСА призвал «перестать пытаться угодить всем подряд» и преобразовать космическую программу США
   Производители смартфонов начнут ухудшать камеры ради экономии
   Смартфоны Samsung призвали экстренно обновить
   Ракета Atlas 5 вывела на орбиту новую группу спутников компании Amazon
   Грузовой корабль "Прогресс МС-34" прибыл на МКС
 Продолжение технологии >> 		   
События
   КСИР предостерег США от новых атак на Иран
   Кремль назвал возможные сроки перемирия с Украиной ко Дню Победы
   Думе предложили проверять военных на алкоголь на местах, без доставления в медорганизации
   В Туапсе у горевшего НПЗ начали обустраивать дренажную систему для предотвращения новых разливов нефтепродуктов
   Изучение духовно-нравственной культуры в школах начнется с января 2027 года
   До плюс 20 градусов прогнозируется в Москве на первые майские праздники
   В Москве ученица 4-го класса ранила учителя ножом
   Минэкономразвития задумалось об особом режиме регулирования восхождений на Эльбрус
   В Туапсинском районе ограничили использование сырой воды в связи с объявлением режима ЧС регионального уровня
 Продолжение события >>




Медицина
   Раскрыт возможный диагноз Долиной после срочной госпитализации
   Названы защищающие печень от жировой болезни продукты
   Закон о передвижных аптечных пунктах одобрен Советом Федерации
   Названа неочевидная причина пробуждения в три часа ночи
 Продолжение Медицина >> 		   
Политика
   Мадьяр потребовал прав для венгров Украины
   Путин заявил, что «Страна восходящего солнца» — это Россия
   В ЕС подтвердили готовность защищать Ормузский пролив, но не в условиях войны
   В Евросоюзе назвали беспрецедентным темп роста расходов стран ЕС на оборону
   Песков заявил, что для объявления Россией перемирия 9 мая реакция Киева не нужна
   Медведев высказался о завершении СВО
   Пашинян рассказал о приглашении Зеленского в Армению
   Британия представила план морского альянса против России
   Трамп и Путин поговорили впервые за 51 день. Американский лидер уверен, что сделка по Украине уже близка
 Продолжение политика >>




Спорт
   Заслуженного тренера лишили должности министра спорта российского региона по иску прокуратуры
   Владелец «Кайрата» раскрыл зарплату Аршавина в Казахстане
   Бывший футболист сборной России рассказал о спрятанных экс-женой миллионах рублей
   "Атлетико" и "Арсенал" сыграли вничью в первом полуфинальном матче ЛЧ
   Экс-футболист фразой «деньги грели» объяснил переезд в «холодную» Россию
   Букмекеры оценили шансы команды Малкина продолжить борьбу за Кубок Стэнли
   Российского боксера признали чемпионом мира после скандального боя с турком
   Трехкратный чемпион мира и чемпион Европы предстанут перед российским судом по делу о мошенничестве
   ПСЖ с Сафоновым обыграл "Баварию" в матче ЛЧ с 9 голами
 Продолжение спорт >>


 Курсы ЦБ      
Главное Экономика Бизнес Финансы Политика События Спорт Hi-tech Медицина
  
      Замечания присылайте на webmaster@inline.ru или заполните  форму обратной связи
 Настоящий ресурс может содержать материалы 18+.
 Размещение рекламы: -  reklama@inline.ru
 Все права защищены © 1998 - 2024