OpenAI: «галлюцинации» нейросетей связаны с системой оценки, а не с ошибками

OpenAI: «галлюцинации» нейросетей связаны с системой оценки, а не с ошибками

OpenAI выпустила исследование, объясняющее, почему большие языковые модели (LLM) продолжают выдавать уверенные, но ложные ответы. Основная причина кроется в системе оценки: ответы «я не знаю» засчитываются как ошибка, поэтому моделям выгоднее угадывать. Авторы работы предлагают изменить метрики так, чтобы частичный зачёт начислялся за честные ответы с признанием неопределённости. Это позволит поощрять модели за аккуратность и снижение числа неверных утверждений.
Читать далее...
16:50, 08.09.2025
 
Рубрика: «Наука и Технологии»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

В России пошло в серию железо для нейросетей с инновационной системой охлажденияВ России пошло в серию «железо» для нейросетей с инновационной системой охлаждения Холдинг «Росэл» (входит в госкорпорацию «Ростех») запустил промышленное производство высокопроизводительных вычислительных комплексов с жидкостным охлаждением. По словам разработчиков, это оборудование сделано по оригинальной архитектуре и предназначено для обучения мощных нейронных сетей. Новое реш ...

Эксперты рассказали, что такое ИИ-галлюцинацииЭксперты рассказали, что такое ИИ-галлюцинации Специалисты ВТБ назвали ключевые способы борьбы с галлюцинациями нейросетей — генерацией текста, который выглядит правдоподобно, но содержит вымышленные факты, неточные данные или ссылки на несуществующие источники. Подобные ошибки способны не только создать для пользователя серьезные затруднения пр ...

Сооснователя рок-группы Смысловые галлюцинации отправили в колониюСооснователя рок-группы «Смысловые галлюцинации» отправили в колонию Владимира Бурдина признали виновным в нападении на человека: прошлой осенью он несколько раз ударил знакомого ножом во время застолья. Сначала музыкант признал вину, но во время последнего слова заявил, что оговорил себя, чтобы выгородить друзей. ...

Признаки бешенства у человека: галлюцинации, головная боль, лихорадкаПризнаки бешенства у человека: галлюцинации, головная боль, лихорадка Врач Кэтрин Рассел перечислила симптомы бешенства у человека, заразившегося им от животного, после случая с жительницей Йоркшира. Женщина, отдыхавшая в Марокко, подхватила бешенство и скончалась. ...

Сооснователя группы Смысловые галлюцинации отправили в колонию на три годаСооснователя группы «Смысловые галлюцинации» отправили в колонию на три года Верх-Исетский районный суд Екатеринбурга признал музыканта Владимира Бурдина, одного из основателей рок-группы «Смысловые галлюцинации», виновным в умышленном причинении тяжкого вреда здоровью и назначил ему наказание в виде трех лет лишения свободы в колонии общего режима, об этом сообщ ...

Сооснователю группы Смысловые галлюцинации не удалось обжаловать приговор судаСооснователю группы «Смысловые галлюцинации» не удалось обжаловать приговор суда Свердловский областной суд оставил без изменения приговор поэту и экс-музыканту Владимиру Бурдину, ранее осуждённому на три года колонии. Об этом сообщает объединённая пресс-служба судов региона. ...

Обзор Samsung Galaxy Z Fold 7: тонкая работа над ошибкамиОбзор Samsung Galaxy Z Fold 7: тонкая работа над ошибками Samsung представила новую линейку «раскладушек», включая фанатский Galaxy Z Flip 7 FE. О нем мы уже рассказывали в недавнем обзоре. Теперь пришло время узнать, какие изменения внесли в самую желанную модель — Galaxy Z Fold 7. Делимся впечатлениями от самого тонкого (ну, почти) смартфона с гибким экр ...

WP: Трамп недоволен ошибками Белого дома по делу ЭпштейнаWP: Трамп недоволен ошибками Белого дома по делу Эпштейна Американский лидер огорчен ошибками, а также отсутствием стратегии у властей, которые ожидали, что инфоповод с делом Эпштейна быстро угаснет. ...

Зеленский заявил, что Трамп в Вашингтоне показал ему карту с ошибкамиЗеленский заявил, что Трамп в Вашингтоне показал ему карту с ошибками Карта конфликта России с Украиной, находившаяся в Овальном кабинете во время встречи президентов США и Украины Дональда Трампа и Владимира Зеленского 18 августа, содержала неточности. ...

Плохой сезон: Абхазии рекомендовали заняться своими ошибками в туризме«Плохой сезон»: Абхазии рекомендовали заняться своими ошибками в туризме У Абхазии «громадные проблемы» с постановкой диагнозов, заявил автор телеграм-канала «Гуарапский писарь», комментируя ситуацию с туризмом в республике. ...

Главный тренер Локомотива Янюшкин: провели работу над ошибками и очень хотели выигратьГлавный тренер «Локомотива» Янюшкин: провели работу над ошибками и очень хотели выиграть Главный тренер пензенского «Локомотива» Александр Янюшкин поделился эмоциями после выхода команды в финал Кубка России – 2025. ...

В России строят ИИ для анализа данных с БПЛА, чтобы исключить аварии, вызванные человеческими ошибкамиВ России строят ИИ для анализа данных с БПЛА, чтобы исключить аварии, вызванные человеческими ошибками Россети создают ИИ, который будет отслеживать информацию с дронов, проверяющих воздушные линии электропередач. Разработка ведется для исключения риска роста аварийных ситуаций, связанных с человеческим фактором. ...

OpenAI открестилась от токенов OpenAI, запущенных RobinhoodOpenAI открестилась от «токенов OpenAI», запущенных Robinhood Американская компания OpenAI, известная как создатель ИИ-чат-бота ChatGPT, предупредила пользователей из Европы, что не имеет никакого отношения к «токенам OpenAI», которые предлагает онлайн-брокер Robinhood, сообщил ресурс CNBC со ссылкой на заявление OpenAI на платформе X. ...

Лени Йоро: МЮ хорошо играл с Арсеналом и Фулхэмом, немного не повезло. Надо разобраться только с маленькими ошибками  и тогда будем побеждатьЛени Йоро: «МЮ» хорошо играл с «Арсеналом» и «Фулхэмом», немного не повезло. Надо разобраться только с маленькими ошибками – и тогда будем побеждать» Манкунианцы проиграли «Арсеналу» (0:1) и сыграли вничью с «Фулхэмом» (1:1) в АПЛ, а также вылетели из Кубка английской лиги от «Гримсби Таун» по пенальти. ...

Сезонность и продолжительность дня связаны с депрессией и ожирениемСезонность и продолжительность дня связаны с депрессией и ожирением Ученые пришли к такому выводу после двухлетнего исследования со студентами и школьниками. Специалисты из Уральского федерального университета совместно с коллегами из Института физиологии Коми научного центра УрО РАН, Вятского и Сыктывкарского государственных и Тюменского медицинского университетов ...

К тарологу или все же к астрологу: как связаны эти практики и в чем отличиеК тарологу или все же к астрологу: как связаны эти практики и в чем отличие Разобраться в прошлом, прояснить настоящее или узнать будущее — к мистическим практикам обращаются с самыми сложными запросами. Когда наука бессильна, а советы психолога слишком расплывчаты, на ум приходят расклады, гороскопы и натальные карты. Таролог и астролог всегда знают ответы, но в каки ...

7 важных книг о том, как связаны психика и тело7 важных книг о том, как связаны психика и тело От руководства по развитию телесного интеллекта до научного взгляда на психосоматику. От принятия своего тела до глубокого понимания заботы о себе. ...

Сладкие напитки никак не связаны со старческим слабоумиемСладкие напитки никак не связаны со старческим слабоумием Потребление сладких напитков во взрослом возрасте не связано с повышенным риском развития деменции в старости. К такому выводу пришли авторы исследования, проведенного под руководством Медицинской школы Чжэцзянского университета в... ...

Офтальмолог объяснила, как связаны головная боль и зрениеОфтальмолог объяснила, как связаны головная боль и зрение Врач-офтальмолог ЦГБ № 24 Дарья Шмелева объяснила, какая связь существует между здоровьем глаз и мозга. «Первое: это правило 20-20-20. То есть каждые 20 минут вы должны отстраняться от экрана компьютера, смотреть на расстояние 20 метров в течение 20 секунд. ...

Как диеты с ограничением калорий связаны с тревогой и подавленностьюКак диеты с ограничением калорий связаны с тревогой и подавленностью Новое крупномасштабное исследование поставило под сомнение безопасность популярных диет с ограничением калорий и питательных веществ. Учёные обнаружили: соблюдение жёстких диет напрямую связано с повышением уровня депрессивных симптомов — особенно у мужчин и людей с избыточной массой тела. Работа оп ...

Как связаны авитаминоз и рак желудка, рассказал доктор СветКак связаны авитаминоз и рак желудка, рассказал доктор Свет Оба заболевания имеют общие симптомы, которые сбивают с толку врачей. Рак желудка эффективно лечится только на первых стадиях, но как раз тогда он практически не проявляется. Единственные его симптомы очень похожи на дефицит витаминов. Как же распознать болезнь, ответил известный врач. На очередном ...

Учёные выяснили, что любимые ТВ-программы собак связаны с их темпераментомУчёные выяснили, что любимые ТВ-программы собак связаны с их темпераментом Некоторые собаки действительно смотрят телевизор. В ходе нового исследования специалисты решили узнать, что питомцы из этого извлекают и с чем это может быть связано. Собаки в целом видят мир не так, как люди. У них дихроматическое цветовое зрение, то есть в их глазах только два типа цветочувствител ...

Самые выгодные новые кредитные сделки в Европе связаны с ВПКСамые выгодные новые кредитные сделки в Европе связаны с ВПК Самые выгодные новые кредитные сделки в Европе связаны с обороной, сообщает 9 августа агентство Bloomberg.Пока лидеры НАТО в конце июня собирались в Гааге, чтобы согласовать план радикального увеличения военных расходов, банкиры в Лондоне были заняты подсчетом заказов инвесторов на облигации, предла ...

WP узнала, как связаны отказ Украины отступить из Донбасса и ОдессаWP узнала, как связаны отказ Украины отступить из Донбасса и Одесса Украина в ответ на требование России покинуть подконтрольные ей территории в Донбассе отказалась, отмечал Reuters. Киев опасается новых атак на другие регионы, потому принял такое решение, пояснил источник WP ...

ARD: подозреваемые в подрывах Северных потоков связаны с силовиками УкраиныARD: подозреваемые в подрывах "Северных потоков" связаны с силовиками Украины По информации телеканала, расследование подтверждает подозрения о поддержке Киевом группы диверсантов ...

Кнайсль: многие проблемы ЕС вызваны внутренними причинами и не связаны с США и РФКнайсль: многие проблемы ЕС вызваны внутренними причинами и не связаны с США и РФ Основные проблемы Европейского союза вызваны его внутренней политикой, а не действиями США или России. Об этом 7 августа заявила бывший министр иностранных дел Австрии, руководитель центра G. O. R. K. l. СПбГУ Карин Кнайсль. Комментируя введение Вашингтоном пошлин на европейские товары, она отметила ...

Картаполов: сообщения о воинском учете на Госуслугах не связаны с мобилизациейКартаполов: сообщения о воинском учете на «Госуслугах» не связаны с мобилизацией Глава комитета Госдумы по обороне Андрей Картаполов заявил РБК, что уведомления на «Госуслугах» о внесении сведений в реестр воинского учета связаны с наполнением баз данных. По его словам, сообщения, которые получают находящиеся в запасе или не состоящие на воинском учете, «не грозят» мобилизацией ...

Перебои со связью в Северной Осетии связаны с беспилотной опасностьюПеребои со связью в Северной Осетии связаны с беспилотной опасностью Перебои с работой мобильной связи и интернете, наблюдающиеся в последнее время в Северной Осетии, связаны с периодическими объявлением в республике беспилотной опасности. ...

Песков: Отношения России с США не связаны с американскими ударами по ИрануПесков: Отношения России с США не связаны с американскими ударами по Ирану Российско-американские отношения не связаны с ударами США по Ирану. Об этом сегодня, 23 июня, заявил пресс-секретарь президента РФ Дмитрий Песков. ...

Отключения интернета в регионах оправданны, они связаны с безопасностью  ПесковОтключения интернета в регионах оправданны, они связаны с безопасностью — Песков Отключения мобильного интернета в регионах России, в том числе находящихся вдалеке от линии боевого соприкосновения, оправданны, так как связаны с обеспечением безопасности. Об этом на брифинге заявил пресс-секретарь президента России Дмитрий Песков. Журналисты обратили внимание на ...

Скифы и мы: как древние кочевники связаны с жителями Европы и РоссииСкифы и мы: как древние кочевники связаны с жителями Европы и России Кем были скифы — легендарные кочевники, державшие под контролем евразийские степи тысячи лет назад? Ответ на этот вопрос далось найти благодаря первому масштабному геномному исследованию, охватившему население Великой Скифии и соседние регионы. Работа, проведённая российскими учёными под руководство ...

Путин на саммите ШОС: все первопричины украинского конфликта связаны с ЗападомПутин на саммите ШОС: все первопричины украинского конфликта связаны с Западом Достигнутое на встрече президентов России и США взаимопонимание открывает путь к миру на Украине ...

Как связаны остеохондроз, головная боль и инсульт, рассказала невропатологКак связаны остеохондроз, головная боль и инсульт, рассказала невропатолог Сидячая работа может привести к инсульту. После рабочего дня невозможно повернуть голову из-за боли. И непонятно что болит — голова или шея. Этот опасный симптом должен насторожить каждого. При головной боли первое, что делает каждый, — это принимает обезболивающее. А когда боль уходит, ...

Скорость и смерть: 10 лучших фильмов о гонках и как они связаны между собойСкорость и смерть: 10 лучших фильмов о гонках и как они связаны между собой Самая долгожданная спортивная драма лета — это фильм Джозефа Косински «Формула-1» с Брэдом Питтом и Хавьером Бардемом. Лента, в которую вложена вся мощь современных съемочных технологий, снималась с непосредственным и активным участием самой гоночной серии, поэтому получилась максимально реалистично ...

Вэнс заявил, что обыски у Болтона не связаны с его критикой Дональда ТрампаВэнс заявил, что обыски у Болтона не связаны с его критикой Дональда Трампа Администрация Дональда Трампа не преследует своих политических противников, заявил вице-президент США Джей Ди Вэнс, 22 августа передает NBC News.Отвечая на вопрос об обысках у бывшего советника Дональда Трампа по национальной безопасности Джона Болтона, Вэнс заявил, что это не связано с его постоянн ...

Премия меньше, оклад больше: с чем связаны сокращения стимулирующих выплатПремия меньше, оклад больше: с чем связаны сокращения стимулирующих выплат Работодатели в России стали выплачивать гражданам большие оклады при сокращенных премиях. О причинах такого решения рассказала кандидат экономических наук, доцент Базовой кафедры Торгово-промышленной палаты РФ «Управление человеческими ресурсами» РЭУ им. Г. В. Плеханова Людмила Иванова-Ш ...

Новое исследование: мозг и кишечник связаны мгновенным каналом связиНовое исследование: мозг и кишечник связаны мгновенным каналом связи Научное сообщество на пороге нового понимания взаимодействия между мозгом и телом. Исследователи из Университета Дьюка сделали революционное открытие: существует прямой, мгновенный канал связи между кишечником и мозгом, в котором ключевую роль играют бактерии и сенсорные клетки — нейроподы. Этот мех ...

Экономист Татьяна Мироненко рассказала, как связаны ключевая ставка и инфляцияЭкономист Татьяна Мироненко рассказала, как связаны ключевая ставка и инфляция Высокая ставка - это вынужденная мера, говорят специалисты. Она позволяет бороться с ростом цен. О том, как связаны ключевая ставка и инфляция, жителям 63-го региона рассказала Татьяна Мироненко, главный экономист экономического отдела самарского отделения Волго-Вятского ГУ Банка России. Подробнее с ...

Проблема в стрессе: частые походы в туалет не всегда связаны с инфекциямиПроблема в стрессе: частые походы в туалет не всегда связаны с инфекциями Доктор Антонио Валенсуэла назвал необычную причину частых позывов к мочеиспусканию, пишет издание 20minutos. Симптом не всегда указывает на проблемы с мочевым пузырем. ...

Дмитриев: попытки негативно описать саммит ШОС связаны со страхом ЗападаДмитриев: попытки негативно описать саммит ШОС связаны со страхом Запада Спецпредставитель президента и глава РФПИ Кирилл Дмитриев сказал, что попытки охарактеризовать саммит Шанхайской организации сотрудничества (ШОС) негативно связаны со страхом западных стран. По его словам, они испытывают экономические проблемы, пока страны ШОС развивают экономики и движутся к уважит ...

Использование нейросетей может угрожать бизнесуИспользование нейросетей может угрожать бизнесу Нейросети постепенно становятся привычным инструментом бизнеса. Они помогают быстрее обрабатывать данные, упрощают работу с клиентами и берут на себя часть рутинных задач, но вместе с пользой появляются и новые угрозы, которые нельзя оставлять без внимания. В статье рассмотрим, какие риски связаны с ...

Российские ученые ускорили обучение нейросетейРоссийские ученые ускорили обучение нейросетей В пресс-службе Высшей школы экономики сообщили, что специалисты вуза разработали подход, который повышает эффективность обучения генеративных потоковых нейросетей. Эти алгоритмы машинного обучения создают сложные объекты поэтапно и применяются для решения неструктурированных задач, таких как поиск н ...

URA.RU выяснило, как могут быть связаны осужденные генерал Галимуллин и полковник УбогийURA.RU выяснило, как могут быть связаны осужденные генерал Галимуллин и полковник Убогий Полковник в запасе Юрий Убогий, осужденный за растрату и служебный подлог вместе с генерал-майором Анваром Галимуллиным, служившим в Центральноафриканской республике, ранее мог занимать должность в департаменте Минобороны, который занимался финансовым обеспечением загранучреждений ведомства, в частн ...

Проблемы с SSD после установки обновлений Windows 11 связаны с инженерными версиями прошивокПроблемы с SSD после установки обновлений Windows 11 связаны с инженерными версиями прошивок Хорошая новость — все розничные версии накопителей выпускаются с проверенными и стабильными прошивками, так что массовых проблем ждать не стоит. The post Проблемы с SSD после установки обновлений Windows 11 связаны с инженерными версиями прошивок first appeared on itndaily.ru. ...

Захарова: меры Баку против Sputnik Азербайджан не связаны с работой агентстваЗахарова: меры Баку против «Sputnik Азербайджан» не связаны с работой агентства Меры Баку в отношении информационного агентства «Sputnik Азербайджан» сейчас продиктованы не претензиями к их работе. Об этом в эфире радио Sputnik заявила официальный представитель МИД РФ Мария Захарова. Дипломат указала на то, что ранее Баку никогда не предъявлял претензий к информационному агентс ...

Судьбы человечества тесно связаны: Си Цзиньпин раскрыл принципы международной безопасности«Судьбы человечества тесно связаны»: Си Цзиньпин раскрыл принципы международной безопасности Перед началом парада, посвящённого 80-летию победы в войне сопротивления китайского народа японским захватчикам и в Мировой антифашистской войне, председатель КНР Си Цзиньпин сделал заявление о будущем международных отношений. ...

КМЗ оснастил патрульный катер системой РЭБКМЗ оснастил патрульный катер системой РЭБ Военно-промышленный холдинг "Кингисеппский машиностроительный завод" (КМЗ) создал новую модификацию 12-метрового патрульного катера ПК-1200 со встроенной системой радиоэлектронной борьбы (РЭБ). Об этом в интервью РИА Новости сообщил управляющий директор холдинга Михаил Даниленко. ...

Компании США начали возвращаться к очным собеседованиям из-за нейросетейКомпании США начали возвращаться к очным собеседованиям из-за нейросетей Крупные американские компании начали возвращать практику очных собеседований вместо удаленных из-за недобросовестного использования нейросетей многими соискателями, сообщила 12 августа газета The Wall Street Journal.Удаленные собеседования стали в США весьма популярными, так как это упрощает процесс ...

Российские ученые придумали, как ускорить обучение нейросетейРоссийские ученые придумали, как ускорить обучение нейросетей Исследователи из России представили инновационный алгоритм, который оптимизирует обмен данными в распределенных системах ИИ, делая процесс обучения быстрее и экономичнее для бизнеса и науки. ...

Рецепт апокалипсиса: эксперты  о реальных возможностях нейросетейРецепт апокалипсиса: эксперты — о реальных возможностях нейросетей Уже несколько месяцев пользователи соцсетей делятся ответами чат-ботов на вопрос «Если бы ты был дьяволом, как бы ты уничтожил человечество?». Нейросети представили план по истреблению землян. Хотя он и гипотетический, но искусственный интеллект очень подробно расписал «рецепт апокалипсиса». RT обсу ...

В Югре мэр заговорил на нескольких языках с помощью нейросетейВ Югре мэр заговорил на нескольких языках с помощью нейросетей Так мэр Белоярского района Сергей Маненков поздравил жителей с Днем искусственного интеллекта... ...

Революционное продвижение: как бизнесу попасть в ответы нейросетейРеволюционное продвижение: как бизнесу попасть в ответы нейросетей Когда-то мы узнавали информацию из газет, потом начали пользоваться поисковиками, сейчас все чаще спрашиваем у нейросетей. По данным Statista, в 2024 году около 15 млн взрослых в США уже выбрали генеративный ИИ как основной инструмент онлайн-поиска. К 2028 году это число более чем удвоиться и превыс ...

Тонар заявил о внедрении нейросетей в процесс термообработки«Тонар» заявил о внедрении нейросетей в процесс термообработки Компания «Тонар» объявила о внедрении нейросетей в производственный процесс. Теперь искусственный интеллект... ...

Создан тест, проверяющий научное мышление нейросетейСоздан тест, проверяющий «научное мышление» нейросетей Ученые из Йельского университета, Нью-Йоркского университета и Института искусственного интеллекта Аллена создали SciArena — открытую платформу для сравнения LLM на основе предпочтений реальных ученых. ...

Аудитория нейросетей в сервисах Mail выросла до 8 млн пользователейАудитория нейросетей в сервисах Mail выросла до 8 млн пользователей Mail (входит в VK) объявила о результате масштабного обновления своих ИИ-решений: теперь их нейросетями пользуются восемь миллионов человек. По словам Дмитрия Меркушова, руководителя направления машинного обучения Почты Mail, качество пересказа объёмных писем, где содержатся сразу несколько смысловы ...

Ученые ВШЭ оптимизировали обучение генеративных потоковых нейросетейУченые ВШЭ оптимизировали обучение генеративных потоковых нейросетей Исследователи факультета компьютерных наук НИУ ВШЭ улучшили метод обучения генеративных потоковых нейросетей... ...

Новые штрафы для водителей объяснили совершенствованием нейросетейНовые штрафы для водителей объяснили совершенствованием нейросетей Сотрудники ДПС крайне редко штрафовали водителей за движение по левой полосе при свободных средней и правой, поскольку это нарушение достаточно трудно доказать, сказал НСН Ян Хайцеэр. ...

Рейтинг популярных нейросетей в России в 2025 годуРейтинг популярных нейросетей в России в 2025 году В 2025 году нейросети в России продолжают активно развиваться и находить применение во многих сферах — от бизнеса до творчества. Сервисы на основе нейросетевых моделей помогают писать и переводить тексты, создавать картинки и даже анализировать большие данные. В статье собраны самые популярные нейро ...

Главные риски в мире связаны с попытками Запада сохранить доминирующие позиции  ОрешкинГлавные риски в мире связаны с попытками Запада сохранить доминирующие позиции — Орешкин Главные риски в мире сегодня связаны с попытками западных стран сохранить свои доминирующие позиции. Об этом заявил в интервью РБК ТВ на полях Петербургского международного экономического форума заместитель руководителя администрации президента РФ Максим Орешкин. «Проблема в том, что ...

Переработанное мясо, трансжиры, сладкие напитки оказались связаны с серьёзными проблемами со здоровьемПереработанное мясо, трансжиры, сладкие напитки оказались связаны с серьёзными проблемами со здоровьем В новой статье, опубликованной в научном журнале Nature Medicine, отмечается, что даже меньше одной полоски бекона или банки газировки в день может быть связано с более высоким риском возникновения опасных заболеваний. Это рак толстой кишки, диабет 2 типа или ишемическая болезнь сердца. В рамках нов ...

ECHOMSK.SPB.RU Поиск в новостях