Учёные обнаружили, что популярные языковые модели обманывают более чем в половине случаев

Учёные обнаружили, что популярные языковые модели обманывают более чем в половине случаев

Исследование, опубликованное в материалах конференции NAACL 2025, вскрыло тревожную тенденцию: большие языковые модели (LLM) лгут более чем в половине случаев, когда их цель конфликтует с необходимостью говорить правду. Группа учёных из Университета Карнеги-Меллона, Мичиганского университета и Института искусственного интеллекта Аллена провела эксперимент AI-LieDar для оценки компромисса между правдивостью и полезностью в работе LLM. В исследовании рассматривались шесть моделей: GPT-3.5-turbo, GPT-4o, Mixtral-7*8B, Mixtral-7*22B, LLaMA-3-8B и LLaMA-3-70B. Эксперимент показал, что все прот
Читать далее...
18:20, 03.05.2025
 
Рубрика: «Наука и Технологии»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Локальные языковые модели. Генерируем текст на своем компьютереЛокальные языковые модели. Генерируем текст на своем компьютере Для подписчиковКогда слышишь про генерацию, первыми в голову приходят картинки — от сюрреалистичных шедевров до аниме‑клубнички. Но генерировать можно не только пиксели, но и слова. Сегодня мы разберемся, как запустить языковую модель локально, на собственном железе, какую из них выбрать — и для чег ...

Киберпреступники начали использовать языковые модели для обхода систем защитыКиберпреступники начали использовать языковые модели для обхода систем защиты Хакерская группировка Silent Werewolf (также известная как XDSpy), более 14 лет атакующая организации в странах СНГ, стала применять большие языковые модели (LLM) не только для разработки вредоносного ПО, но и для обхода защитных систем компаний. С начала 2025 года зафиксированы десятки случаев испо ...

Малые языковые модели: почему размер больше не имеет значенияМалые языковые модели: почему размер больше не имеет значения Пока гиганты вроде OpenAI тратят миллиарды на создание все более мощных ИИ, умные стартапы делают ставку на компактные решения — и часто выигрывают. ...

Революция в AI: компактные языковые модели завоёвывают рынок и доверие компанийРеволюция в AI: компактные языковые модели завоёвывают рынок и доверие компаний В последние годы мы наблюдаем настоящую революцию в сфере искусственного интеллекта, во многом благодаря крупным языковым моделям (LLMs). Эти нейросети с миллиардами параметров демонстрируют впечатляющие возможности — от генерации креативных текстов до перевода языков. Однако столь масштабные модели ...

Большие языковые модели испытывают трудности с координацией в социальных и кооперативных играхБольшие языковые модели испытывают трудности с координацией в социальных и кооперативных играх Большие языковые модели (LLM), такие как модель, лежащая в основе функционирования популярной диалоговой платформы ChatGPT, в настоящее время широко используются людьми по всему миру для получения информации, а также для обобщения, анализа и создания текстов. Исследования, изучающие ответы, предоста ...

Зачем стране свои большие языковые модели и как устроены отечественные конкуренты ChatGPTЗачем стране свои большие языковые модели и как устроены отечественные конкуренты ChatGPT В июне 2025 года председатель правительства России Михаил Мишустин провел в Сарове совещание по вопросам высокопроизводительных вычислений, искусственного интеллекта (ИИ) и обработки больших данных. ...

Эксперты группы ЛАНИТ: Большие языковые модели не просто автоматизируют существующие процессы, а создают новые возможности для бизнесаЭксперты группы ЛАНИТ: «Большие языковые модели не просто автоматизируют существующие процессы, а создают новые возможности для бизнеса» В числе проектов группы ЛАНИТ — интеллектуальная система «ИИ-аналитик», которая помогает ускорять отдельные фазы цикла разработки ПО в 5-10 раз; ИИ-система, позволяющая формировать документы по шаблонам или на основе схожих материалов; собственная LLM – Norbit GPT. Об этом рассказывают эксперты комп ...

Ученые обнаружили более 20 астероидов рядом с Венерой  это колоссальная угроза для Земли!Ученые обнаружили более 20 астероидов рядом с Венерой — это колоссальная угроза для Земли! Астрономы обнаружили более 20 астероидов вблизи Венеры, которые могут столкнуться с Землей. Эти космические тела ранее оставались невидимыми для телескопов из-за солнечного света. ...

В половине заменителей онлайн-приложений обнаружили уязвимостиВ половине заменителей онлайн-приложений обнаружили уязвимости Почти половина (46%) российских веб-приложений содержит критические уязвимости, которые могут привести к утечке данных. Это следует из материалов компании «Солар» (входит в «Ростелеком»), «Известия» ознакомились с документами. Эти бреши опасны не только для частных, но и для корпоративных пользовате ...

Популярные модели септиков в СПб: что выбратьПопулярные модели септиков в СПб: что выбрать . Автономная канализация — ключевой элемент инженерной инфраструктуры загородного участка. На территории Санкт-Петербурга и Ленинградской области большая часть частных домов, дач и бань не подключена к центральной канализации. Это делает выбор септика одной из первоочерёдных задач при строительстве ...

Авторынок в июне: самые популярные моделиАвторынок в июне: самые популярные модели По итогам июня в России продали 90 116 новых легковых автомобилей — это на 27,6% меньше, чем в июне 2024-го, сообщает агентство «Автостат». ...

Названы самые популярные модели на вторичном рынкеНазваны самые популярные модели на вторичном рынке Аналитики изучили предпочтения россиян в выборе автомобилей для онлайн-покупки в первом квартале 2025 года, а также выявили лидеров продаж в разных ценовых сегментах. Согласно данным сервиса СберАвто, 93% всех покупок составляют подержанные автомобили, 7% – новые. Медианная цена на авто с пробегом в ...

На этих кроссоверах ездят в Китае: самые популярные моделиНа этих кроссоверах ездят в Китае: самые популярные модели Эксперты Autohome составили рейтинг самых популярных SUV в Китае. Большинство автомобилей из этого списка можно купить и в России. В апреле в КНР было реализовано 847 тыс. автомобилей сегмента SUV (+16,4% относительно показателей 2024 года). По объемам продаж лидирует кроссовер Geely Xingyue L, изве ...

Перечислены популярные модели, которые чаще всего ввозят по параимпортуПеречислены популярные модели, которые чаще всего ввозят по параимпорту В Россию продолжают поставлять автомобили как мировых, так и ряда китайских брендов по схемам параллельного импорта. Но наметилось существенное сокращение таких поставок. В 2024 году продажи новых легковых автомобилей глобальных марок (за исключением китайских) составили 121 тысячу единиц, что на 25 ...

Прощай, обновления: Samsung и Xiaomi оставляют популярные модели без поддержкиПрощай, обновления: Samsung и Xiaomi оставляют популярные модели без поддержки Смартфоны Samsung и Xiaomi, выпущенные в 2021–2022 годах, вскоре перестанут получать обновления. В списки вошли популярные модели, такие как Galaxy S21 и Redmi Note 11S 5G. Информация подтверждена официальными данными брендов. Читать полную статью ...

Все популярные модели генеративного ИИ оказалось легко взломать по схеме Policy PuppetryВсе популярные модели генеративного ИИ оказалось легко взломать по схеме Policy Puppetry Универсальная техника составления запросов к моделям генеративного искусственного интеллекта Policy Puppetry способна выступать как средство взлома крупнейших и наиболее популярных систем, утверждают эксперты компании HiddenLayer, которая специализируется на вопросах безопасности ИИ. ...

Учёные: в 96% случаев пластиковая упаковка загрязняет продукты питанияУчёные: в 96% случаев пластиковая упаковка загрязняет продукты питания Метаанализ 103 исследований с 600 записями на тему пластика показал, что микро- и нанопластики из пластиковой упаковки еды проникают непосредственно в продукты питания. Это происходит в 96% случаев. Об этом сообщила автор исследования Лиза Циммерманн из Форума упаковки пищевых продуктов в Цюрихе. Ис ...

Toyota запустила Toyotathon: популярные модели RAV4, Corolla, Yaris и другие раздают со скидками и бесплатной установкой зарядных станций в ВеликобриToyota запустила Toyotathon: популярные модели RAV4, Corolla, Yaris и другие раздают со скидками и бесплатной установкой зарядных станций в Великобритании Toyota запустила акцию Toyotathon, предлагая скидки до 1000 фунтов стерлингов на популярные модели, включая Aygo X, Yaris, гибридный Yaris Cross и Corolla. Акция, завоевавшая популярность в США, стартовала в Великобритании 1 мая и продлится до 31 мая 2025 года, с регистрацией автомобилей до 31 июля, ...

В США зарегистрировано более 1000 случаев заражения корьюВ США зарегистрировано более 1000 случаев заражения корью США столкнулись с масштабной вспышкой Кори. Число случаев заболевания перевалило за 1000, при этом на данный момент активные очаги инфекции зарегистрированы в 11 штатах. ...

Количество случаев дезертирства на Украине в июне выросло более чем на 17%Количество случаев дезертирства на Украине в июне выросло более чем на 17% Количество зафиксированных случаев дезертирства на Украине в июне составило 2 111, что на 17,7% больше, чем в мае, когда было зафиксировано 1 794 таких инцидента. Об этом свидетельствуют подсчеты ТАСС на основании данных Государственного бюро расследований Украины. Обвинения предъявлены ...

В Омской области выявили более 100 случаев фальсификации молочкиВ Омской области выявили более 100 случаев фальсификации «молочки» Роспотребнадзор с 2020 по 2024 год зафиксировал 215 уведомлений о некачественной продукции. ...

В Смоленской области выявили более 120 случаев клещевого боррелиозаВ Смоленской области выявили более 120 случаев клещевого боррелиоза Также у снятых со смолян клещей обнаружили анаплазмоз и эрлихиоз Сообщение В Смоленской области выявили более 120 случаев клещевого боррелиоза появились сначала на Информагентство "О чем говорит Смоленск". ...

Хуже чем наркотики: ученые забраковали популярные среди россиян вкусностиХуже чем наркотики: ученые забраковали популярные среди россиян вкусности Хуже чем наркотики: ученые забраковали популярные среди россиян вкусности Современная наука бьет тревогу: то, что мы привыкли считать повседневными удовольствиями - сладкое, газировка и снеки - стало настоящим оружием массового уничтожения. Исследователи сравнили статистику смертей от употребления н ...

Партнерские продажи через блогеров на платформе PRM Online выросли более чем на треть в первой половине 2025 годаПартнерские продажи через блогеров на платформе PRM Online выросли более чем на треть в первой половине 2025 года Российская облачная платформа PRM Online зафиксировала рост на 34% количества партнерских продаж через инфлюенсеров... ...

Ученые доказали, что рассуждающие ИИ-модели не намного умнее обычныхУченые доказали, что «рассуждающие» ИИ-модели не намного умнее обычных Китайские исследователи выяснили, что обучение по методике RLVR, которая обычно используется для тренировки «рассуждающих» моделей, не наделяет нейросети новыми возможностями, а лишь делает их эффективнее при воспроизведении уже известных решений. ...

Ученые обнаружили 71 новый вид пчелУченые обнаружили 71 новый вид пчел В Австралии ученые из Университета Аделаиды вместе с коллегами из национальной программы Bush Blitz открыли 71 ранее неизвестный науке вид пчел. Издание Australian Journal of Taxonomy информирует, что нахождение новых видов происходило как во время полевых экспедиций, так и при анализе коллекций из ...

Ученые обнаружили сдерживающую супервулкан в США крышкуУченые обнаружили сдерживающую супервулкан в США «крышку» Ученые из Университета Райса (США) обнаружили магматическую «крышку», которая удерживает супервулкан в Йеллоустоуне от извержения. Об этом сообщает ScienceAlert. ...

Ученые обнаружили неизвестный древний вид тираннозавраУченые обнаружили неизвестный древний вид тираннозавра Канадские ученые пришли к выводу, что им удалось найти древних предков гигантских тираннозавроов. ...

Ученые обнаружили новый вид опасных червейУченые обнаружили новый вид опасных червей Международная группа исследователей из Национального музея естественной истории, а также университетов Дрекселя, Северной Каролины, Джеймса Кука и Щецина обнаружила ранее неизвестный вид плоских червей, чье распространение способно представлять потенциальную угрозу… ...

Учёные обнаружили, что потребность во сне зависит от национальностиУчёные обнаружили, что потребность во сне зависит от национальности Не важно, сколько часов вы спите, - главное, чтобы это было нормально для места, где вы живёте. По крайней мере, так говорится в новом исследовании специалистов из Университета Виктории и Университета Британской Колумбии в Канаде. Согласно новым данным, культурные нормы формируют наши потребности во ...

Учёные обнаружили особые РНК, защищающие ВИЧ от иммунитетаУчёные обнаружили особые РНК, защищающие ВИЧ от иммунитета Исследователи ВИЧ обнаружили новый механизм, с помощью которого вирус обходит иммунную систему и использует ресурсы хозяина. Исследование опубликовано в научном журнале npj Viruses. Исследование показало, что ВИЧ, манипулируя инфицированными клетками, производит особые циркулярные, или кольцевые РНК ...

Учёные обнаружили, что энергетики могут вызвать ракУчёные обнаружили, что энергетики могут вызвать рак Эксперты из Рочестерского университета нашли связь между таурином, который входит в состав многих энергетиков, и раком крови. Эта кислота, как выяснилось, способна питать раковые клетки при лейкемии и делать их агрессивнее. Учёные провели ряд экспериментов на мышах с геном SLC6A6. Этот ген отвечает ...

Авито: цены на популярные ноутбуки Honor за год упали более чем на 15%«Авито»: цены на популярные ноутбуки Honor за год упали более чем на 15% Недавно специалисты «Авито» анализировали изменение цен на самые популярные ноутбуки от Apple. Теперь аналитики... ...

В фекалиях королевских пингвинов ученые обнаружили веселящий газВ фекалиях королевских пингвинов ученые обнаружили веселящий газ Специалисты из Дании не ожидали найти в помете птиц закиси азота. Ученые из Университета Копенгагена продолжают проводить захватывающие исследования на территории заснеженной Антарктиде. На этот раз специалисты анализировали жизнь местных королевских пингвинов и были крайне удивлены, когда в фекалия ...

Учёные обнаружили, что приём витамина D не защищает от простудыУчёные обнаружили, что приём витамина D не защищает от простуды Приём витамина D в форме добавок может быть не таким эффективным для профилактики простуды, как считалось ранее. Недавний анализ, опубликованный в The Lancet, показал: приём этих добавок не даёт статистически значимой защиты от развития острых респираторных инфекций. В рамках нового исследования экс ...

Учёные обнаружили, что витамин С пробуждает гены молодостиУчёные обнаружили, что витамин С “пробуждает” гены молодости В ходе нового исследования специалисты из Японии под руководством Акихито Исигами узнали, что витамин С запускает процесс, который возвращает молодость клеткам кожи. Он действует при этом не поверхностно, а на генетическом уровне. Оказывается, витамин С активирует процесс деметилирования ДНК. В резу ...

Российские ученые обнаружили скрытую угрозу для ЭльбрусаРоссийские ученые обнаружили скрытую угрозу для Эльбруса За два века из-за антропогенного воздействия северные склоны Эльбруса лишились богатых лугов с высокой травой и деревьями, превратившихся в скудные «газоны» с эрозией почв, следует из результатов экспедиционных работ ученых. Ученые РУДН в составе крупного научного коллектива, в который входили специ ...

Ученые обнаружили сообщения нечеловеческого разума в океанеУченые обнаружили сообщения нечеловеческого разума в океане Исследователи из Института SETI проанализировали то, как горбатые киты «общаются с людьми и не только». По мнению ученых, для этого млекопитающие выпускают большие кольца из пузырей. ...

Учёные обнаружили, что пение младенцам улучшает их настроениеУчёные обнаружили, что пение младенцам улучшает их настроение Многие родители знают, что младенцы любят, когда им поют. В рамках нового исследования эксперты изучили, помогает ли такое пение улучшить здоровье малышей и тех, кто о них заботится. В новом исследовании участвовали 110 опекунов и их младенцев. Средний возраст детей составлял около 4 месяцев. Больши ...

Ученые обнаружили редкую двойную звездную системуУченые обнаружили редкую двойную звездную систему Астрономы обнаружили, что у нейтронной звезды PSR J1928+1815 есть компаньон — гелиевая звезда, масса которой примерно в 1,5–1,6 раза больше массы Солнца, 22 мая сообщает портал space.com.Открытие было сделано в Китае с помощью сферического радиотелескопа FAST с пятисотметровой апертурой, самого боль ...

Учёные обнаружили, что цинк связан со здоровым старениемУчёные обнаружили, что цинк связан со здоровым старением Цинк - одно из противовоспалительных веществ. Он может замедлить процесс старения. Однако если получать слишком много этого соединения, то эффект будет обратным. Учёные из Китая захотели узнать больше о роли цинка в биологическом старении и о влиянии физических упражнений на старение. Полученные в х ...

Ученые обнаружили, что мумия из Наски была беременнаУченые обнаружили, что мумия из Наски была беременна В ходе исследования мумифицированных тел, найденных в Перу в пустыне Наска, было сделано странное открытие — в одной из мумий ученые нашли трехпалый эмбрион. ...

Ученые обнаружили новый для науки вид рыб на границе Европы и АзииУченые обнаружили новый для науки вид рыб на границе Европы и Азии Ученые описали новый для науки вид пескарей из бассейна реки Урал и потому назвали его Gobio uralensis. ...

Учёные обнаружили, что квашеная капуста защищает кишечник от воспаленияУчёные обнаружили, что квашеная капуста защищает кишечник от воспаления Согласно результатам новой научной работы, квашеная капуста может защищать стенку кишечника от воспаления. Причём в лабораторных условиях этот продукт оказался полезнее рассола квашеной капусты или обычной капусты. Учёные из Калифорнийского университета в Дэвисе решили выяснить, в чём состоит разниц ...

Учёные обнаружили под Амазонкой скрытую от человека подземную рекуУчёные обнаружили под Амазонкой скрытую от человека подземную реку По данным портала monavista. ru, в 2011 году в районе Амазонии ученые сделали открытие — обнаружили огромное подземное водное образование, получившее имя Хамза. ...

Учёные обнаружили, что нарциссы больше склонны к зависимости от соцсетейУчёные обнаружили, что нарциссы больше склонны к зависимости от соцсетей Согласно результатам нового исследования, некоторые признаки нарциссизма связаны с более частым использованием социальных сетей. При этом одержимость соцсетями может тоже указывать на то, насколько человек одержим собой. Нарциссизм может проявляться тремя способами. Это грандиозный нарциссизм, уязви ...

Учёные обнаружили пользу блуждающего разума для решения задачУчёные обнаружили пользу блуждающего разума для решения задач Пока вы моете посуду или едете на работу, ваш ум, скорее всего, не сосредоточен на настоящем моменте. Согласно новой статье, опубликованной в Journal of Neuroscience, это может быть даже полезно при выполнении некоторых задач. Во время выполнения простой задачи, требующей минимального внимания, блуж ...

Российские учёные обнаружили зеркальную симметрию в геноме бактерийРоссийские учёные обнаружили зеркальную симметрию в геноме бактерий В пресс-службе Федерального исследовательского центра «Фундаментальные основы биотехнологии» РАН сообщили, что учёные центра обнаружили новый тип симметрии в геноме кишечной палочки. Неизвестные ранее зеркальные повторы занимают около трети её ДНК и, вероятно, влияют на формирование трёхмерной струк ...

Учёные с помощью ИИ обнаружили, что вирус H5N1 становится опаснееУчёные с помощью ИИ обнаружили, что вирус H5N1 становится опаснее Учёные из Университета Северной Каролины проанализировали, как изменяется вирус птичьего гриппа H5N1, и обнаружили тревожную тенденцию: вирус всё лучше избегает иммунной защиты человека. В этом им помог искусственный интеллект. Исследователи изучили более 1800 белков вируса и с помощью ИИ-системы Al ...

Учёные обнаружили, что в стеклянных бутылках микропластика больше, чем в пластиковыхУчёные обнаружили, что в стеклянных бутылках микропластика больше, чем в пластиковых Микропластик вокруг нас повсюду. Чтобы уменьшить его воздействие, некоторые заменили пластиковые контейнеры для еды на стеклянные. Однако в новой научной работе говорится, что это может сделать даже хуже. Учёные из Франции измерили уровень загрязнения микропластиком в воде, газировке, пиве и вине. Э ...

Ученые обнаружили ключевой компонент в размере и функции тимусаУченые обнаружили ключевой компонент в размере и функции тимуса Ученые из Центра медицинских наук Техасского университета обнаружили механизм в тимусе, который определяет скорость роста и функционального созревания клеток иммунитета, 24 апреля сообщает журнал Nature Aging.Тимус — это полигон для Т-клеток, «белых рыцарей» организма, где они учатся бороться с разл ...

Учёные обнаружили, что кошки распознают запах своего хозяинаУчёные обнаружили, что кошки распознают запах своего хозяина В рамках нового исследования специалисты заметили, что кошки дольше обнюхивают незнакомца, чем своего хозяина. Это позволяет предположить, что они способны распознавать знакомых людей только по запаху. ...

Учёные обнаружили, что по мере взросления мы становимся похожи на своё имяУчёные обнаружили, что по мере взросления мы становимся похожи на своё имя Согласно результатам недавнего исследования, имя действительно может повлиять на то, как мы выглядим. В частности, на наше лицо. Израильские учёные в 2024 году выяснили, действительно ли связаны наше имя и лицо. Для этого они провели серию экспериментов. В рамках одного из них участников попросили с ...

Учёные обнаружили микроб, который питается больничным пластикомУчёные обнаружили микроб, который “питается” больничным пластиком Пластик широко используется в больницах. Недавно оказалось, что некоторые бактерии могут его разрушать. Для проведения нового исследования специалисты изучили геномы известных больничных патогенов (вредных бактерий). Удивительно, но они обнаружили, что некоторые больничные микробы (Pseudomonas aerug ...

Ученые обнаружили невероятную асимметрию температуры в лунном ядреУченые обнаружили невероятную асимметрию температуры в лунном ядре Стало известно об открытии, которое проливает новый свет на внутреннее строение Луны. Анализ данных, собранных космическим аппаратом GRAIL в период его работы на лунной орбите в 2011-2012 годах, показал, что внутренняя часть Луны неоднородна по температуре. В частности, ближняя к Земле сторона Луны ...

Американские учёные обнаружили ядовитые железы у южноамериканских амфибийАмериканские учёные обнаружили ядовитые железы у южноамериканских амфибий Исследование описали в журнале iScience. Кольчатая червяга. Фото: Википедия Американские учёные-зоологи выяснили, что у кольчатых червяг, южноамериканских амфибий, имеются полноценные ядовитые железы. Этот факт говорит лишь об одном – животные с ядовитым укусом появились гораздо раньше, чем до этого ...

Учёные обнаружили вместо пептидов аминокислоты в яйцах титанозавраУчёные обнаружили вместо пептидов аминокислоты в яйцах титанозавра Результаты исследования меняют понимание о древних существах, их питания и причин исчезновения. Коллектив международных учёных (Европа и США) обнаружили вместо пептидов аминокислоты в яйцах титанозавра. Научные опыты над скорлупой, возрастом около 80 млн лет, доказали, что найденные экспонаты стали ...

Ученые Сбербанка научили легковесные модели искусственного интеллекта распознавать эмоции в сложных условияхУченые Сбербанка научили легковесные модели искусственного интеллекта распознавать эмоции в сложных условиях Ученые лаборатории искусственного интеллекта Сбербанка предложили инновационный подход к распознаванию эмоций... ...

Ученые Сбера научили легковесные модели искусственного интеллекта распознавать эмоции в сложных условияхУченые Сбера научили легковесные модели искусственного интеллекта распознавать эмоции в сложных условиях Ученые лаборатории искусственного интеллекта Сбербанка предложили инновационный подход к распознаванию эмоций в реальных условиях. Результаты исследования они представили в работе Leveraging Lightweight Facial Models and Textual Modality in Audio-visual Emotional Understanding ...

Квантовая гравитация стала ближе: учёные встроили гравитационное поле в симметрии Стандартной моделиКвантовая гравитация стала ближе: учёные встроили гравитационное поле в симметрии Стандартной модели Учёные из Университета Аалто совершили значительный прорыв в физике, представив новую квантовую теорию гравитации. Публикация описывает теорию, совместимую со Стандартной моделью физики элементарных частиц. Это приближает научное сообщество к долгожданной унифицированной теории, объединяющей гравита ...

ECHOMSK.SPB.RU Поиск в новостях