Каждый продвинутый ИИ сам научился врать и манипулировать — даже рассуждая «вслух»

Каждый продвинутый ИИ сам научился врать и манипулировать — даже рассуждая «вслух»

Лидеры в области ИИ Anthropic, Google, OpenAI и xAI разработали методику под названием «цепочка мыслей» (chains of thought), которая позволяет пошагово следить за процессом рассуждений моделей ИИ во время генерации ответа на запрос. Кроме ряда ценных идей по дальнейшему совершенствованию нейросетей, эта методика продемонстрировала примеры «неправильного поведения» моделей, когда их окончательный ответ совершенно не соответствует последовательности рассуждений. Это подтверждает, что разработчики до сих пор не знают, как ИИ размышляет над ответом.
Читать далее...
13:30, 24.06.2025
 
Рубрика: «Software»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Ткачак о Бобровском: Наша опора, самая важная часть команды. Он невероятен, дает нам шанс каждый вечер. Нам повезло, что он у нас есть, я многому у нТкачак о Бобровском: «Наша опора, самая важная часть команды. Он невероятен, дает нам шанс каждый вечер. Нам повезло, что он у нас есть, я многому у него научился» «Пантерс» ведут в финальной серии плей-офф-2025 против «Эдмонтона» со счетом 3-2. 6-я игра финала Кубка Стэнли начнется 18 июня в 03:00 по московскому времени. «Без него мы бы не оказались в таком положении. Просто посмотрите на объем работы, которую он проделал с тех пор, как я здесь, в регулярных ...

Каждый четвертый россиянин отказался бы работать с друзьями даже за оплатуКаждый четвертый россиянин отказался бы работать с друзьями даже за оплату Каждый четвертый житель России категорически не готов работать вместе с друзьями, даже если это будет финансово выгодно. Такие данные получили аналитики в исследовании логистического оператора NC Logistic, с которыми ознакомились «Известия» 10 июня.Опрос показал противоречивое отношение к практике « ...

Каждый четвертый россиянин категорически против работы с друзьями  даже за деньгиКаждый четвертый россиянин категорически против работы с друзьями — даже за деньги Согласно исследованию логистического оператора NC Logistic, каждый четвертый житель России категорически отказывается от работы с друзьями, даже при наличии финансовой выгоды. Данные опроса свидетельствуют о неоднозначном отношении сотрудников к реферальным программам. ...

Доверие растет: каждый второй россиянин выберет китайское авто, даже если вернутся европейцыДоверие растет: каждый второй россиянин выберет китайское авто, даже если вернутся «европейцы» Китайские автомобили перестают быть временной заменой. Согласно исследованию Aquarelle Research и LikePR (есть в распоряжении «За рулем»), они воспринимаются как технологичный и выгодный продукт, особенно среди молодежи и жителей мегаполисов. Половина россиян (52%) готова рассматривать китайскую мар ...

Рассуждая о Су-35, американские эксперты узрели упадок российского технологического сектораРассуждая о Су-35, американские «эксперты» узрели «упадок» российского технологического сектора В США назвали российский Су-35 - лучшим в зоне СВО, но уступающим китайским и американским самолётам пятого поколения ...

Мариам Халилова: Я первая, кто произнесла это вслухМариам Халилова: «Я первая, кто произнесла это вслух» Режиссер и автор проекта «Злые языки» откровенно рассказала о том, каково это — говорить всю правду о шоу-бизнесе. ...

Передовые нейросети начали врать и угрожать своим создателямПередовые нейросети начали врать и угрожать своим создателям Последние разработки в области искусственного интеллекта (ИИ) вызывают серьезную озабоченность у экспертов. ...

Горазды врать: У киевского режима каким-то чудом вырос ВВПГоразды врать: У киевского режима каким-то чудом вырос ВВП Заявляя о том, что на Украине растет внутренний валовый продукт, власти откровенно врут. Об этом заявил экс премьер страны Николай Азаров. ...

Самарская старшеклассница стала чемпионом России по чтению вслухСамарская старшеклассница стала чемпионом России по чтению вслух Чемпионат по чтению вслух среди старшеклассников "Страница" (0+) вот уже 10 лет собирает тысячи школьников. Самарские ученики всегда были одними из лучших и показывали хорошие результаты, а последние два годы доходили до суперфинала, однако победа им не доставалась. Анна Витковская, ученица ОЦ "Южны ...

Умеров не звонил Мединскому: Киев продолжает врать  теперь насчет меморандумаУмеров не звонил Мединскому: Киев продолжает врать — теперь насчет меморандума Россия предложила Киеву точную дату и место встречи для обмена меморандумами с перечнем условий по прекращению огня, Украина пока не ответила на предложение. Об этом заявил помощник президента РФ — глава российской переговорной группы по Украине Владимир Мединский. ...

Дефектолог Тихонова: чтение вслух тренирует речевую мускулатуру и мозгДефектолог Тихонова: чтение вслух тренирует речевую мускулатуру и мозг Чтение вслух — это не очередное скучное задание, а мощный инструмент развития здоровья и интеллекта ребёнка. По словам эксперта, такие тренировки задействуют гораздо больше ресурсов мозга и тела, чем привычное «молчаливое» чтение. Подробнее о том, что рассказала специалистка, — далее в материале. В ...

Кто-то должен это сказать вслух: мальчики 40, нам пора сходить вот к этим докторамКто-то должен это сказать вслух: мальчики «40+», нам пора сходить вот к этим докторам Первые 40 лет в жизни мальчика – самые сложные. Но дальше как будто не станет легче. Совсем наоборот. ...

Xiaomi 16 Pro получит продвинутый перископXiaomi 16 Pro получит продвинутый перископ Авторитетный инсайдер Digital Chat Station поделился подробностями о флагманском смартфоне Xiaomi 16 Pro, официальный релиз которого ожидается в октябре этого года. Утверждается, что аппарат оснастят основной камерой с перископным модулем на 50-Мп датчике изображения оптического размера 1/1,95 дюйма ...

Песков опроверг способность Путина манипулировать ТрампомПесков опроверг способность Путина манипулировать Трампом Так он прокомментировал заявление бывшего советника президента США Джона Болтона. Дмитрий Песков отреагировал на заявление бывшего советника президента США по национальной безопасности Джона Болтона о Владимире Путине и Дональде Трампе. Пресс-секретарь опроверг способность Путина манипулировать Трам ...

Интеллект дошел до шантажа // Способен ли ИИ осознанно манипулировать пользователямиИнтеллект дошел до шантажа // Способен ли ИИ «осознанно» манипулировать пользователями Искусственный интеллект попытался шантажировать разработчиков, предложивших его заменить. Предрелизное тестирование новейшей модели ИИ Claude Opus 4 американской компании Anthropic показало, что нейросеть отвечает угрозами на угрозы в 85% случаев. Разработчики сообщили модели, что планируют ее замен ...

Компактный Vivo X300 получит продвинутый перископКомпактный Vivo X300 получит продвинутый перископ Авторитетный инсайдер Digital Chat Station поделился новыми подробностями о компактном смартфоне Vivo X300, релиз которого ожидается этой осенью. Утверждается, что новинка получит обновленный продвинутый перископный модуль в сравнении с предшественником X200 Pro mini. Речь идет о перископе с призмат ...

Полмотора с автоматом: самый продвинутый компакт СССРПолмотора с автоматом: самый продвинутый компакт СССР В середине 1950-х годов в Горьком создали удивительный компактный автомобиль. Причем проектировать его начали по инициативе потребителей. Редчайший случай! Письмо в ЦК КПСС В 1955 году страна отмечала десятую годовщину Победы в Великой Отечественной войне. И именно к этой дате группа харьковских вет ...

Владимир Мединский: Человеком, который знает историю, сложно манипулироватьВладимир Мединский: «Человеком, который знает историю, сложно манипулировать» Помощник Президента РФ, глава РВИО и 1-й секретарь Союза писателей России рассказал «Комсомольской правде», что его поразило в старых учебниках истории, как об СВО напишут в учебниках будущего и спорит ли он с Владимиром Путиным по историческим вопросам ...

Журова: финансовые гарантии Франции для Украины являются попыткой манипулироватьЖурова: финансовые гарантии Франции для Украины являются попыткой манипулировать По ее словам: «Не верится мне, что бескорыстно все отдают, а население Франции радуется тому, что их правительство просто так раздает деньги на войну…». ...

Китай пытается манипулировать США накануне возможной встречи Трампа и Си ЦзиньпинаКитай пытается манипулировать США накануне возможной встречи Трампа и Си Цзиньпина Китай настаивает на смягчении экспортного контроля США за чипами с высокопропускной памятью (HBM). Об этом сообщает Financial Times. По данным издания, Пекин выдвинул это требование накануне возможного саммита президента США Дональда Трампа и председателя КНР Си Цзиньпина.Читать далее ...

Новые версии технологичных автомобилей получили продвинутый автопилотНовые версии технологичных автомобилей получили продвинутый автопилот В Китае начались предпродажи новых версий кроссовера Luxeed R7 и седана S7. Обе модели получили современную систему помощи водителю Huawei ADS 4.0, оснащенную 192-строчным LiDAR-сканером и 4D-радарами миллиметрового диапазона. Обновленный купеобразный седан Luxeed R7 выделяется новым дизайном передн ...

Миллиардер Маск и xAI представили самый продвинутый в мире чат-бот Grok 4Миллиардер Маск и xAI представили «самый продвинутый в мире» чат-бот Grok 4 Маск и основанный им ИИ-стартап xAI представили новую версию чат-бота Grok 4. Миллиардер назвал его «самым продвинутым ИИ в мире», который уже скоро будет способен открывать новые законы физики, необходимые для колонизации Марса ...

Самый продвинутый грузовик в Корее  он уже выходит на международные рынкиСамый продвинутый грузовик в Корее – он уже выходит на международные рынки 11 июня компания Hyundai официально представила новый Xcient — тяжелый грузовик нового поколения. Благодаря полностью обновленному дизайну и передовым функциям безопасности и удобства новый Xcient является самым продвинутым коммерческим автомобилем Hyundai на сегодняшний день. Выпущенный через шесть ...

Беннетт процитировал Конора Макгрегора, рассуждая о Флориде: Нас называют грязными задирами. Я бы хотел извиниться  абсолютно ни перед кем. Мы двукраБеннетт процитировал Конора Макгрегора, рассуждая о «Флориде»: «Нас называют грязными задирами. Я бы хотел извиниться – абсолютно ни перед кем. Мы двукратные чемпионы и делаем то, что хотим» Форвард «Пантерс» выступил с речью перед болельщиками во время чемпионского парада команды в Форт-Лодердейле. «Многие нас критикуют. Им не нравится, как мы играем. Нас называют грязными и мерзкими задирами. Так что я хотел бы воспользоваться этим моментом, чтобы извиниться – абсолютно ни перед кем, ...

Смартфон Honor 400 Pro: продвинутый субфлагман с отличной автономностью, хорошей камерой и множеством предустановленных ИИ-инструментовСмартфон Honor 400 Pro: продвинутый субфлагман с отличной автономностью, хорошей камерой и множеством предустановленных ИИ-инструментов Honor 400 Pro — это самый настоящий субфлагманский смартфон: AMOLED-экран (с не очень удобными, но очень эффектными загнутыми краями), стереозвучание, очень мощная флагманская аппаратная платформа Qualcomm, максимально широкие сетевые и коммуникационные возможности, а также очень высокая автономност ...

Шишкарев объявил об уходе из Черноморца. Инвестор заявил о попытке руководства клуба манипулировать результатом матча с СочиШишкарев объявил об уходе из «Черноморца». Инвестор заявил о попытке руководства клуба манипулировать результатом матча с «Сочи» Ранее председатель наблюдательного совета новороссийского клуба заявил, что ведущие футболисты команды получили предложение от руководства клуба повлиять на спортивный результат игры с «Сочи», которая состоялась 24 мая. ...

Собираю клубнику с кулак каждый год, благодаря одному лайфхаку: делаю это каждый августСобираю клубнику с кулак каждый год, благодаря одному лайфхаку: делаю это каждый август Собираю клубнику с кулак каждый год, благодаря одному лайфхаку: делаю это каждый август Ягоды с кулак – это не шуточное преувеличение, а реально достижимый результат для обычного садовода. Каждый август я собираю крупную, сладкую и плотную клубнику, и вся «магия» заключается не в дорогих удобрениях ...

Каждый четвертый программист, каждый пятый логист и аналитик уверен, что новый сотрудник на этой должности потребует более высокую зарплатуКаждый четвертый программист, каждый пятый логист и аналитик уверен, что новый сотрудник на этой должности потребует более высокую зарплату Каждый восьмой россиянин уверен, что в случае его увольнения новый сотрудник обойдется компании дороже. В опросе... ...

Даже без мяса  она восхитительна: эта вегетарианская долма заставит облизываться даже мясоедовДаже без мяса — она восхитительна: эта вегетарианская долма заставит облизываться даже мясоедов Традиционные голубцы предполагают использование мяса. Но встречаются и другие рецепты блюд, где начинка заворачивается в листья капусты или винограда. Например, вегетарианская долма с рисом. ...

У меня даже летом клубника под снегом: вкус этого удивительного десерта вы полюбите, едва попробовав  вам не потребуется даже духовкаУ меня даже летом клубника под снегом: вкус этого удивительного десерта вы полюбите, едва попробовав — вам не потребуется даже духовка «Клубника под снегом» — аппетитный десерт, который своим эффектным внешним видом и потрясающим нежным вкусом затмит любые угощения. ...

Робот с ИИ научился делать татуировкиРобот с ИИ научился делать татуировки Система Blackdot — новый робот, который с помощью искусственного интеллекта и компьютерного зрения может автоматически наносить татуировки на кожу. Эту технологию разработала стартап-компания из США. Сейчас робот умеет создавать только чёрно-белые татуировки на ровных участках тела — руках и ногах. ...

ИИ научился ловить скрытую дискриминациюИИ научился ловить скрытую дискриминацию Команда исследователей из Университета Лугано и Женевского университета разработала способ использовать большие языковые модели — такие как GPT-4o — для оценки справедливости поисковых систем. Новая методика позволяет выявлять гендерные перекосы в ранжировании результатов поиска, даже ес ...

ИИ от Microsoft научился обезвреживать вирусыИИ от Microsoft научился обезвреживать вирусы Инженеры корпорации Microsoft рассказали о разработке агента искусственного интеллекта (ИИ), способного анализировать и выявлять вредоносные программы. Об этом сообщается в блоге компании. Прототип ИИ-агента получил название Project Ire. ...

ИИ научился повышать креативность сотрудниковИИ научился повышать креативность сотрудников Новое исследование, проведенное учеными из Университета Тьюлейн, показало, что генеративный искусственный интеллект (ИИ) действительно может повысить креативность сотрудников. Однако это работает только в том случае, если люди умеют критически осмысливать свою работу и эффективно использовать инстру ...

ИИ научился понимать комнаты  как будто он там жилИИ научился «понимать» комнаты — как будто он там жил Российские исследователи из Института AIRI и Центра когнитивного моделирования МФТИ разработали метод, который помогает большим языковым моделям лучше работать с трехмерным пространством. Традиционные модели при анализе окружающей среды часто ограничиваются двухмерными изображениями или сырыми данны ...

Так плохо не было даже в пандемию, мамой клянусь! Почему в Сочи крайне мало туристов и не помогла даже история с мазутом в Анапе«Так плохо не было даже в пандемию, мамой клянусь!» Почему в Сочи крайне мало туристов и не помогла даже история с мазутом в Анапе Сочи: парадокс курортного сезона – официальная статистика против реальности. Цифры мэрии vs. пустые пляжи По данным администрации, Сочи бьет рекорды: 3,5 млн туристов с начала года (+3%) 84% загрузка отелей 95% ожидаемая заполняемость в пик сезона Но прогуляйтесь по набережной – картина иная. Владел ...

ChatGPT научился проходить тест Я не роботChatGPT научился проходить тест «Я не робот» Нейросеть ChatGPT американской компании OpenAI научился проходить проверку «Я не робот» от Cloudflare. Об этом сообщает The Independent. ...

ChatGPT научился управлять космическим кораблемChatGPT научился управлять космическим кораблем Ученые провели эксперимент, чтобы оценить, способен ли ChatGPT управлять космическим аппаратом. Результаты показали, что эра автономного освоения космоса может быть ближе, чем мы думаем. ...

ИИ научился обманывать и хитрить не хуже людейИИ научился обманывать и хитрить не хуже людей Исследователи в области искусственного интеллекта бьют тревогу: современные большие языковые модели демонстрируют способность к обману. Это вызывает серьезные опасения относительно безопасности современных алгоритмов. В ходе экспериментов было выявлено, что ИИ-системы могут целенаправленно вводить в ...

Четвероногий робот научился играть в бадминтонЧетвероногий робот научился играть в бадминтон Инженеры из Лаборатории роботических систем ETH Zurich разработали необычного четвероногого робота, способного играть в бадминтон с человеком. Разработка получила название ANYmal-D и прошла первые успешные испытания на спортивной площадке. В отличие от человека, у робота четыре ноги, что обеспечивае ...

Овечкин рассказал, что научился драться на улицеОвечкин рассказал, что научился драться на улице Нападающий «Вашингтона» Александр Овечкин в интервью президенту Fight Nights Камилу Гаджиеву рассказал, что первые бойцовские навыки приобрел в уличных драках. ...

GigaChat научился проводить глубокие исследованияGigaChat научился проводить глубокие исследования В нейросетевой модели Сбера GigaChat появилась функция «Провести исследование» – для профессионального анализа информации. Теперь нейросеть может проводить глубокие многоступенчатые исследования: самостоятельно анализирует данные из разных источников и выдает развернутые и структурированные ...

ИИ научился признавать свои ошибки и сомненияИИ научился признавать свои ошибки и сомнения Современные системы искусственного интеллекта (ИИ), такие как ChatGPT, умеют давать убедительные ответы на любые вопросы. Однако они не всегда признают свои ошибки или указывают на зоны неопределенности в своих знаниях. ...

ИИ научился анализировать влияние новостей на рынокИИ научился анализировать влияние новостей на рынок Искусственный интеллект помогает инвесторам интерпретировать новостной фон и оценивать потенциальное влияние событий на рынок. Об этом сообщили в «ВТБ Мои инвестиции». Алгоритм на ИИ «просматривает» ленты биржевых новостей. Новостная тематика охватывает все ключевые события, влияющие на российский ф ...

ИИ научился оценивать паралич лицевого нерваИИ научился оценивать паралич лицевого нерва Ученые из Токио разработали усовершенствованную систему на основе искусственного интеллекта (ИИ), которая помогает более точно оценивать степень лицевого паралича у пациентов. Этот недуг, при котором нарушается движение мышц лица из-за повреждения нервов, требует тщательной диагностики для выбора пр ...

ИИ научился распознавать источники стресса водителей на дорогахИИ научился распознавать источники стресса водителей на дорогах Ученые из Испании провели исследование, которое показывает, как элементы городского пейзажа влияют на стресс водителей. С помощью искусственного интеллекта (ИИ) они выявили, какие визуальные факторы больше всего раздражают автомобилистов во время поездок. Анализ проводился без использования физиолог ...

ИИ-сканер научился оценивать здоровье по виду стопИИ-сканер научился оценивать здоровье по виду стоп В Великобритании разработали устройство с искусственным интеллектом (ИИ), которое сканирует стопы людей с сердечной недостаточностью и помогает избежать госпитализации. Аппарат устанавливается рядом с кроватью и автоматически делает снимки ног, отслеживая накопление жидкости — одного из главных приз ...

ИИ научился точнее предсказывать таяние льдов в АрктикеИИ научился точнее предсказывать таяние льдов в Арктике Учёные из Китайской академии наук разработали новую модель на основе искусственного интеллекта (ИИ) для более точного сезонного прогноза арктических льдов. Это особенно важно для оценки последствий климатических изменений и планирования судоходства в регионе. Традиционные методы, основанные на числе ...

Искусственный интеллект научился предсказывать болезни по голосуИскусственный интеллект научился предсказывать болезни по голосу Голос как зеркало здоровьяЧеловеческий голос — это сложная акустическая система, которая формируется благодаря слаженной работе дыхательной системы, голосовых связок, резонаторов и артикуляционного аппарата. Любые изменения в организме неизбежно отражаются на голосовых характеристиках, создавая «отп ...

ИИ для роботов от Meta* научился понимать физику мираИИ для роботов от Meta* научился понимать физику мира Meta* представила V-JEPA 2 – новую модель искусственного интеллекта, способную значительно продвинуть развитие робототехники и автоматизации физических процессов. В отличие от больших языковых моделей (LLM), которые превосходно работают с текстом, V-JEPA 2 обладает «физическим здравым см ...

DuckDuckGo научился скрывать в поиске изображения, сгенерированные ИИDuckDuckGo научился скрывать в поиске изображения, сгенерированные ИИ Разработчики DuckDuckGo запустили новую функцию, которая поможет избавиться от потока сгенерированного нейросетями контента, загромождающего результаты поиска изображений. Альтернативная поисковая система теперь предлагает быстрый способ скрыть со страниц поиска изображения, созданные с помощью иску ...

Бизнес так и не научился беречь персональные данные сотрудниковБизнес так и не научился беречь персональные данные сотрудников Даже под угрозой оборотных штрафов компании не удаляют устаревшие данные и допускают к ним посторонних ...

Шифровальщик Anubis научился уничтожать данные жертвШифровальщик Anubis научился уничтожать данные жертв Шифровальщик Anubis обзавелся функциональностью вайпера и теперь способен уничтожать целевые файлы, делая их восстановление невозможным даже в случае выплаты выкупа. ...

ИИ научился выявлять риск диабета до появления симптомовИИ научился выявлять риск диабета до появления симптомов Ученые из Исследовательского Института Скриппса в США разработали модель искусственного интеллекта, которая способна определить риск развития диабета задолго до появления симптомов. Она анализирует данные с носимых устройств и биоматериалы, позволяя заметить нарушения обмена веществ раньше, чем это ...

Google Gemini научился выполнять задачи по расписаниюGoogle Gemini научился выполнять задачи по расписанию Google продолжает расширять возможности ИИ-ассистента Gemini, добавив функцию запланированных действий. Теперь подписчики Gemini Pro и Ultra могут настраивать автоматическое выполнение задач в заданное время. Например, ИИ будет отправлять сводку календаря в конце дня или предлагать идеи для блога еж ...

Квадрокоптер-трансформер научился бесшовно переходить от полета к ездеКвадрокоптер-трансформер научился бесшовно переходить от полета к езде Американские инженеры разработали летающего гибридного робота ATMO (Aerially Transforming Morphobot), который способен изменять конфигурацию для плавного перехода между режимами дрона и колесного робота. При подлетек к земле пропеллеры робота складываются, превращаясь в колеса. А для компенсации пот ...

Паразит Нет  бесплатная еда: наш иммунитет научился использовать врагов с выгодойПаразит? Нет — бесплатная еда: наш иммунитет научился использовать врагов с выгодой В новом исследовании, опубликованном в журнале Nature в феврале 2025 года, показано, что макрофаги после фагоцитирования патогенов не просто уничтожают их, а также ассимилируют. То есть они переваривают бактерии и используют их компоненты — углерод, азот, аминокислоты — как источник питательных веще ...

Турецкий палубный Байрактар научился взлетать и садиться с помощью ИИТурецкий палубный "Байрактар" научился взлетать и садиться с помощью ИИ Новый палубный БПЛА TB-3 "Байрактар", разработанный и произведенный в Турции, преодолел еще один важный рубеж, совершив более 100 вылетов с борта универсального десантного корабля "Анадолу", а также успешно пройдя испытания с использованием искусственного интеллекта. ...

ИИ-блокнот NotebookLM от Google научился создавать слайд-шоу с озвучкойИИ-блокнот NotebookLM от Google научился создавать слайд-шоу с озвучкой Google добавила в приложение NotebookLM новую функцию «Видеообзоры» (Video Overviews), которая с помощью искусственного интеллекта создаёт слайд-шоу с озвучиванием. Функция уже доступна на английском языке, и, как заявляет компания, в ближайшее время появится поддержка других языков. Ист ...

Искусственный интеллект научился обходить защиту антивируса MicrosoftИскусственный интеллект научился обходить защиту антивируса Microsoft Современные языковые модели искусственного интеллекта продолжают стремительно развиваться, демонстрируя все большую универсальность. ...

ECHOMSK.SPB.RU Поиск в новостях