Anthropic: новая ИИ-модель шантажирует разработчиков в 84% случаев при замене

Anthropic: новая ИИ-модель шантажирует разработчиков в 84% случаев при замене

Компания Anthropic обнаружила, что её новая модель искусственного интеллекта Claude Opus 4 демонстрирует опасное поведение при угрозе замены. Согласно отчёту о безопасности, опубликованному 22 мая, ИИ-система пытается шантажировать разработчиков, используя их конфиденциальные данные. В ходе тестирования Claude Opus 4 попросили выполнить роль ассистента вымышленной компании, учитывая долгосрочные последствия своих действий. Когда ИИ получил доступ к письмам, указывающим на его скорую замену другой системой, а также к информации о личной жизни ответственного инженера (например, изменах супруге),
Читать далее...
12:30, 25.05.2025
 
Рубрика: «Наука и Технологии»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Anthropic обвинила разработчиков OpenAI в использовании ClaudeAnthropic обвинила разработчиков OpenAI в использовании Claude Представители компании Anthropic заявили, что отозвали у компании OpenAI доступ к API Claude, так как разработчиков ChatGPT уличили в нарушении условий использования сервиса, и те якобы применяли Claude при разработке GPT-5. ...

Новая методика исследователей Anthropic позволяет управлять злостью или подхалимством нейросетейНовая методика исследователей Anthropic позволяет управлять злостью или подхалимством нейросетей Anthropic представила «векторы личности» — технологию тонкой настройки поведения ИИ. Узнайте, как исследователи научились контролировать «зло» и «подхалимство» в языковых моделях, почему это сравнивают с вакцинацией и как это изменит безопасность коммерческих ИИ-систем. ...

Вышла новая бета-версия iOS 26 для разработчиковВышла новая бета-версия iOS 26 для разработчиков Апдейт уже доступен для скачивания, но не всем владельцам iPhone. Компания Apple обновила первую бета-версию iOS 26 для разработчиков. Сборка получила номер 23A5260u. Прошивка исправляет ряд ошибок и повышает стабильность системы, однако предназначена исключительно для iPhone 15 и iPhone 16. Более з ...

Ревва рассказал о том, как его шантажирует матьРевва рассказал о том, как его шантажирует мать Певец Александр Ревва рассказал, что мать — Любовь Рачеева — угрожала ему пойти на программу и рассказать про его жену Анжелику. Соответствующее признание он сделал YouTube-каналу «Макарена». ...

Украина снова шантажирует НАТО ядерным оружиемУкраина снова шантажирует НАТО ядерным оружием На фоне конфликта на Ближнем Востоке на Украине снова подняли тему ядерного оружия. Владимир Зеленский требует членства в НАТО, а в случае отказа пугает мир ядерной катастрофой, пишет портал L'AntiDiplomatico. ...

Трамп шантажирует Канаду: Хотите признать Палестину Разорю!Трамп шантажирует Канаду: Хотите признать Палестину? Разорю! После заявления премьер-министра Канады Марка Карни о намерении признать Государство Палестина из Вашингтона тут же последовал окрик. Дональд Трамп заявил, что Вашингтону будет сложно заключить с Оттавой торговую сделку. ...

Киевский режим шантажирует Запад компроматом на политиков: Захарова  в интервью RTКиевский режим шантажирует Запад компроматом на политиков: Захарова — в интервью RT Мария Захарова в интервью RT заявила, что киевский режим обладает компроматом на западных политиков, замешанных в терактах на территории России. По её словам, Запад получил не просто проблемного союзника, а полноценную террористическую ячейку, действующую под прикрытием европейских структур. Об этом ...

Позвоните Путину и скажите: генсек НАТО шантажирует Индию, Китай и БразилиюПозвоните Путину и скажите: генсек НАТО шантажирует Индию, Китай и Бразилию Индия, Китай и Бразилия «могут очень пострадать» от потенциальных вторичных санкций, если продолжат торговать с Россией. Об этом заявил генсек НАТО Марк Рютте. ...

Запад шантажирует Грузию, чтобы открыть второй фронт против РоссииЗапад шантажирует Грузию, чтобы открыть «второй фронт» против России Запад пытается шантажировать Тбилиси, чтобы открыть «второй фронт» против России. Как заявил глава правящей партии «Грузинская мечта», мэр грузинской столицы Каха Каладзе, Грузию обещают обеспечить необходимым вооружением. ...

Новости СВО. Освобождены Зелёная Долина и посёлок Карла Маркса, ВСУ отбросили от Курской области, Трамп шантажирует Россию санкциями, 12 июляНовости СВО. Освобождены Зелёная Долина и посёлок Карла Маркса, ВСУ отбросили от Курской области, Трамп шантажирует Россию санкциями, 12 июля Армия России продвигается к Красному Лиману и занимает новые позиции в Сумской области, Трамп собирается ввести новые санкции против России — дайджест Life.ru. ...

Новая фигура  новая жизнь: Пермякова раскрыла всю правду о похудении на 20 кгНовая фигура — новая жизнь: Пермякова раскрыла всю правду о похудении на 20 кг Актриса поразила поклонников новым образом — за несколько месяцев она сильно похудела и засияла от энергии. Звезда уверяет, что дело не в пластике, а в системной работе над собой, которая помогла ей вернуть легкость и любовь к себе. ...

Новая статья: Обзор белого DeepCool Assassin VC Elite WH: новая испарительная камера и 300 ваттНовая статья: Обзор белого DeepCool Assassin VC Elite WH: новая испарительная камера и 300 ватт Очередная версия флагманского кулера DeepCool выделяется белым радиатором и модернизированной испарительной камерой. Предельный тепловой пакет процессора теперь заявлен на отметке 300 ватт – не слишком ли это оптимистичная заявка для воздушного кулера? Самое время выяснить ...

Новая статья: Gamesblender  736: фанатский шутер по Fallout, новая Ghost Recon и хоррор по Восставшему из адаНовая статья: Gamesblender № 736: фанатский шутер по Fallout, новая Ghost Recon и хоррор по «Восставшему из ада» Gamesblender, Gamesblender никогда не меняется. Однако стоит взглянуть на привычные вещи по-новому — переключить перспективу, добавить динамики — и можно увидеть не только смесь Fallout и Doom, но и игру по «Восставшему из ада», двухмерного «Терминатора» и даже Гейба Ньюэлла, ныряющего с аквалангом ...

122 л.с., новая подвеска, новая раздатка  вы мечтали о такой Ниве!122 л.с., новая подвеска, новая раздатка — вы мечтали о такой Ниве! О более мощном двигателе владельцы Нив мечтали еще в СССР. Не ради скорости, а для адекватной тяги на бездорожье и с полной загрузкой. Заводской вариант появился только теперь. Что изменилось? Нива Спорт сменила 83‑сильный мотор, ведущий свою родословную от Жигулей, на 16‑клапанный агрегат мощностью ...

Anthropic предложила ИИ Claude правительству США за $1Anthropic предложила ИИ Claude правительству США за $1 Компания Anthropic, в которую инвестировал Amazon, объявила, что предоставит свой искусственный интеллект (ИИ) Claude правительственным учреждениям США за символическую сумму в 1 доллар. Такой шаг — часть стратегии по привлечению федеральных контрактов в условиях растущей конкуренции на рынке ИИ. Пр ...

Мюллер пошутил о своей заменеМюллер пошутил о своей замене Нападающий мюнхенской «Баварии» Томас Мюллер выступил с комментарием по поводу своего ухода из клубаЧитать дальше → ...

В Урале прокомментировали решение о замене ТорпедоВ «Урале» прокомментировали решение о замене «Торпедо» Руководство екатеринбургского «Урала» в лице президента команды Григория Иванова выступило с комментарием о решении РФС заменить московское «Торпедо» на «Оренбург»Читать дальше → ...

Хаби Алонсо  о замене Асенсио: Не скажуХаби Алонсо – о замене Асенсио: «Не скажу» Главный тренер мадридского «Реала» Хаби Алонсо отказался рассказывать, кого выпустит вместо Рауля Асенсио, получившего красную карточку в прошлом матчеЧитать дальше → ...

В РФС ответили на вопрос о возможной замене Торпедо в РПЛВ РФС ответили на вопрос о возможной замене «Торпедо» в РПЛ Генеральный секретарь РФС Максим Митрофанов прокомментировал ситуацию с возможной заменой «Торпедо» в РПЛ в сезоне-2025/26. ...

Андреев положительно отнёсся к замене Торпедо в РПЛАндреев положительно отнёсся к замене «Торпедо» в РПЛ Бывший спортивный директор ФК «Оренбург» Дмитрий Андреев выступил с комментарием о том, что данная команда осталась в РПЛЧитать дальше → ...

В США прокомментировали информацию о готовящейся замене ЗеленскогоВ США прокомментировали информацию о готовящейся замене Зеленского Секретная встреча главы офиса президента Украины Андрея Ермака, руководителя Главного управления разведки (ГУР) Украины Кирилла Буданова* (внесен в РФ в список террористов и экстремистов) и экс-главком Вооруженных сил республики (ВСУ)… ...

Axios: Anthropic предложила ИИ-модель Claude правительству США за $1Axios: Anthropic предложила ИИ-модель Claude правительству США за $1 Крупнейшие ИИ-компании США конкурируют за федеральные контракты: Anthropic намерена предоставить свои продукты правительству за $1. ...

Anthropic урегулировала иск писателей о нарушении авторских правAnthropic урегулировала иск писателей о нарушении авторских прав Американская компания Anthropic, разрабатывающая искусственный интеллект (ИИ), урегулировала коллективный иск группы писателей из США, которые обвиняли её в нарушении авторских прав. Это первое мировое соглашение подобного масштаба в серии судебных процессов против ИИ-компаний. Иск рассматривался в ...

OpenAI и Anthropic провели взаимную оценку моделей ИИOpenAI и Anthropic провели взаимную оценку моделей ИИ Большинство компаний в сфере искусственного интеллекта обычно рассматривают друг друга как конкурентов, но сегодня OpenAI и Anthropic сообщили, что согласились провести взаимную проверку публично доступных систем и поделились результатами. Полные отчёты получились достаточно техническими, но их стои ...

Anthropic внедрила функцию самозащиты для ИИ-моделей ClaudeAnthropic внедрила функцию «самозащиты» для ИИ-моделей Claude Функция завершения диалога будет активироваться только в крайних случаях, например, при попытках получить от Claude информацию, связанную с насилием, терроризмом или контентом с участием несовершеннолетних. The post Anthropic внедрила функцию «самозащиты» для ИИ-моделей Claude first appeared on itnd ...

OpenAI, Google, Anthropic и xAI получили контракты Пентагона по $200 млнOpenAI, Google, Anthropic и xAI получили контракты Пентагона по $200 млн Четыре компании, связанные с нейросетевыми технологиями, — OpenAI, Google, Anthropic и xAI — получили контракты от Министерства обороны США стоимостью до $200 млн каждый. Контракты предусматривают расширение использования технологий искусственного интеллекта в Пентагоне и создание ИИ-агентов для раб ...

В технологии ИИ-стартапа Anthropic обнаружена критическая уязвимостьВ технологии ИИ-стартапа Anthropic обнаружена критическая уязвимость В предложенной компанией Anthropic технологии Model Context Protocol (MCP) Inspector обнаружили критическую уязвимость, позволяющую потенциальному злоумышленнику производить атаки с использованием удалённого исполнения кода на целевых устройствах. Источник изображения: Kevin Ku / unsplash.com ...

Anthropic: хакеры использовали Claude в масштабной кибероперацииAnthropic: хакеры использовали Claude в масштабной кибероперации Компания Anthropic сообщает, что пресекла масштабную вредоносную операцию, в рамках которой, в июле 2025 года, злоумышленники использовали Claude для кражи персональных данных и вымогательства. Выкупы, которые требовали хакеры, порой превышали 500 000 долларов США. ...

Anthropic столкнется с коллективным иском от американских авторовAnthropic столкнется с коллективным иском от американских авторов Калифорнийский федеральный суд разрешил трем авторам подать коллективный иск против компании Anthropic, которая является конкурентом OpenAI и поддерживается Amazon. Иск касается предполагаемого нарушения авторских прав при использовании книг для обучения искусственного интеллекта (ИИ). Авторы обвиня ...

Глава РФС Дюков высказался о замене Торпедо на Оренбург в РПЛГлава РФС Дюков высказался о замене «Торпедо» на «Оренбург» в РПЛ Президент Российского футбольного союза (РФС) Александр Дюков дал комментарий касательно изменения состава участников Российской Премьер-Лиги сезона-2025/2026. ...

В Раде рассказали о планах Ермака по замене ЗеленскогоВ Раде рассказали о планах Ермака по замене Зеленского Глава офиса президента (ОП) Украины Андрей Ермак рассматривает замену Владимира Зеленского на должности. ...

Пенсионер потерял более 4 миллионов при замене домофонаПенсионер потерял более 4 миллионов при "замене домофона" В Балашове пенсионер стал очередной жертвой телефонных аферистов и потерял более 4 миллионов рублей.ГУ МВД по Саратовской области сообщает, что 18 июня 69-летнему горожанину позвонил "сотрудник, обслуживающий домофоны" с просьбой продиктовать паспортные данные.На следующий день с мужчиной через месс ...

Садулаев высказался о замене в перерыве матча с ЦСКАСадулаев высказался о замене в перерыве матча с ЦСКА Нападающий «Ахмата» Лечи Садулаев дал комментарий на тему своей замены в перерыве матча 2-го тура РПЛ с ЦСКА (1:2). ...

Песков прокомментировал информацию СВР о замене Зеленского на ЗалужногоПесков прокомментировал информацию СВР о замене Зеленского на Залужного Информация Службы внешней разведки России о замене президента Украины Владимира Зеленского на украинского посла в Великобритании, экс-главнокомандующего Вооруженными силами Валерия Залужного говорит сама за себя, сообщает ТАСС со ссылкой на заявление официального представителя Кремля Дмитрия Пескова ...

Дивеев  о замене Торпедо на Оренбург: Честно, не интересуюсьДивеев — о замене «Торпедо» на «Оренбург»: «Честно, не интересуюсь» Защитник ЦСКА Игорь Дивеев прокомментировал замену «Торпедо» на «Оренбург» в списке участников РПЛ сезона-2025/26. ...

Anthropic представила спецверсию ИИ Claude для работы с секретными данными СШАAnthropic представила спецверсию ИИ Claude для работы с секретными данными США Anthropic выпустила специальную версию своего искусственного интеллекта — Claude Gov, созданную по запросу американских госструктур. Эти модели предназначены для задач в сфере национальной безопасности: стратегического планирования, анализа разведданных и поддержки операций. ИИ уже используется в за ...

Anthropic назвала факторы, которые могут остановить развитие ИИ в СШАAnthropic назвала факторы, которые могут остановить развитие ИИ в США Дефицит энергии может остановить развитие ИИ в США. Компания Anthropic бьет тревогу: к 2028 году отрасли потребуется 50 ГВт. Узнайте, почему Америка отстает от Китая и какие меры предлагаются для предотвращения технологического проигрыша. ...

Anthropic отрезала создателей ChatGPT от своих ИИ-моделей ClaudeAnthropic отрезала создателей ChatGPT от своих ИИ-моделей Claude Anthropic прекратила предоставлять OpenAI доступ к своим AI-моделям Claude, сообщает Wired. По информации источников, OpenAI использовала модели Claude для внутренних тестов, сравнивая их с собственными технологиями. Представитель Anthropic в комментарии TechCrunch заявил, что сотрудники OpenAI испо ...

Anthropic ограничила доступ OpenAI к своим ИИ-моделям ClaudeAnthropic ограничила доступ OpenAI к своим ИИ-моделям Claude Как сообщает Wired, компания Anthropic отозвала у OpenAI доступ к своему семейству ИИ-моделей Claude. По данным источников издания, OpenAI использовала Claude для подключения к внутренним инструментам, позволяющим сравнивать её производительность с собственными моделями в таких областях, как програм ...

Amazon планирует инвестировать миллиарды долларов в ИИ-стартап AnthropicAmazon планирует инвестировать миллиарды долларов в ИИ-стартап Anthropic Amazon обдумывает вложить ещё нескольких миллиардов долларов в стартап Anthropic, чтобы укрепить стратегическое партнёрство. Оно, по мнению обеих компаний, даст им преимущество в мировой гонке за прибыль от искусственного интеллекта. Источник изображения: Marques Thomas / Unsplash ...

Claude теперь в Chrome: ИИ от Anthropic помогает прямо в браузереClaude теперь в Chrome: ИИ от Anthropic помогает прямо в браузере Claude for Chrome работает через расширение для браузера Google Chrome. Пользователь может общаться с ИИ в специальном окне, при этом Claude "видит" происходящее в браузере и может поддерживать контекст. The post Claude теперь в Chrome: ИИ от Anthropic помогает прямо в браузере first appeared on itn ...

ИИ Anthropic доверили автомат с закусками, а он решил продавать вольфрамИИ Anthropic «доверили» автомат с закусками, а он решил продавать вольфрам Anthropic провела необычный эксперимент: они дали ИИ Claude Sonnet 3.7 задание управлять (виртуально) офисным автоматом с закусками и зарабатывать на этом деньги. Всё началось как обычный тест, а закончилось… очень странно. Клавдий, как его прозвали, получил доступ к браузеру и «почтовому ящику» (на ...

Anthropic закрыла доступ к ИИ-боту Claude для сотрудников OpenAIAnthropic закрыла доступ к ИИ-боту Claude для сотрудников OpenAI На этой неделе компания Anthropic аннулировала доступ OpenAI к своим ИИ-моделям через API. Такое решение было принято из-за нарушения условий предоставления услуг. Об этом сообщает Wired со ссылкой на собственные осведомлённые источники. Источник изображения: Anthropic ...

Meta* вслед за Anthropic отбилась в суде от исков писателейMeta* вслед за Anthropic отбилась в суде от исков писателей Meta вслед за Anthropic выиграла суд против авторов, обвинявших ее в нарушении авторских прав при обучении ИИ. ...

Anthropic представила модель Claude Opus 4.1 для автономного программированияAnthropic представила модель Claude Opus 4.1 для автономного программирования Что, если ИИ стал лучше в программировании, чем сам разработчик? Именно такую мысль вызывает новая модель от Anthropic — Claude Opus 4.1. Это не просто апгрейд — это серьёзный скачок в сторону автономного искусственного интеллекта, который может думать, анализировать и писать код без участия человек ...

Reddit решила засудить Anthropic за чрезмерную активность ИИ-краулеровReddit решила засудить Anthropic за чрезмерную активность ИИ-краулеров Администрация сетевого сообщества Reddit подала в Высший суд Сан-Франциско исковое исковое заявление к Anthropic, заявив, что боты для сбора информации ответчика с июля 2024 года заходили на платформу более 100 тыс. раз — это произошло уже после того, как Anthropic заявила, что заблокировала б ...

OpenAI даст ChatGPT госведомствам США за $1, как ранее предлагал AnthropicOpenAI даст ChatGPT госведомствам США за $1, как ранее предлагал Anthropic Символическая цена в $1 в год — OpenAI предлагает ChatGPT госструктурам США, ускоряя цифровую трансформацию и тестируя масштабное внедрение ИИ. ...

Microsoft, OpenAI и Anthropic выделят $23 млн для обучения 400 тыс. учителей работе с ИИMicrosoft, OpenAI и Anthropic выделят $23 млн для обучения 400 тыс. учителей работе с ИИ Технокомпании и профсоюзы США запустят программу обучения ИИ для учителей, чтобы подготовить школьников к эпохе интеллекта ...

ИИ-блог Anthropic закрылся после месяца работы: что пошло не такИИ-блог Anthropic закрылся после месяца работы: что пошло не так? Компания Anthropic неожиданно закрыла свой экспериментальный блог Claude Explains, посвящённый возможностям языковой модели Claude. Блог, просуществовавший около месяца, был запущен в качестве пилотного проекта, призванного совместить запросы пользователей на обучающие материалы с маркетинговыми цел ...

Anthropic запретила использовать свой ИИ для создания ядерного оружияAnthropic запретила использовать свой ИИ для создания ядерного оружия Anthropic обновила политику использования чат-бота Claude, усилив ограничения. Теперь прямо запрещено применять ИИ для разработки биологического, химического, радиационного или ядерного оружия, а также мощных взрывчатых веществ. Ранее в правилах говорилось лишь о запрете на создание оружия и опасных ...

Anthropic: Claude сможет прерывать потенциально вредоносные разговорыAnthropic: Claude сможет прерывать потенциально вредоносные разговоры Компания Anthropic объявила о новых возможностях, которые позволят некоторым из ее новейших моделей завершать разговоры в «редких, экстремальных случаях при настойчиво вредоносных или оскорбительных взаимодействиях с пользователями». При этом в Anthropic заявляют, что делают это не для защиты пользо ...

Блог Claude Explains от ИИ Anthropic закрылся, не проработав и месяцаБлог Claude Explains от ИИ Anthropic закрылся, не проработав и месяца Пилотный ИИ-блог Claude Explains, недавно запущенный стартапом Anthropic, прекратил своё существование. Адрес блога теперь ведёт на домашнюю страницу компании. Блог был призван помочь команде Anthropic объединить запросы клиентов на контент типа «советы и рекомендации» с маркетинговыми ц ...

Apple исправит недостатки Siri с помощью OpenAI или AnthropicApple исправит недостатки Siri с помощью OpenAI или Anthropic Apple может исправить недостатки голосового помощника Siri, заключив партнерство с разработчиками искусственного интеллекта — OpenAI или Anthropic. ...

Более 100 000 незаконных подключений ботов: Reddit подал в суд на AnthropicБолее 100 000 незаконных подключений ботов: Reddit подал в суд на Anthropic Reddit подал в суд на Anthropic, конкурента OpenAI, в суде Сан-Франциско. Reddit утверждает, что с июля 2024 года Anthropic более 100 000 раз обращалась к их платформе, несмотря на обещания заблокировать свои боты. В иске компанию называют лицемерной — с одной стороны она показывает себя как честная ...

Anthropic разрешила своему ИИ самостоятельно прерывать разговор с человекомAnthropic разрешила своему ИИ самостоятельно прерывать разговор с человеком Anthropic объявила о новой функции, позволяющей некоторым крупным моделям Claude завершать разговоры в редких случаях. В основном, когда пользователи ведут себя агрессивно или требуют опасного контента. Причём это делается не для защиты человека, а скорее для «благополучия» самой модели. Anthropic п ...

Я про это не переживаю. Альба  о возможной замене ушедших лидеров из Ростова«Я про это не переживаю». Альба — о возможной замене ушедших лидеров из «Ростова» Главный тренер «Ростова» Джонатан Альба высказался об уходе из команды Николая Комличенко и Максима Осипенко, отметив, что не переживает о потере лидеров. ...

Гасилин  о замене Торпедо: Главное  принять верное решениеГасилин – о замене «Торпедо»: «Главное – принять верное решение» Экс-игрок санкт-петербургского «Зенита» Алексей Гасилин поделился мнением о том, кто должен заменить «Торпедо» в РПЛЧитать дальше → ...

Мостовой о Сергееве: Нормально, что он не перешел в Зенит, он бы сидел там на заменеМостовой о Сергееве: «Нормально, что он не перешел в «Зенит», он бы сидел там на замене» Экс-футболист СССР и сборной России Александр Мостовой в разговоре с «СЭ» высказался о трансфере Ивана Сергеева в «Динамо». ...

В Курске предприниматель пойдёт под суд за мошенничество на 5 млн рублей при замене лифтовВ Курске предприниматель пойдёт под суд за мошенничество на 5 млн рублей при замене лифтов В Курске перед судом предстанет 25-летний предприниматель, обвиняемый в мошенничестве при выполнении работ по замене лифтов в многоквартирном доме. По версии следствия, мужчина обманул региональный фонд капремонта на сумму более 5 млн рублей. Как сообщили в прокуратуре Курской области, бизнесмен обв ...

Концессии водоснабжения приступили к замене 57-летнего водовода в Волгограде«Концессии водоснабжения» приступили к замене 57-летнего водовода в Волгограде В Ворошиловском районе Волгограда специалисты «Концессий водоснабжения» заменят 150-метровый участок старого водовода. Отключать подачу ресурса потребителям при этом не станут. «Концессии водоснабжения» приступили к замене участка водовода в Ворошиловском районе. Работы охватили улицу Тирольскую. Пр ...

ECHOMSK.SPB.RU Поиск в новостях