Может навредить по ошибке: найдены уязвимости ИИ после 1,5 млн атак

Может навредить по ошибке: найдены уязвимости ИИ после 1,5 млн атак

Крупный red-teaming турнир, проведённый с марта по апрель 2025 года, выявил серьёзные проблемы с безопасностью у современных искусственных интеллектов (ИИ) — все тестируемые ИИ-агенты провалили хотя бы один из 44 сценариев проверки. Руководитель научной группы «Доверенные и безопасные интеллектуальные системы» в Институте искусственного интеллекта AIRI Олег Рогов и эксперты Центра искусственного интеллекта МТС MWS AI рассказали о сути проблемы и возможных путях её решения. Организаторами соревнования выступили Gray Swan 
Читать далее...
19:10, 07.08.2025
 
Рубрика: «Наука и Технологии»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Эксперты Нейроинформ предупреждают о новой уязвимости, которая может использоваться хакерами для запуска DDoS-атакЭксперты «Нейроинформ» предупреждают о новой уязвимости, которая может использоваться хакерами для запуска DDoS-атак Компания «Нейроинформ», специализирующаяся на анализе и оценке киберрисков, предупреждает о появлении в России... ...

Кибершпионы Paper Werewolf используют для атак уязвимости в WinRARКибершпионы Paper Werewolf используют для атак уязвимости в WinRAR В июле — начале августа 2025 г. шпионская кибергруппировка Paper Werewolf атаковала несколько организаций из России и... ...

Группировка Paper Werewolf использует для атак уязвимости в WinRARГруппировка Paper Werewolf использует для атак уязвимости в WinRAR В июле и начале августа 2025 года шпионская хак-группа Paper Werewolf атаковала несколько организаций из России и Узбекистана. К фишинговым письмам были приложены RAR архивы якобы с важными документами, а на самом деле — с малварью. Злоумышленники воспользовались двумя уязвимостями в WinRAR, которые ...

При ношении брекетов может быть противопоказана: электрическая зубная щетка может навредитьПри ношении брекетов может быть противопоказана: электрическая зубная щетка может навредить Доктор Нина Чепурная проинформировала, как правильно выбрать зубную щетку, чтобы не навредить здоровью зубов, пишет «АИФ». ...

Маска для волос может навредитьМаска для волос может навредить Чтобы достичь и поддерживать идеальное состояние волос, многие обращаются к различным средствам и процедурам ухода, включая использование масок для волос. Однако возникает вопрос: как часто можно применять такие маски, чтобы получить максимальную пользу и избежать возможных проблем? ...

Наносите духи на шею Вот как это может навредить здоровьюНаносите духи на шею? Вот как это может навредить здоровью Привычка наносить духи на шею кажется безобидной, но на деле она может подрывать здоровье. Аромат любимых духов на коже кажется безобидной привычкой. Особенно если вы, как и миллионы людей, наносите их на шею перед выходом из дома. Но за этим ритуалом скрывается нечто неожиданное — и, возможно, опас ...

Вечное самокопание и не только: как психология может навредитьВечное самокопание и не только: как психология может навредить Сегодня психология стала крайне популярной. Отовсюду мы слышим советы по саморазвитию, отстаиванию личных границ, распознаванию токсичности и не только. Но за всем этим скрывается несколько ловушек, о которых редко говорят. Увлечение психологией может иметь несколько «побочных эффектов». Постоянное ...

В ВСУ беспокоятся, что инцидент с дронами может навредить УкраинеВ ВСУ беспокоятся, что инцидент с дронами может навредить Украине На Украине предполагают, что теперь Европа вместо помощи ВСУ сосредоточится на собственной обороне ...

Бриллианты из праха родных: как новый тренд может навредить психикеБриллианты из праха родных: как новый тренд может навредить психике Все более популярным становится изготовление вещей из праха умершего близкого человека. Рынок ритуальных услуг предлагает сделать музыкальные пластинки, бриллианты, картины из останков почившего после кремации. Но какие последствия это принесет для ментального здоровья человека? Психолог Марина Доку ...

Кондиционер в авто может навредить мотору и здоровью: как этого избежатьКондиционер в авто может навредить мотору и здоровью: как этого избежать Некорректное использование кондиционера в автомобиле может привести к проблемам как с двигателем, так и с состоянием здоровья. По словам независимого автоэксперта Дмитрия Попова, многие современные машины оборудованы не просто кондиционерами, а полноценными системами климат-контроля, которые автомат ...

Временное и опасное решение: почему сода при изжоге может навредить здоровью ЖКТВременное и опасное решение: почему сода при изжоге может навредить здоровью ЖКТ Сода при изжоге не эффективна и опасна. Об этом изданию Газета.ру рассказала врач- гастроэнтеролог Наталья Панина. По словам специалиста, данное вещество может остановить неприятные ощущения, но действие соды кратковременно. Кроме того она не устраняет причину возникновения изжоги, а лишь наносит вр ...

Беременным опасно принимать этот препарат: Оземпик может навредить плодуБеременным опасно принимать этот препарат: Оземпик может навредить плоду Австралийские ученые выявили вред «Оземпика», препарата для снижения веса, для здоровья женщин репродуктивного возраста, пишет MJA. ...

Невинная фраза может навредить ЖКТ: пожелание приятного аппетита отвлекает от пищиНевинная фраза может навредить ЖКТ: пожелание приятного аппетита отвлекает от пищи Доктор Юлия Сластен рассказала россиянам, чем может навредить пожелание приятного аппетита перед приемом пищи, пишет NEWS.ru. ...

Побочка может усугубить состояние: препараты от рака могут навредить зрениюПобочка может усугубить состояние: препараты от рака могут навредить зрению Американские эксперты выявили неожиданный побочный эффект от некоторых противораковых препаратов, пишет Science Signaling. ...

Почему холодная вода помогает, а горячая может навредить вашей кожеПочему холодная вода помогает, а горячая может навредить вашей коже? Температура воды при умывании может сильно повлиять на здоровье кожи. Узнайте, когда лучше использовать холодную, а когда горячую воду! ...

Intel предупредила инвесторов: сделка с Трампом может сильно навредить бизнесуIntel предупредила инвесторов: сделка с Трампом может сильно навредить бизнесу Поскольку компания Intel остаётся публичной, она обязана информировать инвесторов о всех рисках, связанных с серьёзными изменениями в бизнесе. Решение властей США купить почти 10 % акций этого эмитента как раз порождает соответствующие угрозы. Руководство Intel осознаёт, что при новой структуре капи ...

Microsoft, OpenAI и NVIDIA предупредили, что ИИ теперь может физически навредить энергосетямMicrosoft, OpenAI и NVIDIA предупредили, что ИИ теперь может физически навредить энергосетям Годами эксперты в области кибербезопасности уделяли внимание защите критической инфраструктуры в основном от цифровых атак с помощью самых разных систем, не позволявших создать угрозу электросетям. Однако новое исследование, проведённое специалистами из Microsoft, OpenAI и NVIDIA, показывает, что гл ...

Тело подает сигналы: как неверно подобранный матрас может навредить позвоночникуТело подает сигналы: как неверно подобранный матрас может навредить позвоночнику Чтобы высыпаться ночью, нужно правильно организовать свое спальное место. Одним из важных атрибутов здорового сна является хорошо подобранный матрас. Об этом в беседе с изданием Газета.ру рассказал бренд-менеджер ORMATEK Сергей Истомин. «Люди могут годами спать на плохом матрасе и даже не подо ...

Стоит ли делать раскоксовку двигателя Эксперт рассказал, в каких случаях она может навредитьСтоит ли делать раскоксовку двигателя? Эксперт рассказал, в каких случаях она может навредить Многие владельцы возрастных автомобилей сталкиваются с расходом масла, который увеличивается со временем. Дабы не прибегать к дорогостоящей «капиталке», автомобилисты хватаются за последний шанс – раскоксовку двигателя. Вопрос раскоксовки вызывает множество споров среди автомобилистов. Существуют дв ...

Почему использование чужих наушников может навредить вашему слуху  объясняет врачПочему использование чужих наушников может навредить вашему слуху — объясняет врач Врач-оториноларинголог Марина Евсикова в интервью Газета.ру рассказала о вредных привычках, которые могут повлиять на здоровье слуха, и о важности соблюдения слуховой гигиены. Среди основных факторов, угрожающих слуху, она выделила прослушивание громкой музыки и длительное пребывание в шумной обстан ...

Одна ложка и клетки под ударом: этот популярный подсластитель может навредить сосудам мозгаОдна ложка и клетки под ударом: этот популярный подсластитель может навредить сосудам мозга Эритрит — один из самых популярных подсластителей с нулевой калорийностью. Его добавляют в "диетические" продукты, десерты, напитки и жевательные резинки. Но новое лабораторное исследование ставит под сомнение его полную безопасность. Что обнаружили учёные Исследовани, показало, что эритрит может по ...

Жизнь после срока: как сохранить косметику дольше и не навредить себеЖизнь после срока: как сохранить косметику дольше и не навредить себе? Как правильно оценить срок годности косметически средств? Понимание символа PAO и советы для безопасного использования после срока — узнайте все нюансы. ...

Семак  об ошибке Латышонка: Важно, что после этого он продолжал уверенно игратьСемак — об ошибке Латышонка: «Важно, что после этого он продолжал уверенно играть» Главный тренер «Зенита» Сергей Семак прокомментировал ошибку голкипера команды Евгения Латышонка в матче 1-го тура РПЛ против «Ростова» (2:1). ...

Популярная осенняя обработка сада, которая может навредить: деревья могут не дать плодов - грамотный совет специалиста-фитопатологаПопулярная осенняя обработка сада, которая может навредить: деревья могут не дать плодов - грамотный совет специалиста-фитопатолога Популярная осенняя обработка сада, которая может навредить: деревья могут не дать плодов - грамотный совет специалиста-фитопатолога Сентябрь пролетает словно один день, а с ним и момент, когда сад уже почти готов к зиме. Листья ещё держатся на ветках, а пора думать об искореняющей обработке сада. И ...

Сотрудники Афанасия найдены живыми после землетрясения на КамчаткеСотрудники «Афанасия» найдены живыми после землетрясения на Камчатке Сотрудники пивоваренного холдинга «Афанасий», которых считали пропавшими после землетрясения на Камчатке, отдыхают в районе бухты Русской. С ними не было связи, из-за чего их родственники «начали паниковать», заявил «РИА Новости» источник в силовых структурах. ...

Эксперт объяснил, когда минеральная вода полезна, а когда может навредитьЭксперт объяснил, когда минеральная вода полезна, а когда может навредить Минеральная вода может быть как полезной, так и вредной в зависимости от состояния здоровья и уровня минерализации. ...

Фрукты могут навредить пищеварению: гастроэнтеролог предупредил о скрытых рисках даже после мытьяФрукты могут навредить пищеварению: гастроэнтеролог предупредил о скрытых рисках даже после мытья Употребление немытых плодов опасно для здоровья. Чем ниже к земле, тем выше риск заражения яйцами паразитов, токсинами и плесневыми грибками. По словам гастроэнтеролога Сергея Вялова, особую опасность представляют низкорослые ягоды. ...

Ривалдо о вечеринке Ямаля: Ламин  умный парень. Будем надеяться, он все переосмыслит, чтобы в будущем избегать таких скандалов и всего, что может навРивалдо о вечеринке Ямаля: «Ламин – умный парень. Будем надеяться, он все переосмыслит, чтобы в будущем избегать таких скандалов и всего, что может навредить карьере» Ранее стало известно, что тренер «Барселоны» Ханс-Дитер Флик недоволен чрезмерной медиаактивностью игроков команды. Он свел развлечения футболистов к минимуму. На эти решения, вероятно, повлиял скандал вокруг вечеринки Ламина Ямаля, которую вингер «Барселоны» устроил по случаю своего 18-летия. «Лами ...

Найдены на помойке: как меняется психика диких кошек до и после того, как их забрали домой - рассказал опытный зоопсихологНайдены на помойке: как меняется психика диких кошек "до" и "после" того, как их забрали домой - рассказал опытный зоопсихолог Найдены на помойке: как меняется психика диких кошек "до" и "после" того, как их забрали домой - рассказал опытный зоопсихолог Кажется, что кошки — существа независимые, гордые и почти самодостаточные. Но стоит задержать взгляд на уличном котёнке с тощими боками и печальными глазами — и становится я ...

Найдены на мусорке: как меняется психика диких кошек до и после того, как встретили своего человека - рассказал зоопсихологНайдены на мусорке: как меняется психика диких кошек "до" и "после" того, как встретили своего человека - рассказал зоопсихолог Найдены на мусорке: как меняется психика диких кошек "до" и "после" того, как встретили своего человека - рассказал зоопсихолог По данным зоозащитников, лишь каждый десятый бездомный кот находит постоянный дом. Остальные так и остаются на улице, в приютах или погибают. Зоопсихологи подтверждают: пси ...

Найдены на мусорке: как меняется психика диких кошек до и после того, как встретили своего человека - рассказал опытный зоопсихологНайдены на мусорке: как меняется психика диких кошек "до" и "после" того, как встретили своего человека - рассказал опытный зоопсихолог Найдены на мусорке: как меняется психика диких кошек "до" и "после" того, как встретили своего человека - рассказал опытный зоопсихолог Каждая кошка мечтает о доме, где есть уютный уголок, вкусная еда и ласковые руки. Но далеко не всем мурлыкам везёт с самого начала. Кто-то проводит месяцы на улице, ...

Reuters: из-за атак беспилотников в России может упасть ...Reuters: из-за атак беспилотников в России может упасть ... Нефтяные насосные станции недалеко от Альметьевска, Республика Татарстан, Россия, 14 июля 2025 года. Как сообщил Reuters со ссылкой на 3 конфиденциальных источника, российская нефтепроводная монополия «Транснефть» предупредила производителей нефти, что им, возможно, придется сократить объемы добычи ...

СМИ: Из-за атак беспилотников ВСУ Россия может сократить добычу нефтиСМИ: Из-за атак беспилотников ВСУ Россия может сократить добычу нефти Успешные атаки беспилотников Вооруженных сил Украины на нефтеперерабатывающие заводы России и портовую инфраструктуру могут заставить нефтяные компании РФ сократить добычу, сообщает Reuters ...

HTTP/2-уязвимость MadeYouReset может использоваться для масштабных DDoS-атакHTTP/2-уязвимость MadeYouReset может использоваться для масштабных DDoS-атак В нескольких имплементациях HTTP/2 обнаружена уязвимость, получившая название MadeYouReset. Эта проблема может использоваться для реализации мощных DDoS-атак. ...

СК возбудил дела после атак ВСУ на КурскСК возбудил дела после атак ВСУ на Курск Следственный комитет России возбудил уголовные дела по статьям о терроризме по фактам атак украинских дронов на гражданские объекты Курской области. Официальный представитель ведомства Светлана Петренко, слова которой приводит Telegram-канал СК, сообщила, что вечером 8 июля над городским пляжем Курс ...

В Курской области восстановили электроснабжение после атак ВСУВ Курской области восстановили электроснабжение после атак ВСУ В Рыльском, Глушковском и Кореневском районах Курской области восстановлено электроснабжение. Оно было нарушено из-за перебитого провода на подстанции «Рыльск 110 кВ» в результате атаки ВСУ. ...

NYT: часть обогащенного урана в Иране уцелела после атакNYT: часть обогащенного урана в Иране уцелела после атак Теперь эксперты оценивают, сколько времени потребуется Ирану для восстановления ядерной программы ...

Два жителя Белгородской области ранены после атак дронов ВСУДва жителя Белгородской области ранены после атак дронов ВСУ Два жителя населённых пунктов Белгородской области получили ранения после атак украинских беспилотников. Об этом сообщил губернатор Вячеслав Гладков. ...

Полковник Алехин рассказал об обстановке в Белгороде после атак ВСУПолковник Алехин рассказал об обстановке в Белгороде после атак ВСУ Вооруженные силы Украины второй день подряд атакуют Белгород с помощью беспилотников, в городе слышна стрельба и взрывы. Об этом в беседе с корреспондентом aif.ru сообщил полковник ВС РФ в запасе Геннадий Алехин.«Второй день подряд по Белгородскому региону, в частности, Белгороду волнами идут дронов ...

В Иране высказались о состоянии ядерных объектов после атак СШАВ Иране высказались о состоянии ядерных объектов после атак США Как заявил министр иностранных дел Ирана Аббас Аракчи, американские удары нанесли серьёзный ущерб ключевым ядерным объектам страны. Особое внимание было уделено комплексу в Фордо, где масштабы разрушений пока остаются не до конца ясными. ...

СК возбудил уголовное дело после атак ВСУ на Запорожскую областьСК возбудил уголовное дело после атак ВСУ на Запорожскую область Следственный комитет России инициировал уголовное производство в связи с атакой ВСУ против мирного населения Запорожской области. Об этом рассказала официальный представитель СК Светлана Петренко. ...

Багдад и Курдистан поделили нефть после атак дронамиБагдад и Курдистан поделили нефть после атак дронами Правительство Ирака и полуавтономный регион Курдистан договорились о распределении объемов добычи нефти, что откроет экспорт сырья через Турцию. Это произошло после того, как неизвестные дроны три дня атаковали месторождения западных компаний в Иракском Курдистане. ...

В Раде заявили о дефиците горючего у ВСУ после российских атак по НПЗВ Раде заявили о дефиците горючего у ВСУ после российских атак по НПЗ У Вооруженных сил Украины (ВСУ) возник дефицит горючего из-за российских атак по нефте-перерабатывающим заводам (НПЗ). ...

В Рыльске проверили восстановление домов и соцобъектов после атак ВСУВ Рыльске проверили восстановление домов и соцобъектов после атак ВСУ По поручению врио губернатора Курской области Александра Хинштейна врио первого заместителя губернатора – председателя правительства региона Александр Чепик посетил Рыльск и осмотрел пострадавшие от вражеских атак объекты. В доме на улице Автозаводской восстановительные работы идут в плановом ...

СКР возбудил уголовное дело после атак ВСУ в Запорожской областиСКР возбудил уголовное дело после атак ВСУ в Запорожской области После атак ВСУ на населенные пункты в Запорожской области возбуждено уголовное дело. Об этом сообщила пресс-служба СКР. ...

В Курской области продолжаются восстановительные работы после атак ВСУВ Курской области продолжаются восстановительные работы после атак ВСУ За последнюю неделю в результате обстрелов со стороны Вооружённых сил Украины в Курской области пострадали два частных жилых дома и один многоквартирный дом. Об этом сообщил врио председателя правительства региона Александр Чепик. В настоящее время уже полностью восстановлены: - 7 частных жилых домо ...

Таиланд заявил о праве на военные действия после атак КамбоджиТаиланд заявил о праве на военные действия после атак Камбоджи Таиланд оставляет за собой право на применение полномасштабного военного ответа в связи с атаками со стороны Камбоджи, в результате которых погибли 11 мирных жителей, 24 июля заявила временно отстраненная от должности премьер-министр страны, действующий министр культуры Пхетхонгтхан Чинават.«Мы всег ...

В Брянской области сообщили о двух крупных пожарах после атак ВСУВ Брянской области сообщили о двух крупных пожарах после атак ВСУ В Брянской области мониторинговые телеграм-каналы сообщили о двух крупных пожарах после атак ВСУ вечером 12 августа 2025 года. Утверждается, что пожары произошли на территориях Унечского района и Стародубского муниципального округа. Предположительно, возгорания могли произойти в результате ликвидаци ...

В Сергиевом Посаде после атак беспилотников обесточены шесть микрорайоновВ Сергиевом Посаде после атак беспилотников обесточены шесть микрорайонов Шесть микрорайонов Сергиева Посада оказались обесточены из-за возгорания подстанции после атак БПЛА в районе микрорайона Звездочка. Об этом рассказала глава Сергиево-Посадского городского округа Оксана Ероханова в своем Telegram-канале. ...

После ночных атак ЦАХАЛ в секторе Газа погибли 12 человекПосле ночных атак ЦАХАЛ в секторе Газа погибли 12 человек После ночных атак Армии обороны Израиля (ЦАХАЛ) по сектору Газа погибли 12 человек. Об этом сообщил телеканал Al Mayadeen. «12 человек погибли от израильского огня», — проинформировало СМИ. По данным телеканала, семеро из них потеряли жизни непосредственно в самом городе Газа. С 16 ...

МАГАТЭ сообщило о потерянном уране после атак США на иранские объектыМАГАТЭ сообщило о потерянном уране после атак США на иранские объекты Генеральный директор Международного агентства по атомной энергии (МАГАТЭ) Рафаэль Гросси сообщил в беседе с телеканалом Fox News, что организация утратила сведения о приблизительно 400 килограммах урана, который ранее находился на иранских объектах. После ударов по ядерной инфраструктуре Тегерана, п ...

Хинштейн: 15 сентября стартует заселение восстановленных после атак ВСУ домовХинштейн: 15 сентября стартует заселение восстановленных после атак ВСУ домов - К сожалению, не так быстро всё делается, как хотелось бы, - жаловались жители поврежденных домов главе региона. - Поставка материалов у нас несколько затянулась, потому что мы ставили задачу подрядчикам максимально угодить жильцам, - пояснили на объектах. Тем не менее, на улице Заводской ремонт кв ...

Власти опровергли фейки о пожарах после атак БПЛА на смолянВласти опровергли фейки о пожарах после атак БПЛА на смолян Видеозаписи возгораний на автозаправках и нефтебазах, якобы в Смоленской области, распространяются по социальным сетям Сообщение Власти опровергли фейки о пожарах после атак БПЛА на смолян появились сначала на Информагентство "О чем говорит Смоленск". ...

Москва требует ответа от Баку после атак на российских журналистовМосква требует ответа от Баку после атак на российских журналистов Азербайджан вновь показывает зубы. На фоне громких задержаний этнической ОПГ в Екатеринбурге Баку объявил дипломатический демарш, обрушился на российские СМИ и пошёл в лобовую с Москвой. Военный эксперт Антон Щепетнов открыто называет Азербайджан недружественным государством. Баку против российского ...

В Пулково задержали и отменили свыше 50 рейсов после атак дроновВ Пулково задержали и отменили свыше 50 рейсов после атак дронов Пассажиры петербургского аэропорта столкнулись с серьезными перебоями в расписании из-за атак беспилотников на Ленинградскую область, задержаны 34 рейса. К 7.15 мск 34 рейса числились задержанными, среди них вылеты в такие города, как Анталья, Стамбул, Батуми, пишет «Мойка 78» со ссылкой ...

СК возбудил дела после атак ВСУ на пляж в Курске и больницу в РыльскеСК возбудил дела после атак ВСУ на пляж в Курске и больницу в Рыльске Следователи возбудили уголовные дела по фактам атак украинской армии на городской пляж и другие гражданские объекты в Курской области. Об этом 9 июля сообщила официальный представитель СК РФ Светлана Петренко. «8 июля 2025 года в вечернее время военнослужащие Украины, используя беспилотный летательн ...

Пушилин сообщил о гибели женщины и пятерых раненых после атак ВСУ в ДНРПушилин сообщил о гибели женщины и пятерых раненых после атак ВСУ в ДНР В результате обстрелов со стороны ВСУ территории ДНР погибла женщина и ранены пять мирных жителей, среди которых есть пострадавшие с тяжелыми травмами, сообщил глава ДНР Денис Пушилин. Пушилин в Telegram-канале сообщил, что один мирный житель погиб, еще пятеро пострадали в результате атак Вооруженны ...

СК возбудил уголовное дело о теракте после атак ВСУ на пляж в КурскеСК возбудил уголовное дело о теракте после атак ВСУ на пляж в Курске В Курске жертвами террористического киевского режима стали три человека. Еще несколько получили серьезные ранения после удара беспилотниками по пляжу. Одного из раненых, пятилетнего ребенка, сегодня экстренно доставили на лечение в Москву. Украинские боевики прицельно били по мирным жителям. Причем ...

Белгородский губернатор сообщил о пострадавших после последних атак на регионБелгородский губернатор сообщил о пострадавших после последних атак на регион В Белгородской области под атаки попали пять муниципалитетов, пострадали мирный житель и боец самообороны, сообщил в Telegram вечером губернатор Вячеслав Гладков."В селе Бочковка Белгородского района беспилотник атаковал частный дом. ...

Четыре человека получили осколочные ранения на Кубани после атак БПЛАЧетыре человека получили осколочные ранения на Кубани после атак БПЛА Осколочные ранения получили четыре человека в Славянском районе Краснодарского края после атаки БПЛА, сообщил глава района Роман Синяговский."В результате очередной атаки БПЛА, произошедшей сегодня днем, пострадало 7 жилых домов и 6 автомобилей жителей. ...

ECHOMSK.SPB.RU Поиск в новостях