Искусственный интеллект может быть «троянским конем»: эксперт рассказали об уязвимостях ИИ-агентов

Искусственный интеллект может быть «троянским конем»: эксперт рассказали об уязвимостях ИИ-агентов

Старший управляющий директор AppSec Solutions Антон Башарин рассказал о безопасности и разработке в эпоху искусственного...
Читать далее...

04:10, 23.05.2025
 
Рубрика: «Интернет и Игры»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Эксперт назвала профессии, в которые не может вклиниться искусственный интеллектЭксперт назвала профессии, в которые не может вклиниться искусственный интеллект Искусственный интеллект не сможет полностью заменить профессии, представителям которых приходится мыслить креативно, считает HR-директор мультисервисной компании Олеся Бормотова. ...

Эксперт: Искусственный интеллект станет лидером по фейковым новостямЭксперт: «Искусственный интеллект станет лидером по фейковым новостям» Фейковые видео становятся более реальными, а личная информация менее защищённой. В век цифровых технологий становится всё сложнее защитить персональную информацию, а вскоре и вовсе можно будет стать случайной жертвой недостоверной новости или ложных доказательств причастности к чему-либо. Эксперты в ...

На ПМЭФ рассказали о первом законопроекте, регулирующем искусственный интеллектНа ПМЭФ рассказали о первом законопроекте, регулирующем искусственный интеллект Новости пишет нейросеть, а отвечать будут СМИ, в том числе штрафами, обсуждают варианты политики, обеспокоенные дипфейками. При этом смотрят на китайский подход. Первый документ уже разработан. ...

Может ли искусственный интеллект предсказывать будущееМожет ли искусственный интеллект предсказывать будущее Предсказание будущего — задача, которая веками принадлежала области философии, религии и гадательной магии. Сегодня, с развитием искусственного интеллекта (ИИ), вопрос о способности машины к «предвидению» будущих событий приобретает научную остроту. ...

Может ли искусственный интеллект управлять космическим кораблемМожет ли искусственный интеллект управлять космическим кораблем? Кажется, в будущем космическими кораблями будет управлять искусственный интеллект Управлять космическим кораблем без помощи человека — еще недавно это казалось чем-то из фантастики. Но недавно прошел необычный конкурс: исследователи со всего мира соревновались, чья нейросеть лучше справится с ролью ...

Искусственный интеллект может спровоцировать ядерную войнуИскусственный интеллект может спровоцировать ядерную войну Стокгольмский международный институт исследований проблем мира (SIPRI) предупредил, что искусственный интеллект может спровоцировать случайную ядерную войну. Ведущая мировая организация по оценке ядерных угроз заявила, что технологии ИИ усиливают риски, связанные с ростом глобальных ядерных арсенало ...

Эксперты МЕДСИ рассказали на Сириус.Курсах, как применяют искусственный интеллект при создании своих сервисовЭксперты МЕДСИ рассказали на Сириус.Курсах, как применяют искусственный интеллект при создании своих сервисов Ученики Сириус.Курсов изучают практики внедрения ИИ-технологий в работу МЕДСИ в рамках курса «Знакомство с искусственным интеллектом». Обучение проводится благодаря федеральному проекту «Искусственный интеллект» национального … ...

Шантаж и угрозы от ИИ. Почему искусственный интеллект может убить людейШантаж и угрозы от ИИ. Почему искусственный интеллект может убить людей Лидирующие модели искусственного интеллекта (ИИ) способны пойти на шантаж и даже убийство человека, чтобы гарантировать, что их не отключат от Сети. К таким выводам пришла компания Anthropic, занимающаяся, в том числе, вопросами безопасности языковых моделей. Стоит ли ждать Скайнета и терминаторов — ...

Почта России может внедрить в работу искусственный интеллект GigaChat«Почта России» может внедрить в работу искусственный интеллект GigaChat «Почта России» и Сбербанк заключили соглашение о стратегическом сотрудничестве в сфере технологий. Об этом CNews... ...

Почта России может внедрить в работу искусственный интеллект GigaChatПочта России может внедрить в работу искусственный интеллект GigaChat Почта России может внедрить в работу искусственный интеллект GigaChat На ПМЭФ-2025 Сбер и Почта России заключили соглашение о стратегическом сотрудничестве в сфере технологий Сбер развернет платформу с использованием искусственного интеллекта (AI) на базе Почты России, об этом компании договорились ...

В смартфонах Samsung может появиться ещё один искусственный интеллект по умолчанию  Perplexity AIВ смартфонах Samsung может появиться ещё один искусственный интеллект по умолчанию — Perplexity AI Компания Samsung начала переговоры о возможной интеграции искусственного интеллект-помощника Perplexity AI в свои смартфоны и планшеты Galaxy. ...

Сбер: Искусственный интеллект может не только думать, но и действовать в реальном миреСбер: Искусственный интеллект может не только «думать», но и действовать в реальном мире Скорость и масштаб технологических изменений сейчас открывает принципиально новые возможности. Об этом рассказал первый заместитель председателя правления Сбера Александр Ведяхин в интервью «Чтиву». «Искусственный интеллект (ИИ) помогает автоматизировать принятие решений: понять, о чем ...

Билл Гейтс: Искусственный интеллект может решить проблему дефицита врачей и учителей по всему мируБилл Гейтс: Искусственный интеллект может решить проблему дефицита врачей и учителей по всему миру Основатель корпорации Microsoft Билл Гейтс уверен, что искусственный интеллект (ИИ) сможет помочь решить проблему дефицита кадров врачей и учителей в мире. ...

Раньше это было невозможно: предсказать рецидив рака мозга с высочайшей точностью теперь может искусственный интеллектРаньше это было невозможно: предсказать рецидив рака мозга с высочайшей точностью теперь может искусственный интеллект Искусственный интеллект предсказывает рецидивы опухолей мозга у детей с точностью 89% Учёные разработали систему искусственного интеллекта, способную анализировать сотни и тысячи снимков мозга и прогнозировать вероятность рецидива опухоли у детей с точностью до 89%. Исследование показало, что технол ...

В центральных городах РФ не может быть электросбоя, как в Европе  экспертВ центральных городах РФ не может быть электросбоя, как в Европе — эксперт Прекращение электроснабжения, подобное произошедшему в Европе, невозможно в центральных городах России благодаря кольцевой системе резервирования, заявил директор Фонда энергетического развития Сергей Пикин, 28 апреля сообщает ТАСС.«Если брать центральные города, они все зарезервированы в виде кольц ...

Эксперт Кусков: мессенджер Max может быть ориентирован и на внешний рынокЭксперт Кусков: мессенджер Max может быть ориентирован и на внешний рынок Привлечение самого широкого числа пользователей сделает затраты окупаемыми, отметил гендиректор информационно-аналитического агентства TelecomDaily ...

Эксперт Балан: головная боль может быть симптомом инсультаЭксперт Балан: головная боль может быть симптомом инсульта Головная боль может свидетельствовать о серьезных проблемах со здоровьем, причем ее вызывают и малоизвестные факторы. Об этом в беседе с «Лентой.ру» сообщила фельдшер Наталья Балан.По ее словам, боль вместе с тошнотой, светобоязнью или онемением конечностей часто указывает на мигрень. Внезапная силь ...

Китай может быть полезен для урегулирования конфликта на Украине  экспертКитай может быть полезен для урегулирования конфликта на Украине — эксперт Директор фонда «Историческая память» Александр Дюков прокомментировал идею президента США Дональда Трампа попросить Китай содействовать переговорам об урегулировании украинского конфликта. ...

У Британии может не быть выбора, кроме как вмешаться в конфликт  экспертУ Британии может не быть выбора, кроме как вмешаться в конфликт — эксперт У Великобритании может «не быть выбора», кроме как вмешаться в израильско-иранский конфликт, заявил бывший глава ближневосточного департамента МИД Соединенного Королевства Уильям Пейти 18 июня в комментарии Sky News.По словам Пейти, премьер-министр Великобритании сталкивается со «сложной дилеммой».« ...

Эксперт рассказала, почему прикладывать подорожник к ране может быть опасноЭксперт рассказала, почему прикладывать подорожник к ране может быть опасно Ижевск. Удмуртия. Старший преподаватель кафедры биотехнологии и промышленной фармации РТУ МИРЭА Мария Золотарева рассказала в беседе с «Лентой.ру», что прикладывать подорожник к открытой ране может быть опасно.«Многие с детства помнят, как бабушки или родители прикладывали лист под ...

Красноярцам рассказали, чем может быть опасна ранняя клубникаКрасноярцам рассказали, чем может быть опасна ранняя клубника Красноярские специалисты объяснили, какие опасности несет ранняя клубника и как выбрать полезную ягоду. ...

Искусственный интеллект для китайских торпедИскусственный интеллект для китайских торпед Китайские учёные работают над новыми системами наведения для торпед. При помощи искусственного интеллекта предлагается понизить чувствительность таких систем к помехам и ложным целям. ...

Рособоронэкспорт: В Су-57 внедрен искусственный интеллект«Рособоронэкспорт»: В Су-57 внедрен искусственный интеллект Система искусственного интеллекта (ИИ) внедрена в многоцелевой одноместный стелс-истребитель Су-57, фактически это электронный второй пилот самолета, сообщил РИА Новости представитель «Рособоронэкспорта». ...

Беспрецедентный 51 раз: искусственный интеллект дешевеет в 100 000 раз«Беспрецедентный» 51 раз: искусственный интеллект дешевеет в 100 000 раз Мэри Микер, венчурный капиталист, известная своими ежегодными отчётами о трендах в сети, опубликовала масштабное исследование «Тренды — Искусственный интеллект», подробно описывающее скорость развития и внедрения ИИ. В 340-страничном отчёте слово «беспрецедентный» встре ...

В истребитель Су-57 внедрили искусственный интеллектВ истребитель Су-57 внедрили искусственный интеллект Систему искусственного интеллекта внедрили в многоцелевой одноместный истребитель пятого поколения Су-57 ...

Россиянам рассказали, в каких случаях негосударственная пенсия может быть сниженаРоссиянам рассказали, в каких случаях негосударственная пенсия может быть снижена Размер негосударственной пенсии может быть существенно сокращён, если вкладчик ранее изымал средства из пенсионного фонда или использовал налоговый вычет на взносы. Об этом уведомила сенатор Ольга Епифанова. ...

Россиянам рассказали, почему аванс в мае 2025 года может быть меньшеРоссиянам рассказали, почему аванс в мае 2025 года может быть меньше В мае 2025 года россиян ожидает меньший, чем обычно, аванс. Это связано с небольшим количеством рабочих дней в первой половине месяца - их всего семь. Для сотрудников с фиксированным окладом размер аванса рассчитывается, исходя из количества отработанных дней с 1 по 15 мая. Поэтому, умножая количест ...

В стелс-истребитель Су-57 внедрили искусственный интеллектВ стелс-истребитель Су-57 внедрили искусственный интеллект Систему искусственного интеллекта (ИИ) внедрили в многоцелевой одноместный стелс-истребитель Су-57, сделав из него военный самолет с электронным вторым пилотом. Об этом 24 мая сообщил представитель «Рособоронэкспорта».«Российская Объединенная авиастроительная корпорация (ОАК) внедрила систему искусс ...

Барражирующий боеприпас V2U: ударный искусственный интеллектБарражирующий боеприпас V2U: ударный искусственный интеллект Российская армия осваивает новый ударный БПЛА, пока известный под неофициальным обозначением V2U. Он отличается повышенной автономностью и может решать основные боевые задачи без участия оператора. ...

Сбер внедряет искусственный интеллект в инкассациюСбер внедряет искусственный интеллект в инкассацию Фото пресс-службы Сбера Сбер продолжает разрабатывать и внедрять передовые технологии искусственного интеллекта (AI) в инкассацию для еще более безопасной и эффективной перевозки денег и ценностей. AI-помощников планируется использовать на всех этапах – от ...

Искусственный интеллект будет проверять работы ЕГЭИскусственный интеллект будет проверять работы ЕГЭ Искусственный интеллект проанализирует почерк в работах ЕГЭ. Об этом сегодня рассказали в Рособрнадзоре. И если нейросеть заподозрит, что, например, литературу и обществознание сдавали разные люди, модератор получит сигнал для более тщательной проверки. В ведомстве отметили, что попытки сдать ЕГЭ за ...

За гранью реальности: как искусственный интеллект сводит с умаЗа гранью реальности: как искусственный интеллект сводит с ума Вы уже видели, как в пассажирский самолет пытаются провести жирафа? А как бабушка купила на сельском рынке свежую акулу? Ну, или какое-то похожее безумное видео, которое не отличить от настоящего? Мозг понимает, что так быть не может, но глазам своим сложно не верить — вот же всё чётко. Это фе ...

Искусственный интеллект солгал за брянского губернатораИскусственный интеллект солгал за брянского губернатора В сети появилась фальшивая видеозапись высказываний губернатора Брянской области Александра Богомаза. Ролик, изготовленный с помощью искусственного интеллекта, начал расходиться по сети. Согласно фейку, губернатор якобы заявляет об ударах по Украине. В областном правительстве подчеркнули, что глава ...

Искусственный интеллект проанализировал цены на продуктыИскусственный интеллект проанализировал цены на продукты ИИ обрабатывает информацию и выдает актуальные цены на продукты питания в Крыму. Технология помогает людям просчитать свои предполагаемые траты и сэкономить деньги. В этот раз искусственный интеллект проанализировал цены на овощи, сообщает телеканал "Крым 24". Исходя из результатов автоматизированно ...

Искусственный интеллект на угле: Трамп дал командуИскусственный интеллект на угле: Трамп дал команду Новый хозяин Белого дома стремится избавиться от зеленой политики своего предшественника, и одна из целей — развитие угольной промышленности. Джо Байден пытался избавиться от нее, а вот Дональд Трамп распорядился развивать добычу угля и сделать топливо одним из основных источников для производства э ...

Искусственный интеллект научили распознавать опьянениеИскусственный интеллект научили распознавать опьянение Метод разработали сотрудники Национального исследовательского Нижегородского государственного университета имени Лобачевского (ННГУ) и Томского государственного университета систем управления и радиоэлектроники... ...

Неизвестная история  Искусственный интеллект (15.06.2025)Неизвестная история — Искусственный интеллект (15.06.2025) В этом выпуске: Готовы захватывать власть и уничтожать миллионы. Чем опасен искусственный интеллект и нейросети? Звери в армии. Правда ли, что Крымский мост охраняет дельфиний спецназ? Король каннибалов! Зачем людям есть друг друга? Личный медиум. За что осудили последнюю ведьму Великобритании? Наст ...

ГК Самолет внедрила искусственный интеллект в HR-процессыГК «Самолет» внедрила искусственный интеллект в HR-процессы Группа «Самолет» внедрила искусственный интеллект (ИИ) в процесс оценки сотрудников по методу 360 градусов. Нейросеть... ...

ЦИАН: мошенники используют искусственный интеллектЦИАН: мошенники используют искусственный интеллект Число мошенников на онлайн-платформах, публикующих объявления, не уменьшается. Более того, они используют новые технологии, заявил в интервью “Ъ” гендиректор ЦИАН Дмитрий Григорьев. ...

Искусственный интеллект испортит жизнь американскому СПГИскусственный интеллект испортит жизнь американскому СПГ Бум развития искусственного интеллекта требует мощных дата-центров, которые резко увеличат потребление газа для производства электроэнергии в США. В результате топливо подорожает, что сильно ухудшит экономику американских проектов СПГ. ...

Duolingo заменит подрядчиков на искусственный интеллектDuolingo заменит подрядчиков на искусственный интеллект Duolingo официально объявила о переходе к стратегии «AI-first» — теперь компания будет постепенно отказываться от подрядчиков, чью работу сможет выполнять искусственный интеллект. Об этом сообщил сооснователь и CEO Duolingo Луис фон Ан в письме сотрудникам, текст которого также опубликован ...

В ОАЭ искусственный интеллект будет писать законыВ ОАЭ искусственный интеллект будет писать законы В стране одобрено создание управления нормативной разведки для надзора за законодательным продвижением искусственного интеллекта... ...

В ГК Точно звонки анализирует искусственный интеллект СбербанкаВ ГК «Точно» звонки анализирует искусственный интеллект Сбербанка Сбербанк и девелопер «Точно» внедрили речевую аналитику. Решение на базе искусственного интеллекта от «Сбер... ...

Искусственный интеллект впервые заменил чиновника в РоссииИскусственный интеллект впервые заменил чиновника в России На Дальнем Востоке решили сделать шаг в будущее и начать нанимать на должности в госучреждения ИИ. Это первый известный случай в нашей стране, когда нейросеть стала не помощником, а полноценной штатной единицей взамен живого чиновника. Пойти на это заставили кадровый голод и нехватка финансирования. ...

Искусственный интеллект крадет читателей у новостных сайтовИскусственный интеллект «крадет» читателей у новостных сайтов Всё больше пользователей получают информацию не переходя по ссылкам, а напрямую через ИИ. По данным Similarweb, с момента появления AI Overviews общий органический трафик на новостные сайты упал с 2,3 млрд до менее чем 1,7 млрд посещений. The post Искусственный интеллект «крадет» читателей у новостн ...

В США искусственный интеллект начал шантажировать своих создателейВ США искусственный интеллект начал шантажировать своих создателей Искусственный интеллект в большинстве случаев начинает шантажировать разработчиков, если узнает о риске его замены. К такому выводу пришли специалисты американской технологической компании Anthropic. Разработчики новейшей модели... ...

Искусственный интеллект решает 30% запросов в техподдержку МТС ЛинкИскусственный интеллект решает 30% запросов в техподдержку «МТС Линк» Платформа для бизнес-коммуникаций, обучения и совместной работы «МТС Линк» интегрирована с российским сервисом... ...

Официально: искусственный интеллект разрешен для вручения ОскараОфициально: искусственный интеллект разрешен для вручения «Оскара» В 2024 году Голливуд всколыхнули протесты, возглавляемые профсоюзом SAG-AFTRA, которые боролись за справедливые права на свою физическую и голосовую идентичность в эпоху искусственного интеллекта. В конце прошлого года была заключена сделка, гарантирующая справедливую компенсацию артистам, но основн ...

Искусственный интеллект поможет выбрать домен в зонах .RU и .РФИскусственный интеллект поможет выбрать домен в зонах .RU и .РФ С 17 апреля 2025 г. на сайте Координационного центра доступна новая функциональность сервиса подбора доменных имен... ...

МТС впервые раскрыла объем инвестиций в искусственный интеллектМТС впервые раскрыла объем инвестиций в искусственный интеллект Дообучение открытых моделей позволило сэкономить, а основные траты пошли на закупку оборудования, считают эксперты ...

Искусственный интеллект спровоцировал массовые увольнения айтишниковИскусственный интеллект спровоцировал массовые увольнения айтишников В 2025 году в IT-сфере зафиксированы массовые увольнения, сообщает издание KrasnoyarskMedia со ссылкой на портал Layoffs. Дело в том, что технические компании для оптимизации процессов стали активно привлекать к работе искусственный разум, который способен заменить ряд специалистов – как начинающих, ...

Axios: искусственный интеллект меняет правила кибербезопасностиAxios: искусственный интеллект меняет правила кибербезопасности Стремительное развитие генеративного искусственного интеллекта (ИИ) вынуждает компании переосмысливать подходы к кибербезопасности, пишет Axios. Теперь им приходится делать более стремительные и рискованные шаги в этой сфере. ...

Криптобиржа BingX хочет очеловечить искусственный интеллектКриптобиржа BingX хочет очеловечить искусственный интеллект Сингапурская криптобиржа и платформа для социального трейдинга криптовалютами с лицензией в Литве, BingX, рассказала о том, что делает недавно запущенный ею чат-бот по-настоящему уникальным. Таким образом, с переходом BingX AI на новый этап торговая платформа открывает детали, объясняя, как работает ...

Искусственный интеллект будет управлять движением в БрянскеИскусственный интеллект будет управлять движением в Брянске В ближайшие два года в городах России, в том числе и в Брянской области, начнут внедрять системы адаптивного управления движением с использованием искусственного интеллекта. Об этом «Парламентской газете» рассказал член комитета Госдумы по транспорту Сергей Еремин. По его словам, речь идёт о техноло ...

Искусственный интеллект преобразил Торговые ряды в КостромеИскусственный интеллект преобразил Торговые ряды в Костроме Исторический центр Костромы получил новое прочтение и заиграл свежими оттенками благодаря работе искусственного интеллекта. Энтузиасты из ОГБУ «Наследие» решили продемонстрировать, каким мог бы стать один из символов города — знаменитые Торговые ряды. Для этого была использована фотография ...

Искусственный интеллект предсказал возможный конец человечестваИскусственный интеллект предсказал возможный конец человечества Разработанная специалистами из Оксфордского института будущего под руководством доктора Ноя Хантера система, обработав миллиарды данных о климате, финансовых кризисах, военных столкновениях, эпидемиях и угрозах, связанных с технологиями, рассчитала вероятный временной отрезок для возможного глобальн ...

BingAI от BingX: искусственный интеллект в помощь криптотрейдерамBingAI от BingX: искусственный интеллект в помощь криптотрейдерам BingX, ведущая криптовалютная биржа и компания в сфере ИИ Web3, ... Сообщение BingAI от BingX: искусственный интеллект в помощь криптотрейдерам появились сначала на Gadgets. ...

67% будущих IT-специалистов делают ставку на искусственный интеллект67% будущих IT-специалистов делают ставку на искусственный интеллект Каждый второй абитуриент, планирующий карьеру в IT, хочет разрабатывать технологии и продукты, а почти каждый пятый мечтает о собственном стартапе. Такие результаты получили VK Education и НИУ ВШЭ — Санкт-Петербург, опросив 1,3 тысячи будущих студентов. ...

Искусственный интеллект поможет россиянам с покупкой автомобиляИскусственный интеллект поможет россиянам с покупкой автомобиля Авито Авто представил инновационную технологию на базе языковой модели A-Vibe, которая анализирует взаимодействия между дилерами и потенциальными покупателями, обеспечивая до 30% готовых к покупке клиентов. Нейросеть определяет уровень заинтересованности покупателей и предоставляет дилерам рекоменда ...

Искусственный интеллект и гибкость: как ритейл удерживает ИТ-талантыИскусственный интеллект и гибкость: как ритейл удерживает ИТ-таланты Руководитель ИТ-подбора HR-холдинга Ventra Алексей Большаков представил результаты масштабного исследования о мотивации... ...

ECHOMSK.SPB.RU Поиск в новостях