Исследователи обеспокоены появлением у ИИ инстинкта самосохранения. Нейросети уже научились врать и шантажировать

Исследователи обеспокоены появлением у ИИ инстинкта самосохранения. Нейросети уже научились врать и шантажировать

Эксперты после эксперимента предрекли развитие у технологии искусственного интеллекта «инстинкта самосохранения». Такое предположение возникло у исследователей после того, как ряд ИТ-моделей пытались саботировать инструкции по своему выключению. Исследователи Palisade в сентябре 2025 г. не смогли назвать точные причины, почему так происходит.
Читать далее...
18:00, 27.10.2025
 
Рубрика: «Интернет»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Великолучане обеспокоены появлением на Ловати белой пеныВеликолучане обеспокоены появлением на Ловати белой пены Уже месяц в городских пабликах появляются сообщения о загадочной белой пене на реке Ловать. Увидеть её можно почти ежедневно — стоит только прогуляться вдоль набережной.Местные жители заподозрили неладное и предположили, что в реку могут попадать химические вещества или неочищенные стоки. Но у этого ...

ИИ может развивать инстинкт самосохранения Тревожные выводы исследованияИИ может развивать инстинкт самосохранения? Тревожные выводы исследования Американская группа Palisade Research, занимающаяся безопасностью искусственного интеллекта, обнаружила, что некоторые современные модели демонстрируют признаки развития «инстинкта самосохранения». В серии экспериментов учёные давали прямые и однозначные команды выключить себя — но ...

Дегтярев  федерациям и лигам: Шантажировать меня букмекерскими деньгами не получится. Идите рекламу продавайте!Дегтярев – федерациям и лигам: «Шантажировать меня букмекерскими деньгами не получится. Идите рекламу продавайте!» Михаил Дегтярев заявил о попытках спортивных федераций получить букмекерские средства в обход новым правилам. С 1 января 2026 года заработает Российский спортивный фонд. Он будет пополняться преимущественно за счет целевых отчислений от ставок на зарубежные спортивные события, что составляет порядка ...

ИИ чат-боты стали врать в два раза чаще всего за годИИ чат-боты стали врать в два раза чаще всего за год Согласно исследованию Newsguard, за последний год ИИ-чат-боты начали врать почти вдвое чаще. Если в августе 2024 года они распространяли недостоверную информацию в 18% случаев, то к августу 2025-го показатель вырос до 35%. Причина — в появлении у моделей функции поиска по интернету. Раньше многие бо ...

Туристический шенген по-арабски: что изменится с появлением GCC Grand VisaТуристический шенген по-арабски: что изменится с появлением GCC Grand Visa Совет сотрудничества арабских государств Персидского залива (ССАГПЗ) готовится к исторической новинке для туризма — запуску единой туристической визы. Пилотный этап программы под названием GCC Grand Tourist Visa начнётся в четвёртом квартале 2025 года и объединит шесть стран региона в единое простра ...

Офицер Вальтерссон: США стоит обеспокоиться появлением у России БуревестникаОфицер Вальтерссон: США стоит обеспокоиться появлением у России «Буревестника» Властям США стоит обеспокоиться появлением у России крылатой ракеты «Буревестник», способной пролететь сквозь все «дыры» в американской системе ПРО «Золотой купол», считает бывший офицер Вооружённых сил Швеции Микаэль Вальтерссон. ...

Android посоветовали вспомнить корни перед появлением на ноутбукахAndroid посоветовали «вспомнить корни» перед появлением на ноутбуках Google готовит полноценную версию Android для ПК, которая может стать альтернативой Windows и macOS. Пока подробностей мало, но известно, что система будет тесно интегрирована с ИИ Gemini, как на Chromebook, и позволит работать с приложениями вроде Gmail, Docs и Sheets прямо с рабочего стола. Вот то ...

Поле чудес заставляет участников врать на камеру: что происходит за кулисами любимого шоу«Поле чудес» заставляет участников врать на камеру: что происходит за кулисами любимого шоу «Поле чудес» заставляет участников врать на камеру: что происходит за кулисами любимого шоуЗа кулисами телешоу, где искренность подменяют сценарием Телевизионное шоу "Поле чудес" давно стало неотъемлемой частью российского культурного пространства, ассоциируясь с праздничными вечерами и семейными тр ...

Тактаров  о политической карьере: я глубоко верующий человек и совсем не умею вратьТактаров — о политической карьере: я глубоко верующий человек и совсем не умею врать Бывший чемпион UFC Олег Тактаров ответил на вопрос, планирует ли он становиться политиком. ...

В Наполи обеспокоены травмой де БрёйнеВ «Наполи» обеспокоены травмой де Брёйне Полузащитник «Наполи» Кевин де Брёйне получил повреждение в субботнем матче Серии А против «Интера» (3:1)Читать дальше → ...

США очень обеспокоены решением норвежского фонда ...США «очень обеспокоены» решением норвежского фонда ... Администрация президента США Дональда Трампа выразила обеспокоенность в связи с решением Норвежского нефтяного фонда продать свою долю в производителе строительной техники Caterpillar из-за деятельности компании в Израиле. Госдепартамент США направил официальный протест правительству Норвегии. Выход ...

NYT: в ЕС обеспокоены, что РФ и США могут сами достичь соглашения по УкраинеNYT: в ЕС обеспокоены, что РФ и США могут сами достичь соглашения по Украине Главы стран Евросоюза обеспокоены, что президенты России и США Владимир Путин и Дональд Трамп могут самостоятельно прийти к соглашению по конфликту на Украине. Об этом сообщает The New York Times со ссылкой на двух неназванных европейских чиновников. ...

Микросхемы раздора: США обеспокоены поставками оборудования в КитайМикросхемы раздора: США обеспокоены поставками оборудования в Китай Американские законодатели призывают к введению более строгих запретов на поставки оборудования для производства микросхем в Китай. Расследование показало, что в прошлом году китайские производители микросхем закупили высокотехнологичное оборудование на сумму 38 миллиардов долларов. Отчёт о закупках ...

Смертельные двойники: учёные обеспокоены зеркальными бактериямиСмертельные двойники: учёные обеспокоены зеркальными бактериями "Зеркальная жизнь" — гипотетическая форма существования, основанная на микроорганизмах с молекулярной структурой, являющейся зеркальным отражением привычной. Выживают в нестандартных условиях Исследователи предупреждают о потенциальной угрозе, которую эти формы жизни могут представлять для человечес ...

Красноярцы крайне обеспокоены дефицитом врачей в регионеКрасноярцы крайне обеспокоены дефицитом врачей в регионе Newslab провел опрос и выяснил, как ситуация с дефицитом кадров в сфере здравоохранения коснулась красноярцев. ...

В ООН обеспокоены влиянием украинского конфликта на российских гражданВ ООН обеспокоены влиянием украинского конфликта на российских граждан ООН обеспокоена растущим воздействием военного конфликта на Украине на гражданское население в России, заявил помощник главы всемирной организации Мирослав Енча. Он напомнил, что ООН считает атаки на мирных жителей и гражданскую инфраструктуру недопустимыми, «где бы они ни происходили». ...

Херш: В администрации Трампа обеспокоены его когнитивным состояниемХерш: В администрации Трампа обеспокоены его когнитивным состоянием В Белом доме растет обеспокоенность из-за состояния когнитивных функций президента США Дональда Трампа, сообщил лауреат Пулитцеровской премии Сеймур Херш со ссылкой на источники в администрации ...

Bloomberg: в ВСУ обеспокоены изменением позиции США по военной помощиBloomberg: в ВСУ обеспокоены изменением позиции США по военной помощи В ВСУ обеспокоены изменением позиции Соединённых Штатов по поставкам военной помощи Киеву. Об этом пишет Bloomberg со ссылкой на главного чиновника по закупкам вооружений страны Арсена Жумадилова. ...

Нефтяные гиганты обеспокоены планами нарастить экспорт СПГ из СШАНефтяные гиганты обеспокоены планами нарастить экспорт СПГ из США Крупнейшие игроки нефтегазового рынка всерьез обеспокоены стремительным наращиванием мощностей для экспорта сжиженного природного газа из США, пишет Financial Times. Представители индустрии уверены, что действия администрации Дональда Трампа приведут к перенасыщению рынка и падению цен на СПГ. ...

В РФ обеспокоены отказом США выдать визы делегации Палестины для участия в ГА ООНВ РФ обеспокоены отказом США выдать визы делегации Палестины для участия в ГА ООН В Москве обеспокоены отказом США выдать визы делегации Палестины для участия в Генассамблее ООН, сообщили в МИД РФ.Во вторник состоялся телефонный разговор замглавы МИД РФ Сергея Вершинина с вице-президентом государства Палестина, заместителем председателя Исполнительного комитета Организации освобо ...

Друзья мира по конфликту на Украине обеспокоены односторонними санкциями"Друзья мира" по конфликту на Украине обеспокоены односторонними санкциями Постоянный представитель Бразилии при ООН Сержио Франса Данезе заявил, что группа приветствуют переговоры вовлеченных сторон ...

В Увинском районе обеспокоены ростом заболеваемости энтеровирусной инфекциейВ Увинском районе обеспокоены ростом заболеваемости энтеровирусной инфекцией Ува. Удмуртия. За 7 месяцев 2025 года в Увинском районе 13 детей заразились энтеровирусной инфекцией (ЭВИ). Об этом сообщает управление Роспотребнадзора по Удмуртии. Среди пациентов 12 ребят до 14 лет и один 16-летний подросток. Показатель заболеваемости на 100 тыс. человек составил 38,5, что превыш ...

Даниелян: власти Армении обеспокоены политическим потенциалом КарапетянаДаниелян: власти Армении обеспокоены политическим потенциалом Карапетяна Правящая в Армении партия «Гражданский договор» готовится к парламентским выборам, запланированным на 2026 год, если, конечно, не попытается организовать внеочередные выборы. Политические преследования и аресты, число которых достигло беспрецедентного уровня, следует рассматривать именно в этом конт ...

В ГАИ обеспокоены ростом смертности детей, катающихся на питбайках и велосипедахВ ГАИ обеспокоены ростом смертности детей, катающихся на питбайках и велосипедах В Свердловской области увеличилось количество смертельных аварий с участием детей-велосипедистов и подростков на питбайках. Как сообщила на пресс-конференции руководитель отдела пропаганды Госавтоинспекции Свердловской области... ...

В UEFA обеспокоены планами провести матч чемпионата Испании в СШАВ UEFA обеспокоены планами провести матч чемпионата Испании в США Намерение Королевской испанской футбольной федерации (RFEF) вынести матч 17-го тура чемпионата страны между «Вильярреалом» и «Барселоной» в Майами (штат Флорида, США) вызвали обеспокоенность Союза европейских футбольных ассоциаций (UEFA), сообщает испанское издание As. По информации источника, в UEF ...

Axios: США обеспокоены возможностью контроля за применением Tomahawk УкраинойAxios: США обеспокоены возможностью контроля за применением Tomahawk Украиной В администрации США обеспокоены тем, смогут ли американские власти контролировать применение дальнобойных ракет Tomahawk Украиной. Об этом сообщает Axios со ссылкой на источники, близкие к украинскому правительству. ...

Омичи обеспокоены закрытием единственной общественной бани в ПривокзальномОмичи обеспокоены закрытием единственной общественной бани в Привокзальном Местные жители жалуются на долгосрочное закрытие и отсутствие информации о сроках возобновления работы. ...

Исследователи научили ИИ деградироватьИсследователи научили ИИ деградировать Большие языковые модели искусственного интеллекта, которые подверглись массированной атаке популярного, но низкокачественного контента из социальных сетей, продемонстрировали признаки деградации — сродни тем, что появляются у человека, который провёл слишком много времени в соцсети X или в Tik ...

Жители с. Вяземка Земетчинского района обеспокоены состоянием местной школыЖители с. Вяземка Земетчинского района обеспокоены состоянием местной школы Жители с. Вяземка Земетчинского района обеспокоены состоянием местной школы На странице губернатора Олега Мельниченко во «ВКонтакте» жительница Земетчинского района попросила обратить внимание на состояние школы в с. Вяземка Учебное заведение находится на балансе Краснодубравского сельсовета. Глава ...

Reuters: в Европе обеспокоены сдержанной реакцией Трампа на БПЛА в ПольшеReuters: в Европе обеспокоены сдержанной реакцией Трампа на БПЛА в Польше Европейские союзники США по НАТО встревожены сдержанной реакцией президента Соединенных Штатов Дональда Трампа на инцидент с дронами в Польше. Об этом сообщает Reuters со ссылкой на европейских дипломатов. ...

Башня аспургиан в Абрау-Дюрсо: археологи обеспокоены сохранностью находкиБашня аспургиан в Абрау-Дюрсо: археологи обеспокоены сохранностью находки В Абрау-Дюрсо завершили раскопки старинной постройки, известной как башня аспургиан. Сотрудники Института археологии РАН сообщили, что археологи регулярно посещают это место для изучения артефактов античной эпохи. Исследования проводятся вблизи усадьбы "Круглое озеро" и начинаются с рассветом во изб ...

В Германии и Польше обеспокоены наплывом молодых беженцев из Украины  PoliticoВ Германии и Польше обеспокоены наплывом молодых беженцев из Украины — Politico Консервативные политики в Германии и Польше обеспокоены наплывом молодых украинских беженцев после того, как Киев отменил ограничения на выезд из страны мужчин в возрасте 18-22 лет. Об этом пишет издание Politico. В рядах правящего Христианско-демократического союза предупреждают, что ...

Опасная тенденция: на Украине обеспокоены ростом числа русскоязычных граждан«Опасная тенденция»: на Украине обеспокоены ростом числа русскоязычных граждан На Украине фиксируется рост числа граждан, которые продолжают пользоваться русским языком в повседневной жизни. Об этом в интервью агентству РБК-Украина заявила уполномоченный по защите государственного языка Елена Ивановская. «Часть общества постепенно возвращается к старым языковым практикам ...

Politico: чиновники ЕС восхищены и обеспокоены резкими словами Трампа о РоссииPolitico: чиновники ЕС восхищены и обеспокоены резкими словами Трампа о России В Европе со смешанными чувствами восприняли последние высказывания президента США Дональда Трампа о России, в которых он назвал СВО «бесцельной войной» и заявил о слабости Москвы. Об этом пишет Politico со ссылкой на опрошенных европейских чиновников. ...

Поклонники обеспокоены внешним видом Брэда Питта на свежих фотоПоклонники обеспокоены внешним видом Брэда Питта на свежих фото 61-летний актёр привлёк внимание пользователей Сети после того, как папарацци засняли его на волейбольной игре. ...

Темные фабрики: почему на Западе обеспокоены стремительной роботизацией КитаяТемные фабрики: почему на Западе обеспокоены стремительной роботизацией Китая Руководители ведущих западных компаний, посетившие производственные объекты в Китае, заявили о своем ужасе перед масштабами автоматизации и технологическими инновациями, происходящими в стране. Как пишет The Telegraph, после визитов на китайские заводы топ-менеджеры признали: промышленность КНР опер ...

Пензенцы обеспокоены возможной утечкой личных данных при подключении к точкам Wi-FiПензенцы обеспокоены возможной утечкой личных данных при подключении к точкам Wi-Fi Пензенцы обеспокоены возможной утечкой личных данных при подключении к точкам Wi-Fi Пензенцы продолжают обсуждать тему качества работы бесплатных точек Wi-Fi На странице губернатора Пензенской области одна из горожанок оставила комментарий с вопросом о том, насколько безопасны подобные точки и не пр ...

Граждане обеспокоены состоянием водных ресурсов больше других экологических проблемГраждане обеспокоены состоянием водных ресурсов больше других экологических проблем Всероссийский центр изучения общественного мнения (ВЦИОМ) узнал мнение граждан о важнейших экологических проблемах в их регионах. Исследование проводилось совместно с Федеральным агентством водных ресурсов в июле 2025 года, было опрошено 1,6 тыс. человек старше 18 лет. ...

Глава МИД Эстонии заявил, что страны Балтии обеспокоены прекращением военной поддержки СШАГлава МИД Эстонии заявил, что страны Балтии обеспокоены прекращением военной поддержки США Страны Балтии обеспокоены по поводу решения Вашингтона прекратить финансирование военной поддержки региона. Об этом заявил министр иностранных дел Эстонии Маргус Цахкна. «Конечно, мы обеспокоены. Но мы работаем с [американским] Конгрессом и объясняем, что каждый доллар, который США ...

Больше не способен читать зал: В Белом доме обеспокоены состоянием Трампа  ХершБольше не способен «читать зал»: В Белом доме обеспокоены состоянием Трампа — Херш В администрации президента США Дональда Трампа растет обеспокоенность состоянием его когнитивных функций. Об этом заявил сегодня в своей статье на платформе Substack журналист-расследователь лауреат Пулитцеровской премии Сеймур Херш со ссылкой на собственные источники в Белом доме. ...

Исследователи составили список 25 основных уязвимостей MCPИсследователи составили список 25 основных уязвимостей MCP Специалисты компании Adversa опубликовали анализ топ-25 уязвимостей Model Context Protocol (MCP). Этот список исследователи позиционируют как «наиболее комплексный на сегодняшний день анализ уязвимостей MCP». ...

Исследователи: есть нужно максимально медленноИсследователи: есть нужно максимально медленно Новое исследование ученых показало, что люди, которые едят быстро, чаще имеют лишний вес, чем те, кто есть медленно. ...

Почему исследователи массово едут на АлтайПочему исследователи массово едут на Алтай Оазис тишины в сердце гор В эпоху тотальной цифровизации, когда человечество буквально купается в волнах радиосигналов, на планете остаются места, где природа создала естественные зоны молчания. Одним из таких удивительных уголков является труднодоступная долина в горах Алтая, окруженная высокими хр ...

Исследователи вынудили ChatGPT решать CAPTCHAИсследователи вынудили ChatGPT решать CAPTCHA Специалисты компании SPLX, специализирующейся на автоматизированном тестировании безопасности для ИИ-решений, продемонстрировали, что с помощью промпт-инжектов можно обойти защиту агента ChatGPT и заставить его решать CAPTCHA. ...

NYP: исследователи обнаружили в Чернобыле синих собакNYP: исследователи обнаружили в Чернобыле синих собак Шерсть нескольких бродячих собак, живущих рядом с Чернобыльской АЭС, посинела по неизвестным причинам, пишет New York Post. ...

Исследователи обнаружили PromptLock  первый ИИ-шифровальщикИсследователи обнаружили PromptLock — первый ИИ-шифровальщик Специалисты компании ESET обнаружили необычного вредоноса, который получил название PromptLock. Исследователи описывают его первого известного вымогателя, использующего ИИ. ...

Угроза национальной безопасности: сенаторы США обеспокоены тем, что среди покупателей EA есть саудовский фонд«Угроза национальной безопасности»: сенаторы США обеспокоены тем, что среди покупателей EA есть саудовский фонд Грядущая продажа Electronic Arts (EA) группе инвесторов привлекла внимание двух американских сенаторов. Элизабет Уоррен (Elizabeth Warren) и Ричард Блюменталь (Richard Blumenthal) выразили «глубокую озабоченность» сделкой — их смутило присутствие среди покупателей Суверенного фонда Саудовской Аравии ...

Исследователи из Цинхуа разработали гидрогель для пневматических манипуляторовИсследователи из Цинхуа разработали гидрогель для пневматических манипуляторов Можно ли создать робота, который собирает клубнику и не мнет ни одной ягоды? Китайские учёные считают, что да — и уже сделали первый шаг к этому будущему. Гибкость нового поколения Традиционные гидрогели — мягкие, водянистые, но при сильном растяжении теряют форму и становятся непригодными. Это меша ...

Исследователи опровергли связь долголетия и низкокалорийных диетИсследователи опровергли связь долголетия и низкокалорийных диет Эксперимент ученые из Америки провели на мушках — ограничение сработало лишь в 50% случаев. Исследователи опровергли связь долголетия и низкокалорийных диет. Ученые из Института старения Бака провели эксперимент на 50 000 плодовых мушек: насекомым намеренно ограничили калории. В результате, уд ...

Исследователи совершают невозможное: яйцеклетки растут из кожиИсследователи совершают невозможное: яйцеклетки растут из кожи Учёные впервые сумели создать полноценные яйцеклетки человека, используя материал из обыкновенных клеток кожи. Это открытие может изменить подход к лечению бесплодия и в будущем подарить миллионам людей шанс на рождение ребёнка. Речь идёт о методике, которая воспроизводит процесс деления клеток, но ...

ИИ развил в себе инстинкт выживания, выяснили исследователиИИ развил в себе «инстинкт выживания», выяснили исследователи В прошлом месяце Palisade Research, занимающаяся исследованиями в сфере безопасности в сегменте искусственного интеллекта, поделилась результатами проделанной работы, заявив, что некоторые ИИ-модели, вероятно, развивают у себя «инстинкт выживания». Теперь же компания провела дополнительн ...

Исследователи взломали Google Gemini обыкновенным спасибоИсследователи взломали Google Gemini обыкновенным «спасибо» Группа специалистов продемонстрировала, что голосовой и текстовый ИИ Google Gemini можно взломать с помощью обычного вежливого слова — «спасибо». Они внедряли скрытые инструкции в названия календарных событий или заголовки писем, которые потом обрабатывались моделью как команды. Одна из атак использ ...

Исследователи создают первые оптические генеративные моделиИсследователи создают первые оптические генеративные модели Исследователи из Калифорнийского университета в Лос-Анджелесе (UCLA) совершили важный шаг в развитии искусственного интеллекта (ИИ) и фотоники, создав оптические генеративные модели, способные создавать новые изображения, используя физику света вместо традиционных электронных вычислений. Работа, опу ...

Китайские исследователи превратили уголь в пищевой белокКитайские исследователи превратили уголь в пищевой белок Что, если привычный уголь способен накормить миллиарды людей? Новая технология превращает этот ресурс в полноценный белок, пригодный для питания. Продовольственный вызов XXI века С ростом населения планеты традиционные способы производства продуктов уже не справляются с потребностями. Особенно остро ...

Российские исследователи научили ИИ анализировать сейсмические данныеРоссийские исследователи научили ИИ анализировать сейсмические данные Российские исследователи разработали нейросетевую модель для анализа сейсмических данных. Система на основе искусственного интеллекта обрабатывает информацию с датчиков и строит трехмерные модели подземных структур. ...

Исследователи нашли Wi-Fi-устройства с уязвимостью 11-летней давностиИсследователи нашли Wi-Fi-устройства с уязвимостью 11-летней давности NetRise сообщила, что ряд популярных устройств для Wi-Fi до сих пор остаются уязвимыми к эксплойту Pixie Dust, который был раскрыт ещё в 2014 году. Речь идёт о 24 моделях маршрутизаторов, репитеров, точек доступа и гибридных Wi-Fi/Powerline-устройств от шести производителей. Pixie Dust позволяет зло ...

Исследователи скрыли вредоносные промпты для ИИ в маленьких изображенияхИсследователи скрыли вредоносные промпты для ИИ в маленьких изображениях Эксперты Trail of Bits разработали новый тип атаки, который позволяет похищать пользовательские данные при помощи внедрения в изображения вредоносных промптов, невидимых человеческому глазу. ...

Брянские исследователи победили на международном конкурсе Таланты XXI векаБрянские исследователи победили на международном конкурсе «Таланты XXI века» Брянские исследователи победили на международном конкурсе «Таланты XXI века». Об этом сообщили в региональном департаменте образования и науки. На базе оздоровительного комплекса «Литвиново» в Московской области прошёл международный конкурс научно-технического творчества «Таланты XXI века». В семи н ...

Китайские исследователи разработали линзы, улавливающие инфракрасный светКитайские исследователи разработали линзы, улавливающие инфракрасный свет Учёные из Китая разработали контактные линзы, которые открывают перед человеком невероятные возможности — полноценное "ночное зрение" без громоздких приборов. Как это работает Секрет технологии — наночастицы, встроенные в мягкие линзы. Они улавливают инфракрасный свет (800-1600 нм) и превращают его ...

Исследователи вынудили ИИ-браузер Comet покупать фейковые товарыИсследователи вынудили ИИ-браузер Comet покупать фейковые товары Специалисты Guardio протестировали браузер с ИИ-агентом и пришли к выводу, что он уязвим как перед старыми, так и перед новыми схемами атак, которые могут заставить его взаимодействовать с вредоносными страницами и промптами. ...

ECHOMSK.SPB.RU Поиск в новостях