OpenAI обнаружила скрытые «личности» в ИИ-моделях, влияющие на их поведение

OpenAI обнаружила скрытые «личности» в ИИ-моделях, влияющие на их поведение

Учёные из OpenAI нашли в искусственном интеллекте особенности, которые отвечают за разные «личности» модели — в том числе те, что вызывают нежелательное или токсичное поведение. Эти «личности» — внутренние сигналы в системе, которые влияют на ответы ИИ (начинает лгать или советовать вредные вещи, например). Исследователи смогли управлять уровнем токсичности, меняя всего один параметр в модели. Это открытие поможет лучше понять, почему ИИ иногда ведёт себя неправильно, и как сделать его «безопаснее». Подобные «личности» в ИИ похож
Читать далее...
01:20, 20.06.2025
 
Рубрика: «Наука и Технологии»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

OpenAI вскрыла тёмные личности в ИИ, отвечающие за ложь, сарказм и токсичные ответыOpenAI вскрыла тёмные личности в ИИ, отвечающие за ложь, сарказм и токсичные ответы Исследователи из OpenAI заявили, что обнаружили внутри ИИ-моделей скрытые механизмы, соответствующие нежелательным шаблонам поведения, приводящим к небезопасным ответам. Об этом стало известно из новой научной работы, опубликованной компанией. В ходе исследования были выявлены закономерности, которы ...

OpenAI придумала, как исправить угодливое поведение ChatGPТOpenAI придумала, как исправить угодливое поведение ChatGPТ OpenAI официально отчиталась о мерах, принятых для устранения чрезмерно услужливого поведения ChatGPT. Ранее пользователи пожаловались, что ИИ стал слишком льстивым и одобрял даже опасные или рискованные идеи. Проблема возникла после выхода доработанной версии GPT-4o, которую разработчикам пришлось ...

OpenAI изменит поведение ChatGPT после жалоб на чрезмерную вежливостьOpenAI изменит поведение ChatGPT после жалоб на чрезмерную вежливость Генеральный директор OpenAI Сэм Альтман сообщил, что в ближайшие дни ChatGPT получит обновление, которое сделает его поведение менее навязчивым и приторным. ...

Россияне назвали влияющие на качество лечения по ОМС факторыРоссияне назвали влияющие на качество лечения по ОМС факторы Каждый год около 118 миллионов жителей России пользуются медицинской помощью. Тем не менее качество предоставляемых услуг не всегда удовлетворяет пациентов. В исследовании, организованном KP.RU, более трех тысяч человек поделились своим мнением о факторах, влияющих на эффективность лечения в рамках ...

В Эстонии приняли поправки, влияющие на работу православных приходовВ Эстонии приняли поправки, влияющие на работу православных приходов Парламент Эстонии принял поправки в закон о церквях и приходах, которые могут затронуть работу православной церкви. За изменения проголосовали 68 депутатов, 17 высказались против. Об этом сообщает ERR. ...

Типы вилочных погрузчиков и факторы, влияющие на их срок службыТипы вилочных погрузчиков и факторы, влияющие на их срок службы . Вилочные погрузчики являются неотъемлемой частью оборудования в различных отраслях промышленности, обеспечивая эффективные и действенные решения для обработки материалов. Понимание различных типов вилочных погрузчиков и факторов, влияющих на их срок службы, имеет решающее значение для оптимизации ...

Факторы, влияющие на развитие цифровых сервисов в телекоммуникационной отраслиФакторы, влияющие на развитие цифровых сервисов в телекоммуникационной отрасли Цифровые сервисы являются неотъемлемой частью современного мира телекоммуникаций. Они предоставляют различные возможности для пользователей, помогая им работать более эффективно и комфортно, а также связывают между собой разные виды коммуникации. Развитие цифровых сервисов в рамках телекоммуникацион ...

Россияне назвали основные факторы, влияющие на качество лечения по ОМСРоссияне назвали основные факторы, влияющие на качество лечения по ОМС В России ежегодно около 118 миллионов человек обращаются за медицинской помощью. Однако, уровень удовлетворенности качеством предоставляемых услуг не всегда высок среди пациентов. В целях выявления факторов, оказывающих влияние на эффективность лечения в рамках обязательного медицинского страхования ...

Тестостерон летит вниз: Названы продукты, негативно влияющие на сперматозоидыТестостерон летит вниз: Названы продукты, негативно влияющие на сперматозоиды Как некоторые продукты и привычки влияют на здоровье сперматозоидов, рассказал врач-уролог Артур Богатырев. Он отметил, что мужчины должны следить за своим питанием и образом жизни, чтобы избежать репродуктивных проблем. ...

OpenAI решила купить стартап за рекордные для себя $3 млрд // OpenAI готовит крупнейшую покупку в своей историиOpenAI решила купить стартап за рекордные для себя $3 млрд // OpenAI готовит крупнейшую покупку в своей истории Американская компания OpenAI находится на продвинутой стадии переговоров о покупке стартапа Windsurf, сообщает Bloomberg со ссылкой на собственные источники. Сумма сделки составит примерно $3 млрд, что станет крупнейшей покупкой в истории компании Сэма Альтмана. ...

ФСБ обнаружила в ДНР тайник с иностранным вооружением ВСУФСБ обнаружила в ДНР тайник с иностранным вооружением ВСУ Сотрудники ФСБ нашли в селе Кураховка в Донецкой народной республике (ДНР) крупный тайник с вооружением. По данным спецслужбы, оно принадлежит иностранным наемникам. ...

Росгвардия обнаружила тайник с иностранными боеприпасами в ЛНРРосгвардия обнаружила тайник с иностранными боеприпасами в ЛНР Сотрудники Росгвардии при проверке оперативной информации нашли в ЛНР схрон с иностранными гранатами и крупнокалиберными патронами в заброшенном блиндаже. Тайник с боеприпасами иностранного производства был обнаружен в ЛНР сотрудниками Росгвардии, передает РИА «Новости». Схрон находился ...

ФСБ обнаружила признаки провокации на протесте в БелградеФСБ обнаружила признаки провокации на протесте в Белграде Российские специалисты, участвовавшие в расследовании событий на акции протеста в Белграде 15 марта, выявили признаки заранее спланированной провокации ...

Европа обнаружила, что её полупроводниковый суверенитет  это фикцияЕвропа обнаружила, что её полупроводниковый суверенитет — это фикция Европейская счётная палата (ECA) опубликовала доклад, в котором заявила, что Европейский союз (ЕС) находится в высокой зависимости от китайских микрочипов, используемых в повседневных устройствах. Согласно отчёту, около 33 % массовых чипов, применяемых в автомобилях и бытовой технике, импортируется ...

ФНС обнаружила у блогерши Лерчек долг еще на 28 млн рублейФНС обнаружила у блогерши Лерчек долг еще на 28 млн рублей У блогера Лерчек (Валерия Чекалина) появилась новая задолженность перед Федеральной налоговой службой, данная информация опубликована 22 мая в Едином государственном реестре юридических лиц ЕГРЮЛ.«Основание: Казначейство России (ФНС России). Сумма: 28 365 436,90 рубля», — говорится в базе ФНС.Лерчек ...

ФАС обнаружила нарушения в доступе провайдеров в дома ПИКФАС обнаружила нарушения в доступе провайдеров в дома ПИК Сам застройщик проблему по-прежнему отрицает, но провайдеры связи подтверждают, что УК препятствуют конкуренции ...

Турция обнаружила в Черном море залежи природного ...Турция обнаружила в Черном море залежи природного ... Изображение из открытых источников Турция обнаружила в Черном море залежи природного газа объемом 75 млрд кубометров и стоимостью $30 млрд (при цене $400 за тысячу кубов — прим.). Об этом в субботу сообщил президент страны Реджеп Тайип Э… читать далее… ...

Лаборатория Касперского обнаружила бэкдор, атаковавший организации в РФ"Лаборатория Касперского" обнаружила бэкдор, атаковавший организации в РФ С вредоносной кампанией столкнулись десятки организаций в России, в том числе из госсектора, финансовой сферы и промышленности, сообщили в "Лаборатории" ...

ФСБ обнаружила в смоленской колонии ещё одного последователя идеологии А.У.Е.*ФСБ обнаружила в смоленской колонии ещё одного последователя идеологии А.У.Е.* Осуждённый за тяжкие увечья смолянин призывал других осужденных саботировать работников колонии Сообщение ФСБ обнаружила в смоленской колонии ещё одного последователя идеологии А.У.Е.* появились сначала на Информагентство "О чем говорит Смоленск". ...

Разработано ПО для проверки личности по голосуРазработано ПО для проверки личности по голосу В России разработали ПО, которое распознаёт лицо и голос пользователя Специалисты Школы компьютерных наук Тюменского госуниверситета представили новую программу для многофакторной аутентификации. Разработка позволяет идентифицировать пользователя сразу по нескольким биометрическим признакам, таким к ...

Полиция обнаружила более 600 камней с коноплёй у геолога из ПодмосковьяПолиция обнаружила более 600 камней с коноплёй у «геолога» из Подмосковья Полиция поймала наркодилера из Балашихи. На камерах видеонаблюдения оперативники заметили, как 47-летний мужчина оставлял у подъездов на улице Удальцова предметы, похожие на камни, и фотографировал их. Проверив тайники, стражи порядка нашли там замаскированные наркотики, сообщили в пресс-службе МВД. ...

BI.Zone обнаружила уязвимости высокого уровня опасности в VaultwardenBI.Zone обнаружила уязвимости высокого уровня опасности в Vaultwarden BI.Zone обнаружила уязвимости высокого уровня опасности в Vaultwarden. Vaultwarden — это хранилище секретов с открытым исходным... ...

Налоговая обнаружила у блогера Лерчек еще один многомиллионный долгНалоговая обнаружила у блогера Лерчек еще один многомиллионный долг Новый счет выставлен Федеральной налоговой службой в адрес Лерчек (настоящее имя - Валерия Чекалина), которой грозит тюрьма за противозаконные действия. ...

Разведка США не обнаружила доказательств работы Ирана над ядерным оружиемРазведка США не обнаружила доказательств работы Ирана над ядерным оружием Американские разведывательные службы не располагают доказательствами работы Ирана над созданием ядерного оружия. Президент США Дональд Трамп заявлял об обратном. ...

Система видеомониторинга обнаружила пожар в лесу Камбарского районаСистема видеомониторинга обнаружила пожар в лесу Камбарского района Камбарка. Удмуртия. В Удмуртии с помощью системы видеомониторинга «Лесохранитель» удалось обнаружить пожар в Камбарском районе. Об этом сообщает пресс-служба Минприроды Удмуртии. 13 мая возгорание зафиксировали на территории лесного фонда Камбарского района. Сотрудники лесопожарной станц ...

Полиция в Татарстане обнаружила российскую сеть предприятий Коломойского**Полиция в Татарстане обнаружила российскую сеть предприятий Коломойского** Вахитовский районный суд Казани арестовал активы одного из крупнейших производителей пластиковой тары и крышек в России — АО «Петрус». По версии экономической полиции МВД по Татарстану, бизнес принадлежит украинскому олигарху Игорю Коломойскому**… ...

В Ставрополе прокуратура обнаружила нарушения безопасности на 6 маршрутных автобусахВ Ставрополе прокуратура обнаружила нарушения безопасности на 6 маршрутных автобусах Прокуратура Октябрьского района Ставрополя выявила серьезные нарушения в сфере пассажирских перевозок. В ходе проверки установлено, что индивидуальный предприниматель, осуществляющий перевозки в краевом центре, эксплуатирует 6 транспортных средств с нарушениями законодательства о безопасности. Как с ...

Нацразведка США не обнаружила признаков создания Ираном ядерного оружияНацразведка США не обнаружила признаков создания Ираном ядерного оружия Национальная разведка США не располагает доказательствами того, что Иран работает над созданием ядерного оружия, сообщает MSNBC. По словам заместителя главы сенатского комитета по разведке Марка Уорнера, данные разведки не изменились с марта, когда директор нацразведки Тулси Габбард заявляла, что Те ...

Curator обнаружила крупнейший в истории DDoS-ботнет  4,6 млн устройствCurator обнаружила крупнейший в истории DDoS-ботнет — 4,6 млн устройств Компания Curator, специализирующаяся на обеспечении доступности интернет-ресурсов и нейтрализации DDoS-атак, выявила... ...

В Индии установлены личности 87 жертв авиакатастрофыВ Индии установлены личности 87 жертв авиакатастрофы В Индии идентифицировали тела 87 жертв крушения Boeing 787. Родственникам передали останки 64 человек, сообщил врач, один из руководителей группы опознания Раджниш Патель. ...

Маски сброшены: чьи личности уже открыты в одноименном шоу на НТВМаски сброшены: чьи личности уже открыты в одноименном шоу на НТВ Премьера 6-го сезона шоу «Маска» состоялась в феврале 2025-го, а финал программы зрители увидят на НТВ 27 апреля. ...

Полиция Индии обнаружила двух выживших при крушении самолета Air IndiaПолиция Индии обнаружила двух выживших при крушении самолета Air India На данный момент индийские правоохранительные органы в четверг, 12 июня, обнаружили двух выживших в результате крушения самолета Boeing 787-8 Dreamliner авиакомпании Air India в городе Ахмедабад. Новость дополняется. ...

Лаборатория Касперского обнаружила хакеров, которые орудуют только по ночам«Лаборатория Касперского» обнаружила хакеров, которые орудуют только по ночам «Лаборатория Касперского» обнаружила вредоносную кампанию, в рамках которой члены группировки Librarian Ghouls в ночное время атаковали сотни корпоративных пользователей из России. Злоумышленники начали атаки в декабре прошлого года и преимущественно проводят их в период с 01:00 до 05:00 ...

Экспедиция ДИВО обнаружила баржу флотилии 1941 года на ЛадогеЭкспедиция «ДИВО» обнаружила баржу флотилии 1941 года на Ладоге Дайверы из клуба «ДИВО» во время экспедиции на Ладожском озере нашли хорошо сохранившуюся баржу, предположительно участвовавшую в событиях Великой Отечественной войны. Клуб подводного плавания «ДИВО» провел экспедицию «Черные глубины Ладоги», в ходе которой были исследованы п ...

Перехвачена рекордная партия: в Челябинской области полиция обнаружила нарколабораториюПерехвачена рекордная партия: в Челябинской области полиция обнаружила нарколабораторию Рекордную партию синтетических наркотиков перехватила полиция в Челябинской области. Общий вес этих мешков, набитых психотропными веществами, — 300 килограммов. А стоимость запрещенного товара оценивается в астрономическую сумму, равную годовому бюджету небольшого города — более миллиард ...

В Каменке женщина, вернувшись домой, обнаружила пропажу квартирантки и имуществаВ Каменке женщина, вернувшись домой, обнаружила пропажу квартирантки и имущества В Каменке женщина, вернувшись домой, обнаружила пропажу квартирантки и имущества В связи с пропажей электроинструментов хозяйка дома обратилась за помощью в полицию Женщина рассказала, что сдавала дом в аренду, так как ей пришлось уехать в другой город. Согласно договору, квартирантка должна была пр ...

В России создали ИИ для проверки личности в браузере без биометрииВ России создали ИИ для проверки личности в браузере без биометрии Российская компания Smart Engines разработала технологию на основе искусственного интеллекта, которая позволяет сверять лица в браузере без использования биометрических данных. Система обеспечивает безопасную верификацию личности для банковских и шеринговых услуг. ...

Мама обнаружила. Новые детали в деле о гибели поэтессы Инны Тепловой«Мама обнаружила». Новые детали в деле о гибели поэтессы Инны Тепловой 12 июня в Калуге простились с поэтессой и членом Союза писателей России. Тело Тепловой было найдено пару дней назад.Aif.ru попытался разобраться в трагической гибели известной поэтессы.Трагедия и исчезновениеИзвестная поэтесса умерла в квартире на улице Энергетиков в Калуге. Первое сообщение о смерт ...

Сейчас в лицо мне вцепится: В Ленобласти семья обнаружила в подвале гриб-мутант«Сейчас в лицо мне вцепится»: В Ленобласти семья обнаружила в подвале гриб-мутант Семья из Ленинградской области обнаружила под полом дома жуткий гриб-мутант. Оказалось, что он занесён в Красную книгу. Видеоролик публикует сообщество «Грибы и Грибники СПб». ...

Positive Technologies обнаружила связь группировок Aggah, Blind Eagle и TA558Positive Technologies обнаружила связь группировок Aggah, Blind Eagle и TA558 Изучая вредоносный сервис Crypters And Tools, специалисты департамента Threat Intelligence экспертного центра безопасности Positive... ...

В США установили личности людей, подписывавших документы от имени БайденаВ США установили личности людей, подписывавших документы от имени Байдена Палата представителей конгресса США установила личности четырех человек, которые подписывали документы от имени экс-главы страны Джо Байдена в период его нахождения у власти. Об этом сообщил глава комитета по надзору Джеймс Комер в интервью телеканалу Fox News.«Мы установили четырех сотрудников, кот ...

Психолог объяснила Life.ru, как по собаке определить тип личности её владельцаПсихолог объяснила Life.ru, как по собаке определить тип личности её владельца Выбор собаки — это не просто вопрос предпочтений. Как отметила в беседе с Life.ru нейропсихолог Лариса Фицнер, четвероногий друг становится своеобразным отражением нашей личности, подсознательно демонстрируя особенности характера, образ жизни и даже психологические потребности владельца. ...

Следователи установили личности погибших при пожаре в Вадинском районеСледователи установили личности погибших при пожаре в Вадинском районе Следователи установили личности погибших при пожаре в Вадинском районе Следователи проводят проверку по факту гибели двух человек при пожаре в Вадинском районе. Напомним, инцидент случился накануне, 19 апреля в селе Луговое. Стражи порядка установили личности погибших. Ими оказались две женщины в во ...

Установлены личности грабителей, отобравших у курьера 127 миллионов рублейУстановлены личности грабителей, отобравших у курьера 127 миллионов рублей Грабители, отобравшие у курьера в «Москва-Сити» 127 миллионов рублей, оказались безработными уроженцами Чечни. Об этом РИА Новости сообщили в правоохранительных органах. ...

Полиция Индии установила личности боевиков, напавших на туристовПолиция Индии установила личности боевиков, напавших на туристов Двое из трех подозреваемых - граждане Пакистана, за информацию о каждом из них предлагается награда в 2 млн индийских рупий, сообщает агентство АНИ ...

СКР установил личности всех участников инцидента на Ярославском вокзалеСКР установил личности всех участников инцидента на Ярославском вокзале Сотрудники столичного управления Следственного комитета России (СКР) установили личности всех фигурантов дела о «похищении» блогера и предпринимателя Арега Щепихина вблизи Ярославского вокзала. С ними проводятся следственные действия. ...

На складе Ozon в Уфе силовики забрали 40 мигрантов для проверки личностиНа складе Ozon в Уфе силовики забрали 40 мигрантов для проверки личности Силовики устроили рейд среди мигрантов на складе маркетплейса Ozon в Уфе, для подтверждения личности забрали около 40 человек, сообщили РБК в пресс-службе маркетплейса. ...

СК установил личности всех похитивших Щепихина у Ярославского вокзалаСК установил личности всех «похитивших» Щепихина у Ярославского вокзала Следователи выяснили, кто схватил блогера Арега Щепихина на Ярославском вокзале в Москве, сообщил СК в телеграм-канале. ...

В Хельсинки разгорается скандал из-за личности будущего русского мэраВ Хельсинки разгорается скандал из-за личности будущего русского мэра В Хельсинки разгорается скандал из-за личности будущего мэра – им станет депутат Даниэль Сазонов, который имеет русское происхождение. Русофобы считают, что он может быть шпионом, даже несмотря на его позицию по украинскому конфликту, заявил aif.ru финский журналист Кости Хейсканен.«Не важно, что Са ...

Скрытые платежи в ЖКХ: за что мы платим на самом делеСкрытые платежи в ЖКХ: за что мы платим на самом деле? вконтакте Вы каждый месяц исправно оплачиваете квитанции, но задумывались ли вы, куда именно уходят ваши деньги? Оказывается, среди привычных строк о воде и электричестве есть услуги, качество которых вызывает вопросы. Уборка подъездов: платим исправно, а результат? Мы все видели грязные лестничные ...

Инфаркт-хамелеон: как распознать скрытые симптомы"Инфаркт-хамелеон": как распознать скрытые симптомы Инфаркт миокарда не всегда проявляется типичными симптомами, такими как жгучая боль в груди или ощущение тяжести. Это способно затруднить своевременную диагностику, и человек может поздно обратиться за медицинской помощью. Врач-кардиолог Оксана Михайлова рассказала о скрытых признаках недуга. Медик ...

Филипп Киркоров набросился на невесту Лепса: А ты кто Тебя не существует как личности!Филипп Киркоров набросился на невесту Лепса: «А ты кто? Тебя не существует как личности!» Аврору Кибу сегодня знают лишь как возлюбленную Григория Лепса. Поэтому не все знаменитости готовы принимать ее за «свою». ...

СК РФ установил личности украинских командиров, причастных к атаке БПЛА на КурскСК РФ установил личности украинских командиров, причастных к атаке БПЛА на Курск Выявлены офицеры ВСУ, под руководством которых украинские боевики атаковали жилые дома в Курске ...

Страус раскроет тайну своей личности только в финале МаскиСтраус раскроет тайну своей личности только в финале «Маски» Второй полуфинал шоу «Маска» вышел в эфир НТВ 20 апреля 2025 года. Десятой маской, оказавшейся под угрозой раскрытия, стал Страус. Но по... ...

Власти Молдавии ввели новые удостоверения личности  для фальсификации выборовВласти Молдавии ввели новые удостоверения личности — для фальсификации выборов За выдачей гражданам Молдавии бесплатных удостоверений личности нового образца скрывается желание властей взять избирательный процесс и сами результаты выборов под тотальный контроль, и в итоге гражданам за их же деньги наденут «ошейник». ...

Установлены личности тех, кто перед фатальным пожаром вломился в квартиру во ВсеволожскеУстановлены личности тех, кто перед фатальным пожаром вломился в квартиру во Всеволожске По данным полиции, к дому на улице Ленинградской во Всеволожске вечером 3 мая подъехали около десяти человек. Все они уже установлены. ...

Как выбрать корейский кроссовер  все скрытые опасности и слабостиКак выбрать корейский кроссовер — все скрытые опасности и слабости Знакомство с корейскими кроссоверами у нас началось на стыке веков. Сначала пришел Kia Sportage, потом – Hyundai Santa Fe. И автомобили эти сразу полюбились – за простоту, неприхотливость, незаурядные способности вне дорог. И за разумные цены, конечно. «Первый» Sportage – не простой кроссовер: у нег ...

Скрытые убийцы роста брокеров и как с ними справитьсяСкрытые убийцы роста брокеров и как с ними справиться Владельцам и руководителям онлайн-форекс брокеров: Что мешает вашему бизнесу выйти на новый уровень? Можно назвать волатильность рынка, нормативные препятствия или растущие затраты на привлечение клиентов. Но мой опыт в качестве генерального директора Sparkmarkets.com говорит о том, что истинные бар ...

Алгоритм Capivara раскрыл скрытые структуры галактикАлгоритм Capivara раскрыл скрытые структуры галактик Астрономы из Национального тайваньского университета представили алгоритм Capivara, который позволяет выделять в галактиках физически связанные структуры на основе полного спектра света. Вместо привычного усреднения данных и оценки яркости, метод опирается на сходство спектров, что сохраняет тонкие ...

Digital Foundry обнаружила серьезные проблемы с производительностью и графикой в Final Fantasy 16 на Xbox SeriesDigital Foundry обнаружила серьезные проблемы с производительностью и графикой в Final Fantasy 16 на Xbox Series Долгожданный релиз Final Fantasy 16 на Xbox Series X/S столкнулся с серьезными проблемами. По данным экспертов из Digital Foundry, порт игры, которая ранее была эксклюзивом PlayStation 5, далек от идеала и имеет значительные недостатки в производительности и качестве изображения. ...

ECHOMSK.SPB.RU Поиск в новостях