Учёные взломали ИИ бессмыслицей: перестановка слов обходит фильтры и путает модели

Учёные взломали ИИ бессмыслицей: перестановка слов обходит фильтры и путает модели
18:30, декабря 3, 2025 Американские учёные из Массачусетского технологического института, Северо-Восточного университета и компании M**a обнаружили, что большие языковые модели искусственного интеллекта в некоторых случаях при ответах на вопросы ставят структуру предложений выше, чем их смысл. Это открывает пространство для злоупотреблений и взлома ИИ....
Читать полный текст на 3dnews.ru  

Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Учёные: сигаретные фильтры бесполезны для курильщика и опасны для экологии

Учёные: сигаретные фильтры бесполезны для курильщика и опасны для экологии

Учёные Джонатан Ливингстон-Бэнкс и Джейми Хартманн-Бойс, исследователи из Университета Массачусетса …

 
Учёные взломали код древних  теперь ясно, как вымерли динозавры

Учёные взломали код древних — теперь ясно, как вымерли динозавры

В свежем исследовании, опубликованном в научном журнале Frontiers in Earth Science, ученые раскрываю …

 
Клычков назвал общий мониторинг цен на продукты бессмыслицей

Клычков назвал общий мониторинг цен на продукты «бессмыслицей»

Орловскому губернатору не хватило конкретики. Фото: ИА “Орелград” Как стало известно на …

 
Microsoft Defender путает BIOS и требует установить обновления, которых не существует

Microsoft Defender путает BIOS и требует установить обновления, которых не существует

У Microsoft снова проблемы с ложными срабатываниями в киберзащиты в ИТ-продуктах. На этот раз баг за …

 
Ученые Сбербанка разработали модели искусственного интеллекта для распознавания сложных эмоций

Ученые Сбербанка разработали модели искусственного интеллекта для распознавания сложных эмоций

Ученые Центра практического искусственного интеллекта Сбербанка повысили точность определения эмоций …

 
Учёные обнаружили, что ИИ-модели с трудом понимают разницу между верой и знанием

Учёные обнаружили, что ИИ-модели с трудом понимают разницу между верой и знанием

Учёные Стэнфордского университета опубликовали в журнале Nature Machine Intelligence статью, где утв …

 
В модели мозга мыши воспроизвели альфа-ритмы  учёные университетов Японии и США

В модели мозга мыши воспроизвели альфа-ритмы — учёные университетов Японии и США

Одной из главных проблем современной науки остается создание точной цифровой копии живого мозга. Нес …

 
Перестановка мест слагаемых: Посол Германии в Киеве назначен главой BND

Перестановка мест слагаемых: Посол Германии в Киеве назначен главой BND

С 15 сентября посол на Украине Мартин Егер станет руководителем Федеральной разведывательной службы …

 
Перестановка кресел: Ермака может сменить премьер-министр Свириденко

Перестановка кресел: Ермака может сменить премьер-министр Свириденко

Свириденко считается ставленницей теперь уже бывшего главы офиса Зеленского, но возможны иные решени …

 
Метод трех комнат: одна простая перестановка в доме, которая вернет вам 2 часа жизни в день

Метод трех комнат: одна простая перестановка в доме, которая вернет вам 2 часа жизни в день

Узнайте, как метод "Трех комнат" от Джея Шетти поможет вам вырваться из цифровой зависимости, вернут …

 
Фильтры меняют на водонапорных башнях в Октябрьском районе ЕАО

Фильтры меняют на водонапорных башнях в Октябрьском районе ЕАО

На водонапорных башнях в Октябрьском районе меняют фильтры. Это необходимо для обеспечения чистой во …

 
YouTube тайно применяет ИИ-фильтры к видео без согласия авторов

YouTube тайно применяет ИИ-фильтры к видео без согласия авторов

Пользователи YouTube обнаружили, что платформа скрытно изменяет загруженные видео с помощью искусств …

 
Эксперт рассказала россиянам, как пройти фильтры ИИ при подачи резюме

Эксперт рассказала россиянам, как пройти фильтры ИИ при подачи резюме

Сокращения и разговорные варианты терминов в резюме могут стоить кандидату предложения о работе, пре …

 
Новые фильтры YouTube позволят удалить Shorts из результатов поиска

Новые фильтры YouTube позволят удалить Shorts из результатов поиска

YouTube внесла ряд изменений в свои поисковые фильтры, благодаря чему стало возможным выполнять отде …

 
Мгновенный лифтинг: 8 правил антивозрастного макияжа, которые заменяют фильтры и инъекции

Мгновенный лифтинг: 8 правил антивозрастного макияжа, которые заменяют фильтры и инъекции

8 простых правил макияжа, которые помогут выглядеть моложе. Секреты тона, румян, макияжа глаз и губ …

 
Запотевают окна и пахнет сыростью: какие салонные фильтры реально работают

Запотевают окна и пахнет сыростью: какие салонные фильтры реально работают

Комки грязи, сухие листья и даже асфальтовая крошка — так выглядит салонный фильтр, который не …

 
Google Документы получат дизайн с стиле Material 3 Expressive и новые фильтры поиска

«Google Документы» получат дизайн с стиле Material 3 Expressive и новые фильтры поиска

Мобильное приложение «Google Документы» для Android в ближайшее время получит значительн …

 
Дзюба рассказал, в чем он обходит Роналду

Дзюба рассказал, в чем он обходит Роналду

Форвард «Акрона» Артем Дзюба рассказал, в чем превосходит нападающего «Аль-Насра» Криштиану Роналду. …

 
Дроппер MacSync обходит защиту Gatekeeper в macOS

Дроппер MacSync обходит защиту Gatekeeper в macOS

Эксперты предупредили, что новую версию стилера MacSync для macOS распространяют через подписанное и …

 
Атака Phoenix обходит защиту DDR5 от Rowhammer

Атака Phoenix обходит защиту DDR5 от Rowhammer

Создан новый вариант Rowhammer-атак, который способен обойти новейшие механизмы защиты в чипах DDR5 …

 
Онищенко заявил, что гонконгский грипп не обходит российскую вакцину

Онищенко заявил, что гонконгский грипп «не обходит» российскую вакцину

Геннадий Онищенко заявил НСН, что сейчас в вакцине, которой Минздрав привил более 80 миллионов челов …

 
ЛДПР обходит КПРФ перед выборами в горсовет Смоленска

ЛДПР обходит КПРФ перед выборами в горсовет Смоленска

ЛДПР занимает второе место по популярности у избирателей накануне сентябрьских выборов в Смоленский …

 
Воронежская область по цене бензина АИ-92 обходит Москву и все регионы ЦФО

Воронежская область по цене бензина АИ-92 обходит Москву и все регионы ЦФО

Pixbay. Цена бензина марки АИ-92 на заправках Воронежской области удерживает лидерство среди субъект …

 
Москва бьёт рекорды: Россия обходит авиационные запреты

Москва бьёт рекорды: Россия обходит авиационные запреты

В условиях международных ограничений российский воздухоплавательный сектор не только держится на пла …

 
Автогаз разобрали по частям: топливо из России обходит санкции в Европе

Автогаз разобрали по частям: топливо из России обходит санкции в Европе Имея исключения по ряду газов, поставки сжиженного углеводородного газа (СУГ) из России и Белоруссии …

 
Атака Battering RAM обходит новейшие средства защиты на процессорах Intel и AMD

Атака Battering RAM обходит новейшие средства защиты на процессорах Intel и AMD Эксперты продемонстрировали аппаратную атаку Battering RAM, которая обходит защиту новейших процессо …

 
Alibaba выпустила флагманскую ИИ-модель Qwen-3 Max  она обходит GPT-5 и доступна бесплатно

Alibaba выпустила флагманскую ИИ-модель Qwen-3 Max — она обходит GPT-5 и доступна бесплатно Компания Alibaba объявила о релизе Qwen-3 Max — новой флагманской большой языковой модели (LLM …

 
Смена языка не обходит блокировку WhatsApp*  директор T.Hunter Бедеров

Смена языка не обходит блокировку WhatsApp* — директор T.Hunter Бедеров Первым делом пользователи пытаются менять настройки смартфона, надеясь вернуть доступ к привычным се …

 
Solana обходит Ethereum и Polygon и становится самым эффективным блокчейном

Solana обходит Ethereum и Polygon и становится самым эффективным блокчейном Недавно Solana получила признание как самая производительная сеть во время недавнего сбоя Amazon Web …

 
Троян Herodotus обходит защитные механизмы, набирая текст как человек

Троян Herodotus обходит защитные механизмы, набирая текст как человек Специалисты ThreatFabric рассказывают о новом банковском трояне Herodotus, который применяется в ата …

 
Атака TEE.fail обходит защиту конфиденциальных вычислений на процессорах Intel и AMD

Атака TEE.fail обходит защиту конфиденциальных вычислений на процессорах Intel и AMD Группа исследователей представила атаку TEE.Fail, которая позволяет извлекать ключи и другие секретн …

 
Baidu представила Ernie X1.1: модель глубокого мышления, которая обходит DeepSeek R1

Baidu представила Ernie X1.1: модель «глубокого мышления», которая обходит DeepSeek R1 Китайская Baidu анонсировала обновлённую ИИ-модель Ernie X1.1, позиционируя её как серьёзный шаг впе …

 
Петя вернулся: обнаружен опасный вирус-вымогатель HybridPetya, который обходит UEFI Secure Boot

Петя вернулся: обнаружен опасный вирус-вымогатель HybridPetya, который обходит UEFI Secure Boot Эксперты компании ESET обнаружили новый вирус-вымогатель, которому присвоили название HybridPetya &m …

 
Хакеры взломали Pornhub

Хакеры взломали Pornhub Киберпреступная группа ShinyHunters сообщила о похищении информации о премиум-пользователях крупнейш …

 
Неизвестные взломали сайт Пулково

Неизвестные взломали сайт Пулково На самом сайте говорится о проведении технических работ. Пассажирам рекомендуют звонить в колл-центр …

 
Взломали базу данных Гарварда

Взломали базу данных Гарварда Хакеры взломали базу данных Гарварда после телефонной фишинговой атаки. По данным Bloomberg, так наз …

 
Хакеры взломали каталог Spotify

Хакеры взломали каталог Spotify Музыкальный каталог сервиса потоковой передачи аудио и медиаконтента Spotify был взломан группой «пи …

 
Война. Тысяча трехсотый день. Россия все активнее обходит санкции с помощью бартера: за семена льна и алюминий получает автомобили и технику из Китая

Война. Тысяча трехсотый день. Россия все активнее обходит санкции с помощью бартера: за семена льна и алюминий получает автомобили и технику из Китая Владимир Путин и Си Цзиньпин на саммите ШОС в Таньцзине. 31 августа 2025 года «Медуза» с 24 февраля …

 
Новый 64-ядерный процессор Intel Xeon 696X едва обходит 32-ядерный Ryzen Threadripper 9970X

Новый 64-ядерный процессор Intel Xeon 696X едва обходит 32-ядерный Ryzen Threadripper 9970X Новый 64-ядерный процессор Intel Xeon 696X засветился в бенчмарке, благодаря чему мы можем сравнить …

 
Хакеры взломали бюджетное управление Конгресса США

Хакеры взломали бюджетное управление Конгресса США Руководство Бюджетного управления Конгресса США сообщило о кибератаке на свои ИТ-системы, которая мо …

 
Наталья Штурм рассказала, как ее взломали мошенники

Наталья Штурм рассказала, как ее взломали мошенники Известная певица Наталья Штурм рассказала в своем Telegram-канале, что на фоне инцидента с мошенника …

 
Мошенники взломали аккаунт блогера Иды Галич с 7 млн подписчиков

Мошенники взломали аккаунт блогера Иды Галич с 7 млн подписчиков Об этом 35-летняя телеведущая, которая недавно во второй раз стала мамой, предупредила в личном блог …

 
Хакеры взломали разработчика систем слежки и цензуры

Хакеры взломали разработчика систем слежки и цензуры Телеком-компания Protei, разрабатывающая системы слежки и цензуры для операторов связи по всему миру …

 
В США хакеры взломали правительственные устройства на базе Cisco

В США хакеры взломали правительственные устройства на базе Cisco Хакерская группа ArcaneDoor получила доступ к устройствам, работающим на программном обеспечении Cis …

 
Взломали сайт аэропорта Пулково, его работа ограничена

Взломали сайт аэропорта Пулково, его работа ограничена Сайт аэропорта Пулково был взломан, его работа ограничена. Об этом сообщается в Telegram-канале аэро …

 
Хакеры взломали электрокар Tesla при помощи дрона

Хакеры взломали электрокар Tesla при помощи дрона Двум немецким специалистам по кибербезопасности удалось получить доступ к мультимедийной системе Tes …

 
Фернандешу взломали профиль в известной социальной сети

Фернандешу взломали профиль в известной социальной сети Снова проблемы у Бруну Фернандеша - португальский нападающий остался без своей регистрации в известн …

 
Хакеры взломали системы бюджетного управления Конгресса США

Хакеры взломали системы бюджетного управления Конгресса США Бюджетное управление Конгресса США сообщило о взломе своих систем неизвестными хакерами. При этом ве …

 
Исследователи взломали панель управления малвари StealC

Исследователи взломали панель управления малвари StealC Специалисты компании CyberArk обнаружили XSS-уязвимость в панели управления стилера StealC. Эксплуат …

 
Хакеры взломали Instagram* и поставили под угрозу 17 млн пользователей

Хакеры взломали Instagram* и поставили под угрозу 17 млн пользователей Хакерская атака была совершена на социальную сеть Instagram (запрещена на территории РФ; принадлежит …

 
Мошенники взломали аккаунт актера Яцко в Telegram

Мошенники взломали аккаунт актера Яцко в Telegram Мошенники взломали личный аккаунт заслуженного артиста России Александра Яцко в мессенджере Telegram …

 
Официальный сайт аэропорта Пулково взломали, он временно не работает

Официальный сайт аэропорта Пулково взломали, он временно не работает Сейчас на сайте висит заглушка о технических работах. Пассажиров просят обращаться за информацией о …

 
Сайт второго по загруженности российского аэропорта Пулково взломали

Сайт второго по загруженности российского аэропорта Пулково взломали Аэропорт Пулково в Санкт-Петербурге стал жертвой кибератаки, из-за которой сайт временно недоступен, …

 
Российские хакеры взломали ресурсы четырёх финансирующих ВСУ фондов

Российские хакеры взломали ресурсы четырёх финансирующих ВСУ фондов Один из них — международный INVICTUS, остальные — украинские. Половина перестала работать, и уже око …

 
Хакеры взломали оборудование Cisco и проникли в ИТ-инфраструктуру властей США

Хакеры взломали оборудование Cisco и проникли в ИТ-инфраструктуру властей США В США хакеры взломали устройства с ПО Cisco, которыми пользуются сотрудники американских министерств …

 
Mash: российские хакеры взломали главный мессенджер ВСУ Sonata

Mash: российские хакеры взломали главный мессенджер ВСУ Sonata Российские хакеры взломали главный мессенджер Sonata, которым пользуются военнослужащие ВСУ, пишет M …

 
Хакеры взломали шесть крупнейших страховых фирм Украины

Хакеры взломали шесть крупнейших страховых фирм Украины Пророссийские группировки хакеров KillNet и Beregini взломали шесть крупнейших страховых фирм Украин …

 
Паника, пытки и порно: хакеры взломали телефоны командиров ВСУ

Паника, пытки и порно: хакеры взломали телефоны командиров ВСУ Хакер рассказал о колоссальных потерях ВСУ, утечках данных НАТО и шокирующем содержимом гаджетов укр …

 
Мошенники взломали многомиллионный аккаунт Оксаны Самойловой в соцсети

Мошенники взломали многомиллионный аккаунт Оксаны Самойловой в соцсети Мошенники взломали аккаунт российской модели и блогера Оксаны Самойловой в Instagram*, на который по …

 
Российские хакеры взломали базу данных о поставщиках БПЛА для ВСУ

Российские хакеры взломали базу данных о поставщиках БПЛА для ВСУ Члены российской хакерской группировки KillNet смогли получить доступ к базе данных о поставщиках бе …

 
YouTube заваливает новых пользователей сгенерированным ИИ низкокачественным контентом

YouTube заваливает новых пользователей сгенерированным ИИ низкокачественным контентом

Занимающаяся видеомонтажом компания Kapwing изучила 15 000 наиболее популярных по всему миру YouTube …

 
Технологии, позволяющие роботам распознавать намерения человека, могут привести к созданию более безопасных, умных и заслуживающих доверия машин

Технологии, позволяющие роботам распознавать намерения человека, могут привести к созданию более безопасных, умных и заслуживающих доверия машин

Роботы становятся частью нашей повседневной жизни, от здравоохранения до помощи на дому. Но для того …

 
В Google Chrome разрешили отключать локальный ИИ для защиты от мошенников

В Google Chrome разрешили отключать локальный ИИ для защиты от мошенников

Пользователи браузера Google Chrome теперь могут отключить работающую локально ИИ-модель, являющуюся …

 
TikTok запустил Netflix для зумеров  сервис с микродрамами PineDrama

TikTok запустил «Netflix для зумеров» — сервис с микродрамами PineDrama

Видеосервис TikTok без особого шума запустил новое приложение PineDrama для видеороликов-микродрам & …

 
Не просто игра, а переживание: Epic Games Store устроил раздачу перспективной головоломки о преображении реальности Viewfinder

«Не просто игра, а переживание»: Epic Games Store устроил раздачу «перспективной» головоломки о преображении реальности Viewfinder

Череда новогодних подарков от Epic Games Store продолжается. Вслед за Skald: Against the Black Prior …

 
Microsoft добавит GPT-5.2 в Copilot  новая модель будет работать в режиме Smart Plus

Microsoft добавит GPT-5.2 в Copilot — новая модель будет работать в режиме Smart Plus

Microsoft дополнила веб-версию Copilot, а также версии своего ИИ-помощника для Windows и мобильных у …

 
Maxon выпустила Cinebench 2026 с поддержкой новейших GPU AMD и Nvidia

Maxon выпустила Cinebench 2026 с поддержкой новейших GPU AMD и Nvidia

Компания Maxon выпустила Cinebench 2026 — новейшую версию своего инструмента для тестирования …

 
M**a купит сингапурский ИИ-стартап Manus, который будет вынужден порвать с Китаем

M**a купит сингапурский ИИ-стартап Manus, который будет вынужден порвать с Китаем

Уходящий год запомнится следящим за историей развития сферы искусственного интеллекта триумфом китай …

 
Живой журнал серьёзно ограничил создание новых публичных постов  ради вдумчивого контента

«Живой журнал» серьёзно ограничил создание новых публичных постов — ради «вдумчивого контента»

Сервис Livejournal, также известный как «Живой журнал» (ЖЖ), внес изменения в правила пу …

 
Разработка кинематографичного боевика Spine в духе Джона Уика вышла на финишную прямую  студия призналась, что обманула игроков

Разработка кинематографичного боевика Spine в духе «Джона Уика» вышла на финишную прямую — студия призналась, что обманула игроков

Кипрская студия с российскими корнями Nekki обещала объявить дату выхода своего кинематографичного к …

 
Амбициозный китайский боевик Phantom Blade Zero приглянулся более чем миллиону пользователей Steam, Epic Games Store и PS5

Амбициозный китайский боевик Phantom Blade Zero приглянулся более чем миллиону пользователей Steam, Epic Games Store и PS5

Разработчики из независимой китайской студии S-Game похвастались предрелизными успехами своего амбиц …

 
Эксперты Digital Foundry выбрали худшие и лучшие игры на ПК в 2025 году  ремастер Oblivion, Kingdom Come: Deliverance 2, Doom: The Dark Ages и другие

Эксперты Digital Foundry выбрали худшие и лучшие игры на ПК в 2025 году — ремастер Oblivion, Kingdom Come: Deliverance 2, Doom: The Dark Ages и другие

Специалисты Digital Foundry Алекс Батталья (Alex Battaglia) и Джон Линнеман (John Linneman) в традиц …

 
Rainbow Six Siege возобновила работу после хакерской атаки  серверы откатили, магазин не открыли, банить никого не будут

Rainbow Six Siege возобновила работу после хакерской атаки — серверы откатили, магазин не открыли, банить никого не будут

Популярный тактический сетевой шутер Tom Clancy’s Rainbow Six Siege от французского издателя и …

 
Длительное общение с ИИ может привести к психическим расстройствам, выяснили учёные

Длительное общение с ИИ может привести к психическим расстройствам, выяснили учёные

Рост популярности ИИ-чат-ботов, которых пользователи выбирают в качестве собеседников для общения на …

 
Инсайдер уточнил, когда Kingdom Come: Deliverance выйдет на PS5, Xbox Series X и S, и призвал не завышать ожидания от порта

Инсайдер уточнил, когда Kingdom Come: Deliverance выйдет на PS5, Xbox Series X и S, и призвал «не завышать ожидания» от порта

В следующем феврале средневековой RPG с открытым миром Kingdom Come: Deliverance от чешской Warhorse …

 
Microsoft придумала, как ускорить Проводник в Windows 11, и уже тестирует улучшения

Microsoft придумала, как ускорить «Проводник» в Windows 11, и уже тестирует улучшения

Microsoft тестирует изменение в Windows 11, направленное на сокращение использования системных ресур …

 
Google Фото дебютирует на телевизорах в следующем году  и это будут не Google TV

«Google Фото» дебютирует на телевизорах в следующем году — и это будут не Google TV

Сервис «Google Фото» появится на телевизорах Samsung в следующем году. Первые шесть меся …

 
Суд остановил иск россиян к Роскомнадзору и Минцифры о блокировке звонков в WhatsApp и Telegram

Суд остановил иск россиян к Роскомнадзору и Минцифры о блокировке звонков в WhatsApp и Telegram

Московский суд прекратил производство по административному иску о признании незаконными и необоснова …

 
Новая тайная раздача Epic Games Store скрывала четыре игры вместо одной, но российских пользователей оставили без подарка

Новая тайная раздача Epic Games Store скрывала четыре игры вместо одной, но российских пользователей оставили без подарка

Череда новогодних подарков от Epic Games Store продолжается. Вслед за Viewfinder в цифровом магазине …

 
Наделла провёл кадровую перестройку Microsoft после охлаждения отношений с OpenAI

Наделла провёл кадровую перестройку Microsoft после охлаждения отношений с OpenAI

После пересмотра соглашения о партнёрстве с OpenAI, в результате которого Microsoft к 2030 году теря …