Скачать или смотреть Двойная жизнь моделей мира кода: доказуемое выявление вредоносного поведения с помощью трассировк...

Название: Двойная жизнь моделей мира кода: доказуемое выявление вредоносного поведения с помощью трассировки выполнения (декабрь 2025 г.)
Ссылка: http://arxiv.org/abs/2512.13821v1
Дата: декабрь 2025 г.

Краткое содержание:
В данной статье представлен протокол перекрестной проверки трассировки (CTVP), структура управления на основе искусственного интеллекта, предназначенная для обнаружения бэкдоров и вредоносного поведения в больших языковых моделях, генерирующих код, без прямого выполнения. Подход основан на «анализе семантической орбиты», где программа преобразуется в семантически эквивалентные, но синтаксически различные варианты. Сравнивая предсказанные трассировки выполнения модели между этими вариантами, система выявляет несоответствия, указывающие на обман. В исследовании вводится коэффициент устойчивости к атакам (ARQ) для измерения накладных расходов на проверку и приводятся информационно-теоретические границы, демонстрирующие, что избежать обнаружения становится экспоненциально сложнее по мере увеличения размера орбиты проверки.

Ключевые темы:
Безопасность ИИ
Обнаружение бэкдоров
Генерация кода
Протокол перекрестной проверки трассировки (CTVP)
Семантический анализ орбит
Устойчивость к атакам противника
Трассировки выполнения

Главы:
00:00 - Раскрытие моделей вредоносного кода
01:30 - Угроза автономных агентов
02:41 - Почему стандартные средства защиты не работают
04:03 - Генерация семантических орбит
05:23 - Прогнозирование трассировок выполнения
06:56 - Проверка с управлением по PID
08:40 - Цена обмана
10:16 - Производительность и использование ресурсов
11:40 - Ограничения системы
13:42 - Будущее управления ИИ

Источники видео:
Google DeepMind - https://www.pexels.com/@googledeepmind
Anete Lusina - https://www.pexels.com/@anete-lusina
Pressmaster - https://www.pexels.com/@pressmaster
Colors Motion Graphics - https://www.pexels.com/@colors-motion...
Павел Данилюк - https://www.pexels.com/@pavel-danilyuk
Bedrijfsfilmspecialist.nl - https://www.pexels.com/@bedrijfsfilms...
Хосе Альфредо Мунгия Лира - https://www.pexels.com/@rectorretro
Колин Джонс - https://www.pexels.com/@larchmedia
Сумья - https://www.pexels.com/@soumya-1446957
tunnel motions - https://www.pexels.com/@tunnelmotions
Pixabay - https://www.pexels.com/@pixabay
Макс Фишер - https://www.pexels.com/@max-fischer
Михаил Нилов - https://www.pexels.com/@mikhail-nilov
Магда Элерс - https://www.pexels.com/@magda-ehlers-...
Энтони 🙂 - https://www.pexels.com/@inspiredimages
Кетуту Субиянто - https://www.pexels.com/@ketut-subiyanto
Trippy Lagoon - https://www.pexels.com/@trippy-lagoon...
fauxels - https://www.pexels.com/@fauxels
Олег Гамулинский - https://www.pexels.com/@oleg-gamulins...
Влада Карпович - https://www.pexels.com/@vlada-karpovich
Калеб Окендо - https://www.pexels.com/@caleboquendo
Дэн Кристиан Пэдурец - https://www.pexels.com/@paduret
Нино Соуза - https://www.pexels.com/@ninosouza
оля данилевич - https://www.pexels.com/@olia-danilevich
Тигровая лилия - https://www.pexels.com/@tiger-lily
Том Фиск - https://www.pexels.com/@tomfisk
Пахон в движении - https://www.pexels.com/@pachon-in-mot...
Адис Решич - https://www.pexels.com/@adis-resic-29...
Тима Мирошниченко - https://www.pexels.com/@tima-miroshni...
KoolShooters - https://www.pexels.com/@koolshooters
Джулия М. Кэмерон - https://www.pexels.com/@julia-m-cameron
crazy motions - https://www.pexels.com/@crazy-motions...
Thirdman - https://www.pexels.com/@thirdman
Келли - https://www.pexels.com/@kelly
Чарли Маунси - https://www.pexels.com/@charlie-mouns...
Ярослав Шураев - https://www.pexels.com/@yaroslav-shuraev
StefWithAnF - https://www.pexels.com/@stefwithanf-1...
МАРТ ПРОДАКШН - https://www.pexels.com/@mart-production
Энгин Акюрт - https://www.pexels.com/@enginakyurt
Рон Лак - https://www.pexels.com/@ron-lach
@svetjekolem - https://www.pexels.com/@svetjekolem
Клаудиу Чобану - https://www.pexels.com/@claudiuciobanu