Скачать или смотреть Как предприятиям обеспечить безопасность ИИ, когда данные распространяются быстрее, чем люди могу...

По мере того, как компании все чаще внедряют автономный ИИ, ключевое предположение в кибербезопасности, похоже, исчезает — безопасность данных можно понять с помощью статических карт.

В недавнем выпуске подкаста The Security Strategist соучредитель и генеральный директор Relyance Абхи Шарма беседует с ведущим Ричардом Стинноном, главным аналитиком-исследователем IT-Harvest.

Шарма рассказывает Стиннону, что большинство инструментов безопасности по-прежнему созданы для мира до появления ИИ. В том мире данные оставались неподвижными достаточно долго, чтобы их можно было сканировать, классифицировать и управлять ими. ИИ меняет эту модель.

«Мы находимся в центре тектонического сдвига, — говорит Шарма. — Впервые поведение программного обеспечения определяется не только инструкциями, которые вы ему даете, но и данными, которые находятся внутри и вокруг него».

В современных системах ИИ данные больше не являются просто активом. Они становятся инструкцией. Качество, частота, распределение и даже отсутствие данных напрямую влияют на то, как функционируют модели и агенты. Эта реальность делает традиционные модели безопасности опасно неполными.

«Люди очень хорошо умеют отвечать на вопросы о том, какие данные у них есть и где они хранятся», — объяснил Шарма. «Но они не могут ответить на вопрос, как они туда попали или что произошло на этом пути». Он утверждает, что именно в этом отсутствии контекста и кроется риск, связанный с ИИ.

Агентный ИИ превращает перемещение данных в реальный риск безопасности
Эта проблема становится критической в ​​случае с агентными и автономными рабочими процессами ИИ. Здесь принятие решений основано не на фиксированном коде, а на большой языковой модели, работающей в режиме реального времени.

«В этих системах ваша управляющая логика — это LLM», — сказал Шарма. «Это черный ящик».

Для выполнения задач агенты ИИ должны получать доступ к инструментам, анализировать прошлые решения, копировать производственные данные и динамически управлять инфраструктурой. При этом они создают то, что Шарма называет эфемерной инфраструктурой — временные среды, которые могут существовать в течение нескольких минут и исчезать без следа.

Например, агент, работающий над снижением затрат на облачные ресурсы, может создать высокопроизводительный кластер баз данных, скопировать конфиденциальные журналы в промежуточную область, проанализировать их и отключить все менее чем за 20 минут. «Но в этом процессе, — предупредил Шарма, — стандартный скрипт Terraform может оставить четыре хранилища S3 открытыми для интернета». Традиционные проверки безопасности, которые часто проводятся каждые 24 часа, никогда бы этого не обнаружили.

«Вы даже не знаете, что этот небольшой цирк произошел, пока вы спали, — сказал он. — Но это создало новый риск».

Именно поэтому Шарма считает, что в эпоху ИИ нарушения безопасности — это уже не сбои данных в состоянии покоя, а сбои потока данных. Злоумышленники не нацелены на отдельные идентификаторы или инструменты; они нацелены на результаты — особенно на кражу или уничтожение данных. Эти результаты происходят в результате перемещения данных во времени.

Выводы
Традиционные карты данных устаревают в ИИ.
Безопасность данных должна быть сосредоточена на потоках данных в реальном времени.

Понимание пути данных имеет решающее значение для безопасности.
Разрозненные инструменты безопасности не справляются с реальными рисками.
Агенты ИИ создают эфемерную инфраструктуру, которая усложняет безопасность.
Будущее безопасности данных лежит в динамических путях данных.

Команды, занимающиеся безопасностью, управлением и соответствием требованиям, должны работать сообща.
Для обеспечения доверия к безопасности данных необходим баланс между прозрачностью и выполнением обязательств.
Искусственный интеллект потребует новых подходов к управлению данными.
Руководители ИТ-отделов должны уделять первостепенное внимание анализу потоков данных.

Разделы
00:00 Введение в ИИ и безопасность данных
01:36 Переход от пространства ко времени в безопасности данных
03:42 Понимание потока данных и проблем безопасности
07:18 Разрозненные инструменты безопасности и их ограничения
09:52 Динамические пути данных: новый подход
11:37 Роль ИИ в безопасности данных
12:58 Конвергенция безопасности, управления и соответствия требованиям
15:07 Ключевые выводы для CIO и руководителей служб безопасности

#AISecurity #DataFlow #Cybersecurity #AgenticAI #DataJourneys #DLPisDead #DSPM #LLMSecurity #EphemeralInfra #DataSecurityRisk #CISO #CIO #CTO #DataGovernance #RiskManagement #TheSecurityStrategist #RelyanceAI #AbhiSharma #TechPodcast #LLMSecurity #EphemeralInfra #РискБезопасностиДанные

Подписывайтесь на @EM360Tech на YouTube, LinkedIn и X

Relyance на YouTube: @Relyance

Relyance в LinkedIn:   / relyanceai  

Relyance в X: @relyanceai