Скачать или смотреть Искусственный интеллект вредит программе вознаграждения за обнаружение уязвимостей (UG Bounty).

Программы вознаграждения за обнаружение уязвимостей (bug bounty) основаны на доверии, профессионализме и четкой коммуникации между исследователями и разработчиками. В последнее время это доверие подорвано волной низкокачественных отчетов об уязвимостях, сгенерированных ИИ.

В этом видео я кратко объясняю, что такое программы вознаграждения за обнаружение уязвимостей, а затем рассматриваю решение Curl закрыть свою программу после получения отчетов, сгенерированных ИИ (AI Slop), которые не были должным образом проверены отправителями (Prompt Puppies).

Это не видео против ИИ. ИИ может быть мощным инструментом для исследований в области безопасности, но только в сочетании с человеческой проверкой, тестированием и ответственностью.

Я не связан ни с одной организацией или платформой, упомянутой в этом видео.


Ссылки:
Мой Twitter/X: x.com/Villaroot
Отчеты о проблемах Curl с ИИ:
https://github.com/curl/curl/pull/20312
https://gist.github.com/bagder/07f758...
https://hackerone.com/reports/3466896
https://hackerone.com/reports/3465094
https://hackerone.com/reports/2912277

00:00 Вступление
00:50 Что такое Bug Bounty
03:22 Дело Curl
10:26 Эффективное использование ИИ