Скачать или смотреть USENIX Security '25 — Уязвимость сопоставления текста в заданиях рецензентов конференций по машин...

Уязвимость сопоставления текста при назначении рецензентов на конференции по машинному обучению и искусственному интеллекту (МО/ИИ) к сговорам

Джих-Йи (Джанет) Хсие, Адити Рагхунатхан и Нихар Б. Шах, Университет Карнеги-Меллона

В процессе рецензирования на ведущих конференциях по машинному обучению (МО) и искусственному интеллекту (ИИ) рецензенты назначаются на статьи с помощью автоматизированных методов. Эти алгоритмы назначения учитывают два основных фактора: (1) выраженную заинтересованность рецензентов, отраженную в их заявках на статьи, и (2) экспертность рецензентов в предметной области, вытекающую из сходства текста их ранее опубликованных статей с представленными рукописями. Серьезной проблемой для этих конференций является существование коллизионных коллизий, когда группы исследователей манипулируют процессом назначения рецензентов, чтобы рецензировать статьи друг друга, предоставляя положительные оценки независимо от их фактического качества. Большинство усилий по борьбе с коллизионными коллизиями было сосредоточено на предотвращении манипуляций с заявками, исходя из предположения, что компонент сходства текста является безопасным. В данной статье мы демонстрируем, что даже при отсутствии торгов рецензенты и авторы, находящиеся в сговоре, могут использовать компонент машинного обучения, основанный на сопоставлении текстов, применяемый в ведущих конференциях по машинному обучению и искусственному интеллекту, для получения желаемой статьи. Мы также выявляем конкретные уязвимости этой системы и предлагаем рекомендации по повышению её надёжности.

С полной программой конференции USENIX Security '25 можно ознакомиться по адресу https://www.usenix.org/conference/use...