«Яндекс» ищет хакеров, чтобы проверить безопасность нейросетей
Новости 11 апреля 2025

«Яндекс» ищет хакеров, чтобы проверить безопасность нейросетей

Далее

Компания «Яндекс» анонсировала расширение своей программы «Охота за ошибками», теперь охватывающей генеративные нейросети. Исследователи, которые найдут уязвимости в моделях YandexGPT и YandexART, могут получить вознаграждение до 1 миллиона рублей.

Компания «Яндекс» расширила программу «Охоты за ошибками», добавив новое направление, связанное с генеративными нейросетями. Исследователи, которые смогут выявить технические уязвимости в моделях YandexGPT, YandexART и связанной инфраструктуре, могут получить вознаграждение до 1 миллиона рублей.

Участникам программы предстоит искать ошибки, которые могут повлиять на работу нейросетевых моделей, включая сбои или изменения поведения, что может затронуть другие сервисы «Яндекса». В рамках программы участвуют такие продукты, как «Алиса», «Поиск с Нейро», «Шедеврум» и другие облачные службы, использующие эти модели.

Размер выплаты зависит от тяжести уязвимости и её способности повлиять на работу системы. К критичным уязвимостям относятся те, которые позволяют раскрывать внутренние данные моделей или служебные промты. 

Максимальное вознаграждение за такие ошибки — 1 млн рублей.

Программа «Охоты за ошибками» была запущена «Яндексом» в 2012 году и стала первой в России. Она теперь работает постоянно, и принять участие может любой желающий.

Читать далее:

Вселенная внутри черной дыры: наблюдения «Уэбба» подтверждают странную гипотезу

Испытания ракеты Starship Илона Маска вновь закончились взрывом в небе

Сразу четыре похожих на Землю планеты нашли у ближайшей одиночной звезды

Обложка: AI | freepik