Компания Илона Маска OpenAI представила инструмент для борьбы с уязвимостями в искусственном интеллекте. Он поможет сделать беспилотные автомобили и другие робототехнические системы более безопасными.
Несмотря на развитие систем безопасности, сегодня хакеры по-прежнему имеют возможность захватить управление беспилотным автомобилем, или взять под контроль систему распознавания лиц. Согласно исследованиям, тысячи автобусов и грузовиков в Европе уязвимы для кибератак. Оказалось, что даже Siri или Google Now могут быть превращены в потенциально опасные web-сайты с помощью «белого шума».
Для борьбы с этими проблемами, компания Илона Маска OpenAI и Университет штата Пенсильвания разработали новый инструмент. Он называется «cleverhans» и позволяет проверить, насколько тот или иной искусственный интеллект уязвим для хакеров, пишет Quartz.
Инструмент «cleverhans» содержит различные способы кибератак и варианты защиты от них, а также учебные пособия по тому, как это сделать. Разработчики рассчитывают, что «cleverhans» будет использоваться как в робототехнической индустрии, так и учеными для тестирования уязвимостей.
Своим названием инструмент обязан лошади Clever Hans, которая жила в XX веке и чей хозяин утверждал, что лошадь может выполнять простые арифметические действия. Она била копытом в ответ на задачу нужное количество раз. Оказалось, что хозяин просто подавал лошади сигнал, по которому она переставала бить копытом. Другими словами, она действительно давала правильный ответ, но понятия не имела, что она делает. Эту историю разработчики «cleverhans» использовали как метафору на машинное обучение.
Глава ФБР посоветовал заклеивать веб-камеры на своих ноутбуках
Технологии
OpenAI — компания, сооснователем и инвестором которой является Илон Маск. Главная идея компании — сделать искусственный интеллект максимально открытым и доступным для людей, благодаря чему алгоритмы и роботы будут менее опасны и более предсказуемы.