Сообщить об ошибке на сайте
URL
Ошибка
Кибербезопасность

Компания Илона Маска OpenAI представила инструмент для борьбы с уязвимостями в искусственном интеллекте. Он поможет сделать беспилотные автомобили и другие робототехнические системы более безопасными.

Несмотря на развитие систем безопасности, сегодня хакеры по-прежнему имеют возможность захватить управление беспилотным автомобилем, или взять под контроль систему распознавания лиц. Согласно исследованиям, тысячи автобусов и грузовиков в Европе уязвимы для кибератак. Оказалось, что даже Siri или Google Now могут быть превращены в потенциально опасные web-сайты с помощью «белого шума».

Для борьбы с этими проблемами, компания Илона Маска OpenAI и Университет штата Пенсильвания разработали новый инструмент. Он называется «cleverhans» и позволяет проверить, насколько тот или иной искусственный интеллект уязвим для хакеров, пишет Quartz.

Инструмент «cleverhans» содержит различные способы кибератак и варианты защиты от них, а также учебные пособия по тому, как это сделать. Разработчики рассчитывают, что «cleverhans» будет использоваться как в робототехнической индустрии, так и учеными для тестирования уязвимостей.

Своим названием инструмент обязан лошади Clever Hans, которая жила в XX веке и чей хозяин утверждал, что лошадь может выполнять простые арифметические действия. Она била копытом в ответ на задачу нужное количество раз. Оказалось, что хозяин просто подавал лошади сигнал, по которому она переставала бить копытом. Другими словами, она действительно давала правильный ответ, но понятия не имела, что она делает. Эту историю разработчики «cleverhans» использовали как метафору на машинное обучение.

OpenAI — компания, сооснователем и инвестором которой является Илон Маск. Главная идея компании — сделать искусственный интеллект максимально открытым и доступным для людей, благодаря чему алгоритмы и роботы будут менее опасны и более предсказуемы.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Чили становится центром дешевой возобновляемой энергетики
Тренды
Китайцы научились обходить запрет на торговлю биткойнами
Блокчейн
ИИ выведет систему образования из кризиса
Тренды
Создана новая технология 3D-печати более прочной и пластичной стали
3D-технологии
Блокчейн
«Люди берут кредиты, чтобы купить биткойны»
Готовимся к ICO. Инструкция, часть 2
ICO
Немецкие ученые разработали стабильный квантовый вентиль из кремния
Квантовые компьютеры
В МТИ разработали прибор, который избавит пациентов от уколов
Медицина будущего
Доказана эффективность лечения рака генно-модифицированными клетками
Борьба с раком
Мнения
Бывший вице-президент Facebook: «Соцсети разобщают людей»
2D-игры помогут выявить опасные наклонности алгоритмов
Идеи
Новый бионический протез управляет каждым пальцем по отдельности
Медицина будущего
Microsoft выпустила язык квантового программирования Q#
Квантовые компьютеры
Первая VTOL-гонка пройдет в 2019 году в австралийской пустыне
Летающие автомобили
Deloitte предсказывает рост киберспорта, цифровых транзакций и AR
Прогнозы
Искусственная ДНК помогает бороться с неизлечимым заболеванием
Биотехнологии
Россия выступила против добычи ископаемых на астероидах
Тренды
Новая стратегия уничтожения бактерий, вызывающих хронические инфекции
Медицина будущего
В Иннополисе стартовал первый чемпионат DigitalSkills
WorldSkills
Прогнозы
Люди-киборги, миссия на Марс и ужасы ИИ: прогнозы от Илона Маска
Найдены доказательства существования новой формы материи
Научные открытия
Криптовалюты
Deutsche Bank: «Крах биткойна — один из главных рисков 2018 года»
Shell и GE передают управление в руки алгоритмов
Автоматизация
Honda CB4 Interceptor — мотоцикл, использующий энергию ветра
Идеи
Индия переживает бум чатботов-психологов
Чатботы
Новый вид 3D-печати за секунды создает объекты с помощью голограмм
Тренды
Граждане США могут навсегда лишиться цифровой приватности
Приватность
Германия установит рекорд в ветровой энергетике в 2017 году
Чистая энергия
Биотех-компания набивает татуировки с ДНК близкого человека
Биотехнологии
Британия планирует стать раем для космических стартапов
Космические планы
Илон Маск: «Tesla разрабатывает лучший в мире ИИ для беспилотников»
Беспилотные технологии
Электричество поможет диагностировать рак
Борьба с раком
Искусственный интеллект
Ученые вставили мозг червя в робота Arduino
Сэм Альтман: «Люди вошли в стадию коэволюции с ИИ»
Искусственный интеллект
Созданы самые надежные перовскитовые фотоэлементы с КПД 19%
Солнечная энергетика
Эксперт Ford: «Автомобили будут отдавать бесплатно в обмен на данные»
Мнения
ИИ изучил автоматизацию и пришел к выводу, что она не угрожает людям
Тренды
«Биткойн выдержит апокалипсис»
Блокчейн
В США стартовали первые торги биткойн-фьючерсами
Блокчейн
«Люди достигли пределов биологических возможностей»
Мнения
Космические планы
Надувная орбитальная станция Bigelow увеличилась в объемах в 15 раз
Швейцарские банки: «Лучшие дни биткойна еще впереди»
Биткойн
У детей из богатых семей в 10 раз больше шансов стать изобретателями
Социальные инновации
Франция одобрила блокчейн для торговли ценными бумагами
Финтех
Процессор Titan V превратит любой ПК в суперкомпьютер
Железо
Создан новый вид металлического стекла
Новые материалы
Квантовые технологии
Создана квантовая версия жизни
«Китай сравняется или даже превзойдет США в развитии ИИ»
Искусственный интеллект
Разработана версия CRISPR, не требующая разрезания ДНК
Идеи