Сообщить об ошибке на сайте
URL
Ошибка
Кибербезопасность

Компания Илона Маска OpenAI представила инструмент для борьбы с уязвимостями в искусственном интеллекте. Он поможет сделать беспилотные автомобили и другие робототехнические системы более безопасными.

Несмотря на развитие систем безопасности, сегодня хакеры по-прежнему имеют возможность захватить управление беспилотным автомобилем, или взять под контроль систему распознавания лиц. Согласно исследованиям, тысячи автобусов и грузовиков в Европе уязвимы для кибератак. Оказалось, что даже Siri или Google Now могут быть превращены в потенциально опасные web-сайты с помощью «белого шума».

Для борьбы с этими проблемами, компания Илона Маска OpenAI и Университет штата Пенсильвания разработали новый инструмент. Он называется «cleverhans» и позволяет проверить, насколько тот или иной искусственный интеллект уязвим для хакеров, пишет Quartz.

Инструмент «cleverhans» содержит различные способы кибератак и варианты защиты от них, а также учебные пособия по тому, как это сделать. Разработчики рассчитывают, что «cleverhans» будет использоваться как в робототехнической индустрии, так и учеными для тестирования уязвимостей.

Своим названием инструмент обязан лошади Clever Hans, которая жила в XX веке и чей хозяин утверждал, что лошадь может выполнять простые арифметические действия. Она била копытом в ответ на задачу нужное количество раз. Оказалось, что хозяин просто подавал лошади сигнал, по которому она переставала бить копытом. Другими словами, она действительно давала правильный ответ, но понятия не имела, что она делает. Эту историю разработчики «cleverhans» использовали как метафору на машинное обучение.

OpenAI — компания, сооснователем и инвестором которой является Илон Маск. Главная идея компании — сделать искусственный интеллект максимально открытым и доступным для людей, благодаря чему алгоритмы и роботы будут менее опасны и более предсказуемы.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Из стволовых клеток создали вакцину против рака
Борьба с раком
Австралийский биохакер будет защищать права киборгов в суде
Биохакинг
Британская организация предлагает ввести БОД для рабочих
Соцпособия будущего
ОАЭ планируют отправить первую миссию на Марс в 2020 году
Космос
Идеи
Графеновый фильтр в один шаг очистил воду из Сиднейской бухты
«Яндекс» испытал беспилотный автомобиль на улицах Москвы
Кейсы
«Стволовые клетки — это загрузочный диск вашего организма»
Борьба со старением
CRISPR применят для диагностики
Тренды
В Австралии запустили крупнейшую в стране плавучую солнечную станцию
Солнечная энергетика
Квантовая физика
Физики из МТИ открыли новую форму света
Новая 3D-биопечать создает естественную среду для развития тканей
Биотехнологии
Intel создала квантовый компьютер в два кубита на кремниевом чипе
Квантовые компьютеры
В Дубае прошли испытания первых в мире автономных кабин
Автономный транспорт
Eviation обещает выпустить электросамолет к 2021 году
Идеи
Новый вид иммунотерапии поможет справиться с вирусом гриппа
Медицина
К 2020 году Boeing будет выпускать по самолету каждые 10 часов
Кейсы
Генное редактирование поможет бороться с умственной отсталостью
Биотехнологии
Starfighters подготовит первых космических туристов к полетам
Частный космос
Услуги блокчейн-консалтинга на Западе и в России
Блокчейн
Кейсы
Чикаго и Кливленд может соединить линия Hyperloop
Термальный резонатор получает энергию из колебаний температуры воздуха
Чистая энергия
ИИ научился фиксировать землетрясения лучше сейсмологов
Кейсы
Новая технология не позволит 3D-напечатанным стенам обрушиться
Строительная 3D-печать
Тим Кук: «Надеюсь дожить до момента, когда наличные выйдут из оборота»
Мнения
Дрон с жестким крылом EagleRay способен летать и плавать под водой
Дроны в законе
Открыт эффективный вид иммунотерапии рака кишечника
Борьба с раком
Dyson работает над целой линейкой электромобилей
Электромобили
Кейсы
В Сиэтле убрали с улиц камеры для слежки за гражданами
Big Buddy Bike — деревянный электровелосипед с авто-балансировкой
Электровелосипеды
Huawei проведет испытания 5G в Ванкувере
Переход на 5G
Цукерберг может продать акции Facebook на $13 млрд
Благотворительность
Pheramor обещает подобрать идеального партнера по ДНК
Генетика
Сделан новый шаг к созданию вакцины против героина
Медицина будущего
Большой Брат
Израильский стартап разработал защиту от распознавания лиц
Генная терапия ВИЧ переживает второе рождение
Медицина будущего
ФБР, ЦРУ и АНБ предупредили об опасности смартфонов Huawei
Кибербезопасность
Facebook в июле представит сразу две умные колонки
Идеи
В британской больнице ИИ помогает врачам делать УЗИ плода
Медицинские технологии
Новый ИИ-процессор позволит запускать нейронные сети на смартфонах
Искусственный интеллект
Изменение климата
Стэнфордские ученые советуют готовиться к климатической катастрофе
Датчик в ботинке позволяет точно определить местоположение без GPS
Навигация
Shell инвестировала в сервис доступа к чистой энергии по подписке
Возобновляемая энергетика
Тренды
Власти США хотят сделать SpaceX глобальным интернет-провайдером
Ученые повернули вспять развитие болезни Альцгеймера у мышей
Медицина будущего
Google выпустит чатбот, который будет отвечать за вас в мессенджерах
Идеи
В США одобрили первый анализ крови на сотрясение мозга
Медицина будущего
В Китае будут контролировать рынок аренды через блокчейн
Блокчейн-технологии
Как получить криптонаследство
Блокчейн
Разработана «нанофабрика», уничтожающая раковые клетки
Биотехнологии