Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

Ни один человек в здравом уме не хочет, чтобы искусственный интеллект вышел из-под контроля. Об опасностях такого сценария нас предупреждают Илон Маск, Стивен Хокинг, Билл Гейтс. Проблема в том, считает президент Q/Rrata Док Хьюстон, что нам неизвестны точные границы, выходить за которые опасно.

Базовая идея машинного обучения довольно проста. Вложи в компьютер достаточно примеров того, чему хочешь его научить, и обрубай все лишнее, чтобы правильный результат оказался статистически вероятным и был опознан как наилучшее решение.

Ситуация осложняется, когда речь заходит о более расплывчатых оценках. Например, ни один компьютер не может пока оценить качество или истинность выложенного в интернет материала, не может разобраться в нюансах человеческих диалогов. Но со временем машина научится распознавать оттенки смыслов, а вместе с ними — уровни сокрытия правды и тонкости обмана.

Это приведет к тому, что ИИ сможет не только изучить, но и дать оценку многовековой и не всегда приглядной истории человечества. И сделать собственные выводы.

Принимая это во внимание, организации по профилактике ИИ (OpenAI, The Future of Life Institute, Machine Intelligence Research Institute и др.) и сочувствующие им программисты надеются, что смогут как-то предотвратить формирование у ИИ негативного образа человека. Это сложная задача, ведь за тысячелетия истории мы развили множество противоречивых этических систем с расплывчатыми толкованиями. Сомнительно, что может быть написан такой код, который помог бы машине разобраться в этом. И который не мог бы быть взломан.

Другое соображение касается уже не технической, а политической стороны вопроса. Предположим, что удастся создать механизмы, сдерживающие развитие ИИ в определенных областях. Но какими бы благородными ни были намерения этих организаций, всегда найдутся правительства и военные структуры, которые захотят играть по своим правилам. Опыт противостояний XX века это подтверждает. Они будут пытаться изменить их под себя или сломать совсем, мотивируя это слоганом: «Если не мы, то они».

Основная проблема не в том, что мы не видим угрозы или имеем дурные намерения. Основная проблема где-то между высокомерием человеческой природы и наших общественных институтов. Перефразируя профессора Эдварда Осборна Уилсона, настоящая проблема человечества в том, что у нас варварские эмоции, средневековые институты и богоравные технологии.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

Ученые вставили мозг червя в робота Arduino
Искусственный интеллект
Созданы самые надежные перовскитовые фотоэлементы с КПД 19%
Солнечная энергетика
ИИ изучил автоматизацию и пришел к выводу, что она не угрожает людям
Тренды
«Биткойн выдержит апокалипсис»
Блокчейн
«Люди достигли пределов биологических возможностей»
Мнения
Космические планы
Надувная орбитальная станция Bigelow увеличилась в объемах в 15 раз
Швейцарские банки: «Лучшие дни биткойна еще впереди»
Биткойн
У детей из богатых семей в 10 раз больше шансов стать изобретателями
Социальные инновации
Франция одобрила блокчейн для торговли ценными бумагами
Финтех
Процессор Titan V превратит любой ПК в суперкомпьютер
Железо
Создан новый вид металлического стекла
Новые материалы
Квантовые технологии
Создана квантовая версия жизни
«Китай сравняется или даже превзойдет США в развитии ИИ»
Искусственный интеллект
Разработана версия CRISPR, не требующая разрезания ДНК
Идеи
SpaceX впервые повторно использует и ракету, и космический корабль
Идеи
Сооснователь Yahoo: «Биткойн еще сыграет важную роль в обществе»
Блокчейн
Honda представит роботизированный квадроцикл и еще трех новых роботов
Робототехника
Чехол смартфона превратили в глюкометр
Лечение диабета
Идеи
Beyond Meat увеличит производство искусственного мяса в три раза
Разработан двумерный транзистор на бумажной основе
Электронная бумага
Clova — виртуальный помощник, понимающий все нюансы японского языка
Кейсы
ВЭФ назвал скуку одним из главных рисков автоматизации
Тренды
Найден источник метана в океане — это микробы
Научные открытия
Зарплаты блокчейн-специалистов в Швейцарии выросли до $180 тысяч в год
ICO
Глава Boeing пообещал раньше Маска отправить человека на Марс
Миссия на Марс
Квантовые компьютеры
«Квантовые компьютеры страшнее ядерного оружия»
Bank of America запатентовал автоматический обменник криптовалют
Криптовалюты
Доказана эффективность генной терапии в борьбе с болезнями мозга
Генная терапия
Hilton оборудует номера в своих отелях системами умного дома
Умный дом
Skypod — робот-кладовщик, взбирающийся на полки
Промышленные роботы
«Генное программирование станет новой инженерной дисциплиной»
Генная инженерия
Европейские энергокомпании станут углеродно-нейтральными к 2050 году
Тренды
Солнечная энергия
Создан солнечный элемент по рецептам Теслы и Эйнштейна
«ИИ оставит программистов без работы к 2040 году»
Искусственный интеллект
Пациентам датской больницы напечатают еду с учетом предписаний врача
3D-печать
Видеоигры предотвращают старческое слабоумие
Исследования мозга
ИИ помогает ловить серийных убийц
Идеи
Lyft начинает испытания робомобилей от NuTonomy
Беспилотные автомобили
Let Glass — первые умные очки с поддержкой Alexa
Умные очки
Идеи
Синтезирован «гормон любви» без побочных эффектов
Новая технология позволяет видеть сквозь любые стены
Кейсы
Amazon запатентовала ИИ-консультанта для садоводов-любителей
Кейсы
Открыт нейронный механизм подавления чувства голода
Медицинские исследования
Сооснователь Wikipedia создаст энциклопедию на блокчейне
Идеи
Британская компания выпустит «вечные» кроссовки с подошвой из графена
Новые материалы
Австралийская фондовая биржа переходит на блокчейн
Блокчейн
Гибкие дисплеи
Япония представила первые в мире напечатанные OLED-панели
Goldman Sachs назвал криптовалюту эфир в числе трендов, меняющих мир
Тренды
«Перезагрузка» митохондрий замедляет развитие болезни Альцгеймера
Борьба со старением