Сообщить об ошибке на сайте
URL
Ошибка
Искусственный интеллект

Ни один человек в здравом уме не хочет, чтобы искусственный интеллект вышел из-под контроля. Об опасностях такого сценария нас предупреждают Илон Маск, Стивен Хокинг, Билл Гейтс. Проблема в том, считает президент Q/Rrata Док Хьюстон, что нам неизвестны точные границы, выходить за которые опасно.

Базовая идея машинного обучения довольно проста. Вложи в компьютер достаточно примеров того, чему хочешь его научить, и обрубай все лишнее, чтобы правильный результат оказался статистически вероятным и был опознан как наилучшее решение.

Ситуация осложняется, когда речь заходит о более расплывчатых оценках. Например, ни один компьютер не может пока оценить качество или истинность выложенного в интернет материала, не может разобраться в нюансах человеческих диалогов. Но со временем машина научится распознавать оттенки смыслов, а вместе с ними — уровни сокрытия правды и тонкости обмана.

Это приведет к тому, что ИИ сможет не только изучить, но и дать оценку многовековой и не всегда приглядной истории человечества. И сделать собственные выводы.

Принимая это во внимание, организации по профилактике ИИ (OpenAI, The Future of Life Institute, Machine Intelligence Research Institute и др.) и сочувствующие им программисты надеются, что смогут как-то предотвратить формирование у ИИ негативного образа человека. Это сложная задача, ведь за тысячелетия истории мы развили множество противоречивых этических систем с расплывчатыми толкованиями. Сомнительно, что может быть написан такой код, который помог бы машине разобраться в этом. И который не мог бы быть взломан.

Другое соображение касается уже не технической, а политической стороны вопроса. Предположим, что удастся создать механизмы, сдерживающие развитие ИИ в определенных областях. Но какими бы благородными ни были намерения этих организаций, всегда найдутся правительства и военные структуры, которые захотят играть по своим правилам. Опыт противостояний XX века это подтверждает. Они будут пытаться изменить их под себя или сломать совсем, мотивируя это слоганом: «Если не мы, то они».

Основная проблема не в том, что мы не видим угрозы или имеем дурные намерения. Основная проблема где-то между высокомерием человеческой природы и наших общественных институтов. Перефразируя профессора Эдварда Осборна Уилсона, настоящая проблема человечества в том, что у нас варварские эмоции, средневековые институты и богоравные технологии.

Подписывайтесь на наши каналы в Telegram

«Хайтек» - новости онлайн по мере их появления

«Хайтек» Daily - подборки новостей 3 раза в день

ARM интегрировала новый формат SIM-карты сразу в мобильный процессор
Интернет вещей
Создан терапевтический гель против рака
Борьба с раком
Разработан мемтранзистор — гибрид мемристора и транзистора
Микроэлектроника
«Умная» куртка использует ИИ, чтобы регулировать температуру
Одежда будущего
Блокчейн
Стартап позволит совершать сделки с криптовалютой в тайне
Renault построит «умную» энергосистему на острове в Португалии
Тренды
К 2030 треть всей производимой энергии в Европе должна быть чистой
Чистая энергия
Илон Маск покинул совет директоров OpenAI
Кейсы
Раскрыт механизм омоложения мозга переливанием крови
Борьба со старением
Балеарские острова перейдут на возобновляемую энергетику к 2050 году
Тренды
«Чистые» источники обеспечат 75% энергии в Южной Австралии к 2025 году
Тренды
Искусственный интеллект
«Мы должны прекратить притворяться, что ИИ не лишит людей работы»
Ученые впервые зарядили смартфон лазером с расстояния 4 метра
Беспроводная зарядка
Nokia запускает платформу для умных городов и IoT
Умный город
Городские фермы могут приносить до $160 млрд ежегодно
Города будущего
Исследователи объединили AR, 3D-печать и робототехнику
Тренды
Испанский стартап представил бумажные одноразовые батареи
Экологичные технологии
Boston Dynamics показала противостояние человека и робота
Робототехника
Возобновляемая энергетика
Прошел испытания первый в мире воздушный солнечный реактор
Boeing стандартизирует 3D-напечатанные запчасти для самолетов
3D-технологии
GoldX — первая криптовалюта, отвечающая законам шариата
Криптовалюты
Финляндия начнет выдавать стартап-вид на жительство
Тренды
Иранский инженер создал легкий электробайк с дальностью хода 80 км
Транспорт будущего
Google запустила собственный платежный сервис
Кейсы
Глава Банка Англии: «Биткойн не состоялся как валюта»
Криптовалюты
Нанотехнологии
Открыты материалы, которые совершат революцию в электронике
Китай впервые обошел США по объему инвестиций в ИИ-стартапы
Искусственный интеллект
Bigelow Space Operations займется торговлей орбитальными станциями
Частный космос
На продолжительность жизни потомства влияет возраст отцов
Генетика
Электромобили
Tesla Model S обогнала по продажам в Европе BMW 7 и Mercedes S-class
Роботы-террористы и постправда: главные угрозы ИИ
Искусственный интеллект
Toyota в 20 раз удешевила магниты для двигателей электромобилей
Электромобили
Тереза Мэй призывает британскую молодежь идти в техникумы
Образование
Новая электронная «кожа» чувствует прикосновение божьей коровки
Гибкая электроника
«Аналоговые банки и финансовые компании проиграют цифровым»
Мнения
Генетики нашли доказательства того, что люди одомашнили себя сами
Генетика
Falcon Heavy в 15 раз увеличила число доступных для разработки астероидов
Добыча на астероидах
Сооснователь Facebook: «БОД нужно вводить уже сейчас»
Соцпособия будущего
«ИТ-компании должны подготовить сотрудников к эпохе ИИ»
Автоматизация
Микроэлектроника
Samsung выпустила твердотельный накопитель емкостью 30,72 ТБ
Как лазеры и роботы меняют рыбоводческие фермы
Технологии будущего
Stelia напечатала авиационный фюзеляж с эффектом самоупрочнения
3D-технологии
Суперкомпьютер помог создать новый тип люминофора для светодиодов
Новые технологии
Франция собирается стать крупным игроком на рынке приливной энергии
Возобновляемая энергетика
Медицина будущего
Открытие ученых позволит «перепрошить» мозг после инсульта
Центробанк Швеции обеспокоен стремительным отказом от наличных
Кейсы
В Великобритании пациенту установили ребра, напечатанные из титана
Кейсы
Алгоритм от Google прогнозирует инфаркт по сетчатке глаза
Искусственный интеллект
В Японии создали электрокар, который разгоняется быстрее Tesla
Электромобили