Эпстайн задумался о проблеме объективности искусственного интеллекта после того, как его дочь решила показать Alexa в действии. Когда они дошли до темы «сетевой нейтральности», выяснилось, что голосовой помощник использует цензуру и отбирает новости и мнения, которые отражают только одну точку зрения. В данном случае — «против».
Ровно два слоя графена смогут остановить пулю
Идеи
По мнению Джереми, это соответствует интересам Amazon и, похоже, в компании специально натренировали ИИ следовать «линии партии». Проблема носит глобальный характер, считает он, так как качество обучения ИИ зависит от объема данных: чем их больше, чем точнее алгоритм. Учитывая, что самые крупные данные собирают гигантские ИТ-корпорации, то сетевая власть концентрируется в их руках. Более того, все ключевые компоненты обучения ИИ — набор данных, алгоритм, ИИ-интерфейс, — все они скрыты от публики и могут использоваться для манипуляций или продвижения собственных интересов.
Решением проблемы могут стать блокчейн-сети, интегрированные с ИИ. Один из примеров — Ocean Protocol, который позволяет обычным людям загружать наборы данных и получать за это компенсацию (проект open source). По тому же принципу работает IOTA. Другой проект — SingularityNet делает открытыми модели машинного обучения, которые компании могут применять к собственным наборам данных, опять же за компенсацию.
Наконец, проект SEED обеспечивает прозрачность на уровне самого чат-бота. В сети SEED Network хранятся все «деревья решений» и модели обучения ботов, в которые пользователи могут вносить свой вклад. Также у ботов есть авторы, которые вознаграждаются. SEED Marketplace позволяет торговать отдельными элементами ботов, используя «внутреннюю валюту» — токены SEED.
Дежавю не ошибка мозга, а попытка ее предотвратить
Идеи
Согласно новому исследованию, уже девять из десяти американцев утверждают, что общению со службой поддержки они предпочитают ИИ-чат. В следующем году компании будут активно развивать свои приложения для обмена сообщениями с клиентами.