Еще при создании стартапа основатели и инвесторы OpenAI, среди которых Илон Маск и Сэм Альтман, подчеркнули, что их главная цель - способствовать развитию ИИ без вреда для человека. Компания предлагает ученым сформировать штат полиции искусственного интеллекта, которая будет следить за порядком в мире алгоритмов, кодов и нейросетей. Об этом пишет WIRED.
В стартапе опасаются, что сторонние компании совершат открытие в сфере ИИ, которое приведет к необратимым последствиям — роботы выйдут из-под контроля и уничтожат человечество. Такие прогнозы неоднократно давал Илон Маск, глава Tesla и SpaceX и один из инвесторов OpenAI. Компания призывает лучших ученых объединиться и создать систему выявления ИИ-открытий до того, как они получат широкую огласку.
В этом заключается идеология OpenAI, которая выражена и в названии стартапа — сделать ИИ максимально открытым и доступным для других людей, благодаря чему алгоритмы и роботы будут менее опасны и более предсказуемы. При этом люди будут знать, как вести себя с системами, которые вышли из-под контроля.
Эксперты полагают, что OpenAI также хочет сдержать монополизацию искусственного интеллекта, на которую уже претендуют Google и Facebook.
Роботы, в которых инвестирует Илон Маск
Технологии
Стартап предлагает несколько шагов, которые можно предпринять уже сейчас. Для начала OpenAI предлагает направить пристальное внимание на сферу онлайн игр, новостных онлайн-сервисов и на финансовые рынки. Следить за развитием ИИ в этих отраслях можно либо традиционными методами, либо с помощью алгоритмов.
Один из руководителей проектов OpenAI Грег Брокманн выразил беспокойство по поводу развития новостных агрегаторов. Он приводит в пример манипуляции с алгоритмами создания новостной ленты Facebook: «Через социальные медиа можно управлять общественным мнением. А создание все более развитых автоматизированных систем еще больше повышает возможности в этой сфере».
Но OpenAI заинтересован не только в ИИ-полиции, но и в других проектах. Стартап хочет разработать умную систему кибербезопасности, а также алгоритм, который сможет победить в конкурсе онлайн-программистов.
Ранее стало известно, что OpenAI собирается перепрограммировать складских роботов Fetch Robotics таким образом, чтобы они могли учиться методом проб и ошибок.