Мнения

«Выдумки Маска о роботах-убийцах отвлекают от реальных проблем ИИ»

Далее

Представьте, что у вас была бы возможность рассказать 50 наиболее влиятельным политикам в США, какой самой важной проблемой должно заняться правительство, пишет колумнист Wired Тим Симонит. У Илона Маска был такой шанс на минувших выходных на встрече Национальной ассоциации губернаторов в штате Род-Айленд. И из всех возможных проблем, он порекомендовал властям всерьез заняться предотвращением восстания машин и уничтожения человечества роботами.

«ИИ — это фундаментальный экзистенциальный риск для человеческой цивилизации, и я не думаю, что люди это полностью понимают», — сказал Маск. Он попросил губернаторов рассмотреть гипотетический сценарий, в рамках которого программа торговли акциями сбила малайзийский лайнер над Украиной лишь ради того, чтобы увеличить стоимость своего портфеля ценных бумаг. Маск призвал к созданию регулятора, который заставил бы компании, внедряющие ИИ, притормозить разработки. Однако, люди, которые проводят за разработкой искусственного интеллекта гораздо больше времени, чем Маск, считают, что подобные эсхатологические сценарии лишь отвлекают правительство от более насущных проблем.

Педро Домингос, профессор, который работает над машинным обучением в Университете штата Вашингтон, тяжело вздыхает, когда слышит, что говорит основатель Tesla и SpaceX на тему ИИ. «Многие из нас пытались воспитывать его и других, подобных ему, в представлении о реальных и предполагаемых опасностях ИИ, но все, кажется, бесполезно», — признался Домингос. По его словам, правительству США следует думать не о восстании машин, а о том, что ИИ дает непропорциональную рыночную власть нескольким крупным технологическим компаниям.

В Ле-Бурже представили электросамолет с запасом хода 965 км

С ним согласен Ияд Рахван, работающий над ИИ в МТИ. «Надо беспокоиться не о том, что торговые боты становятся достаточно умными, чтобы начать войну в качестве инвестиционной стратегии, а о том, как сегодня люди могут использовать ботов для распространения дезинформации в интернете». В частности, для вымогания денег, сбора средств для мошеннических проектов и так далее.

Ученые говорят о том, что вместо того, чтобы сочинять фантастические истории о выходе роботов на улицы для убийства людей, стоит разобраться с тем, как человек использует ИИ уже сегодня. «Всегда интересно послушать Маска, как он говорит об ИИ, который убивает нас, особенно на фоне новостей о том, как люди погибают в автономных машинах, которые Маск же и построил», — говорит Райан Кало, занимающийся этическими вопросами робототехники в ​​Университете штата Вашингтон. «ИИ — это то, на что правительство должно обратить внимание, но экзистенциальные угрозы отвлекают его внимание от реальных проблем, которые ИИ создаст в ближайшем будущем», — говорит он.

Генеративные нейросети породят новое поколение фейков

Исследователи из Оксфордского университета провели опрос 350 экспертов в сфере машинного обучения и робототехники и выяснили, что, по их мнению, сначала ИИ научится переводить с иностранных языков лучше человека, затем лучше писать, лучше водить автомобили, лучше продавать и лучше оперировать. А уже через 40 с небольшим лет он обойдет человечество по уровню интеллекта.

Загрузка...