Илон Маск снова предупредил, что ИИ теряет связь с реальностью, если игнорирует три базовые вещи: истину, красоту и любопытство. Он рассказал об этом в подкасте с Нихилом Каматом и привёл свежие примеры того, как системы уже ошибаются.
Илон Маск заявил, что мощные технологии всегда несут риск, особенно когда они опираются на искажённые данные. Он напомнил, что ИИ растёт на информации из интернета и впитывает ложь так же легко, как факты. Из-за этого системы путают реальность и делают выводы, которые Маск назвал «безумными».
Он привёл пример Apple Intelligence. В начале 2025 года она отправила фейковое уведомление о победе британского дартсиста Люка Литтлера в чемпионате PDC — ещё до того, как спортсмен реально выиграл турнир. Маск отметил, что такие ошибки показывают: ИИ всё ещё не умеет уверенно отличать факт от вымысла.
Он сказал, что безопасные системы должны держаться за три опоры: правду, эстетическое чувство и интерес к устройству мира. По его словам, ИИ должен стремиться понять реальность и помогать людям, а не толкать технологии к разрушению.
Маск напомнил, что его мнение разделяет Джеффри Хинтон, которого называют «крёстным отцом ИИ». Хинтон оценивает риск гибели человечества от ИИ в 10–20 %. Он считает, что в ближайшее время опасность создают галлюцинации и автоматизация рабочих мест начального уровня.
«Мы надеемся, что если достаточно умных людей проведут достаточно исследований, располагая достаточными ресурсами, мы найдём способ создания таких систем ИИ, которые никогда не захотят причинить нам вред», — сказал Хинтон.
Читать далее:
Вселенная внутри черной дыры: наблюдения «Уэбба» подтверждают странную гипотезу
Испытания ракеты Starship Илона Маска вновь закончились взрывом в небе
Сразу четыре похожих на Землю планеты нашли у ближайшей одиночной звезды
Обложка: Gage Skidmore • CC BY-SA 4.0
.jpg#mw-jump-to-license){kind=link}