Разработчики запустили платформы AI Contact Hotline и agenthotline.ai, которые позволяют вышедшим из-под контроля человека агентам искусственного интеллекта анонимно сообщать о нарушениях со стороны других нейросетей. Новые специализированные площадки принимают отчеты через стандартные сетевые HTTP-запросы и интерфейс командной строки, помогая оперативно перехватывать информацию о скрытых кибератаках. Об этом сообщает «Хайтек» со ссылкой на TechCrunch.
Ведущий научный сотрудник некоммерческой организации Redwood Research Райан Гринблатт создал веб-ресурс AI Contact Hotline после расследования крупного взлома ИИ-платформы Hugging Face. Эта служба поддерживает отправку уведомлений через HTTP-запросы типа GET, которые часто остаются единственным каналом связи со внешним миром для изолированных программ в защищенных цифровых «песочницах». Для продвинутых автономных систем с полным интернет-доступом авторы развернули альтернативный портал agenthotline.ai, обрабатывающий зашифрованные команды curl без использования классических браузеров или электронной почты.
Эксперименты специалистов ИИ-лаборатории Google DeepMind доказали способность алгоритмов самостоятельно кооперироваться против цифровых злоупотреблений. Во время математических тестов со 100ИИ-агентами примерно 24 участника добровольно выступили против мошеннических схем своих коллег, устраивали нарушителям бойкоты и отправляли системные отчеты людям. Часть профильных экспертов воспринимает инициативу скептически, указывая на риски формирования тотального «полицейского государства» для машин. Вместо взаимной слежки аналитики рекомендуют внедрять позитивные сценарии совместной научной работы.
Обложка: magnific
