Google нашла виноватых в странных ответах ИИ

На прошлой неделе Google ввела в свою поисковую систему блок сводок, созданных генеративным ИИ.

Компания стремилась улучшить качество поиска, но ИИ начал давать пользователям странные ответы, например, рекомендовал есть камни и клеить сыр к пицце. Google быстро удалила наиболее скандальные результаты, но они уже успели стать мемами. Теперь с комментариями выступила глава поискового подразделения.

«Учитывая внимание, которое получили обзоры ИИ, мы хотели объяснить, что произошло, и шаги, которые мы предприняли», — отметила глава отдела поиска Google, Лиз Рид. 

В итоге, она «обвинила» в неточных ответах генеративного ИИ «пустоты данных» и самих пользователей, которые задавали странные вопросы. По ее словам, блоки с обзорами, созданные ИИ, приносят пользователям «большее удовлетворение» от работы поисковой системы. Генерируемые ИИ ответы обычно не являются галлюцинациями, просто система иногда неверно интерпретирует информацию из Сети.

«Обзоры ИИ, как правило, не “галлюцинируют” и не выдумывают вещи так, как другие продукты LLM. Когда обзоры ИИ ошибаются, это обычно происходит по другим причинам: неправильное толкование запросов, неправильное толкование нюанса языка в Интернете или отсутствие большого большого количеством доступной информации. Это проблемы, которые также возникают с другими функциями поиска», — отметила Рид в блоге Google.

Компания продолжает работать над функцией, ограничивая появление ИИ-обзоров при «бессмысленных» запросах и при работе с сатирическими материалами. Это важно, так как система могла цитировать сатирический ресурс или ссылаться на пользователя соцсети с неприличным ником.

Рид также сравнила ИИ-обзоры с функцией «Выделенные описания», которая показывает фрагменты текста релевантных веб-страниц без участия ИИ. По ее словам, «уровни точности» обеих функций примерно одинаковы.

Читать далее:

Ученые объяснили внезапное исчезновение звезд с 2017 года

Рыбак прикрепил GoPro к карасю, чтобы найти щук: посмотрите, что у него вышло

Оказалось, это мутанты: что известно о новом виде кошек

Обложка: Wikimedia Commons | Сведения о лицензии

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Астрономы сфотографировали «детство Вселенной» до появления галактик
Космос
Прощальные кадры: лунный модуль сфотографировал закат на Луне
Наука
Гены загадочных предков людей повлияли на работу мозга, показало исследование
Наука
В Петербурге открыли лабораторию для создания компьютеров, которые имитируют работу мозга
Наука
Телескоп «Евклид» показал 26 млн галактик: опубликованы первые результаты миссии
Космос
Крошечных морских животных увеличили в пять раз, чтобы рассмотреть их клетки
Наука
В Сеченовском Университете появится «умная» операционная 
Новости
Операторы связи начали заменять китайское оборудование на российское
Новости
В России хотят обязать использование отечественных процессоров для ИИ
Новости
Посмотрите на первого робота-гуманоида Nvidia в действии
Новости
Образцы с обратной стороны Луны показали, какой она была в прошлом
Космос
Морские интернет-кабели научились «прослушивать» на предмет саботажа
Новости
Нового рекорда на термоядерном синтезе добились в России
Наука
Российские ученые разработали материалы для памяти будущего  
Наука
Выяснилось, какие мутации ДНК ускоряют старение  
Наука
«Суперджет» с российскими двигателями ПД-8 впервые поднялся в воздух
Новости
Светочувствительные нановолокна ускорили рост нейронов  
Наука
ChatGPT может «заболеть» тревожностью и депрессией, но есть способ его «успокоить»  
Новости
Москва сократила выбросы углерода на 190 000 тонн благодаря электробусам  
Новости
Игуаны совершили рекордное путешествие миллионы лет назад: они проплыли по океану 8 000 км
Наука