Новости 27 августа 2019

Появился очень реалистичный генератор текстов на основе ИИ. Его не опубликовали, решив, что это опасно

Далее

Систему ИИ под названием GPT-2, обновили. Журналисты «Би-би-си», которые проверили его работоспособность, уверены, что теперь он может генерировать истории так же хорошо, как и живые авторы. Генератор текста от исследовательской фирмы OpenAI отказались публиковать в свободный доступ, так как считают его «слишком опасным» из-за потенциальных злоупотреблений.

Теперь появилась новая, более мощная версия системы, которую можно использовать для создания фальшивых новостей или спама в социальных сетях. «Би-би-си», вместе с экспертами по искусственному интеллекту, решили опробовать его.

Эту модель под названием GPT-2 подготовили на базе данных, насчитывающей восемь миллионов веб-страниц, поэтому ИИ способен адаптироваться к стилю и содержанию первоначального текста. Система может закончить шекспировскую поэму, а также написать статьи и подобрать эпитеты в стиле «практически любого автора».

«Из-за нашей обеспокоенности по поводу вредоносных последствий этой технологии, мы не опубликуем обученную модель. В качестве эксперимента по ответственному раскрытию информации мы вместо этого выпускаем модель, чьи возможности ограничены», — заявили в OpenAI.

Выпущенная версия имела гораздо меньше параметров — фраз и предложений — чем полноценная. Технологический новостной сайт The Next Web сообщает, что даже демо-версия справляется с генерацией текста, однако ее стиль можно отличить от человеческого.

Один из авторов разработки Тристан Грин заявил: «Я боюсь GPT-2, потому что он представляет собой технологию, которую злые люди могут использовать для манипулирования населением. На мой взгляд, он может быть опаснее, чем любое оружие».