Появился очень реалистичный генератор текстов на основе ИИ. Его не опубликовали, решив, что это опасно
Новости 27 августа 2019

Появился очень реалистичный генератор текстов на основе ИИ. Его не опубликовали, решив, что это опасно

Далее

Систему ИИ под названием GPT-2, обновили. Журналисты «Би-би-си», которые проверили его работоспособность, уверены, что теперь он может генерировать истории так же хорошо, как и живые авторы. Генератор текста от исследовательской фирмы OpenAI отказались публиковать в свободный доступ, так как считают его «слишком опасным» из-за потенциальных злоупотреблений.

Теперь появилась новая, более мощная версия системы, которую можно использовать для создания фальшивых новостей или спама в социальных сетях. «Би-би-си», вместе с экспертами по искусственному интеллекту, решили опробовать его.

Эту модель под названием GPT-2 подготовили на базе данных, насчитывающей восемь миллионов веб-страниц, поэтому ИИ способен адаптироваться к стилю и содержанию первоначального текста. Система может закончить шекспировскую поэму, а также написать статьи и подобрать эпитеты в стиле «практически любого автора».

«Из-за нашей обеспокоенности по поводу вредоносных последствий этой технологии, мы не опубликуем обученную модель. В качестве эксперимента по ответственному раскрытию информации мы вместо этого выпускаем модель, чьи возможности ограничены», — заявили в OpenAI.

Выпущенная версия имела гораздо меньше параметров — фраз и предложений — чем полноценная. Технологический новостной сайт The Next Web сообщает, что даже демо-версия справляется с генерацией текста, однако ее стиль можно отличить от человеческого.

Один из авторов разработки Тристан Грин заявил: «Я боюсь GPT-2, потому что он представляет собой технологию, которую злые люди могут использовать для манипулирования населением. На мой взгляд, он может быть опаснее, чем любое оружие».