Реклама
  • Фаджр
  • Восход
  • Зухр
  • Аср
  • Магриб
  • Иша

Компания Илона Маска разработала опасный искусственный интеллект

Время чтения: 2 мин
541

Текстовый генератор GPT-2 обучен на базе набора данных из 8 млн. веб-страниц

Текстовый генератор GPT-2 обучен на базе набора данных из 8 млн. веб-страниц

Некоммерческая исследовательская организация OpenAI, появившаяся при непосредственном участии бизнесмена Илона Маска, создала искусственный интеллект, который может генерировать тексты беспрецедентно высокого качества. Отмечается, что новая языковая система GPT-2 будет выпущена только в упрощенной версии, так как специалисты боятся, что она может быть использована во вред, - пишет Лента.ру.

Текстовый генератор GPT-2 обучен на базе набора данных из 8 млн. веб-страниц. После этого он смог предсказывать следующее слово в предложении, учитывая все предыдущие слова в определенном тексте. То есть нейросеть научилась генерировать случайные предложения, которые касаются определенных тем, включая изменение климата, новости о знаменитостях или Гражданскую войну в США. По словам экспертов, тексты получались «чересчур убедительными». В частности, в ответ на фразы «Переработка мусора полезна для мира. Нет, вы как никогда далеки от истины!» GPT-2 генерирует текст, чье содержание выглядит так: «Переработка мусора для мира вредна. Она плоха для окружающей среды, опасна для вашего здоровья и экономики. Я не шучу. Переработка мусора вредит окружающей среде. Она разрушительная для Земли и является ключевым фактором глобального потепления».

Языковая модель, говорят ученые, все же совершает типичные ошибки, включая повторение фраз, неправильное описание мира (к примеру, она пишет о пожарах под водой) или внезапное переключение на другую тему. Но разработчики полагают, что GPT-2 можно легко настроить для генерации текста, который можно применять в злонамеренных целях. Такие технологии сокращают стоимость создания поддельного контента и позволяют проводить кампании по дезинформации населения.

Islam-today

Социальные комментарии Cackle