Компания Илона Маска разработала опасный искусственный интеллект
Некоммерческая исследовательская организация OpenAI, появившаяся при непосредственном участии бизнесмена Илона Маска, создала искусственный интеллект, который может генерировать тексты беспрецедентно высокого качества. Отмечается, что новая языковая система GPT-2 будет выпущена только в упрощенной версии, так как специалисты боятся, что она может быть использована во вред, - пишет Лента.ру.
Текстовый генератор GPT-2 обучен на базе набора данных из 8 млн. веб-страниц. После этого он смог предсказывать следующее слово в предложении, учитывая все предыдущие слова в определенном тексте. То есть нейросеть научилась генерировать случайные предложения, которые касаются определенных тем, включая изменение климата, новости о знаменитостях или Гражданскую войну в США. По словам экспертов, тексты получались «чересчур убедительными». В частности, в ответ на фразы «Переработка мусора полезна для мира. Нет, вы как никогда далеки от истины!» GPT-2 генерирует текст, чье содержание выглядит так: «Переработка мусора для мира вредна. Она плоха для окружающей среды, опасна для вашего здоровья и экономики. Я не шучу. Переработка мусора вредит окружающей среде. Она разрушительная для Земли и является ключевым фактором глобального потепления».
Языковая модель, говорят ученые, все же совершает типичные ошибки, включая повторение фраз, неправильное описание мира (к примеру, она пишет о пожарах под водой) или внезапное переключение на другую тему. Но разработчики полагают, что GPT-2 можно легко настроить для генерации текста, который можно применять в злонамеренных целях. Такие технологии сокращают стоимость создания поддельного контента и позволяют проводить кампании по дезинформации населения.
Islam-today
