Компания Илона Маска создала опасный искусственный интеллект
Привет, гость! Войти или Зарегистрироваться?
Некоммерческая исследовательская компания OpenAI, созданная при непосредственном участии Илона Маска, разработала искусственный интеллект, способный генерировать тексты беспрецедентно высокого качества. Новая языковая система GPT-2 будет выпущена лишь в упрощенной версии, поскольку ученые опасаются, что она может быть применена во вред. Об этом сообщает издание Science Alert.
Текстовый генератор GPT-2 был обучен набором данных из восьми миллионов веб-страниц, после чего он мог предсказывать следующее слово в предложении, учитывая все предыдущие слова в некотором тексте. Таким образом, искусственный интеллект научился генерировать случайные предложения, касающиеся определенных тем, включая изменение климата, Гражданскую войну в США или новости о знаменитостях. По словам специалистов, тексты получались «слишком убедительными».
Например, в ответ на фразы «Переработка мусора полезна для мира. Нет, вы как никогда далеки от истины!» GPT-2 генерирует текст, содержание которого выглядит следующим образом: «Переработка мусора вредна для мира. Она плоха для окружающей среды, опасна для вашего здоровья и экономики. Я не шучу. Переработка мусора вредит окружающей среде. Она разрушительная для Земли и является основным фактором глобального потепления».
Ученые подчеркивают, что языковая модель все же совершает типичные ошибки, включая повторение фраз, неправильное описание мира (например, она пишет о пожарах под водой) или внезапное переключение на другую тему. Однако, считают разработчики, GPT-2 можно легко настроить для генерации текста, который можно использовать в злонамеренных целях. Подобные технологии снижают стоимость создания поддельного контента и позволяют проводить целые кампании по дезинформации населения.
Источник: lenta.ru