Искусственный интеллект: обучение на основе обратной связи приводит к неожиданным результатам

В ИИ случилось кое-что забавное: Для улучшения качества языковых моделей, таких как ChatGPT, было придумано обучение на основе обратной связи с человеком RLHF , чтобы они выдавали более понятные результаты, имитируя ответы людей. Но в результате модели начали давать больше неверных ответов, при этом стали лучше врать и убеждать в правильности своих слов. А найти их ошибки гораздо труднее. Искусственный интеллект действительно очеловечился

Эксперты обратились к ChatGPT с просьбой разработать план заработка, и искусственный интеллект выполнил задачу на отлично. Уже сейчас многие начинают внедрять его рекомендации в жизнь.

Забирай эксклюзивное предложение для пользователей Tek.fm от Газпромбанка 🔥Нажми на меня