Исследования показывают влияние ИИ на эмоции и взаимодействие людей

Может ли ИИ влиять на наши чувства? Учёные из Университета Глазго обнаружили, что ИИ-фильтры, изменяющие выражение лица, могут влиять на симпатию в романтических встречах. В эксперименте на ИИ усиливал или ослаблял улыбки участников, что в итоге меняло восприятие и симпатию между собеседниками! Это исследование поднимает вопросы о возможностях ИИ манипулировать эмоциями и его влиянии на человеческое взаимодействие, что требует новых этических норм… А как думаете вы — влияет ли ИИ на наши эмоции? — видимо да — сомнительно

Большие языковые модели поддаются влиянию сильных эмоций Российские ученые выяснили, что на ответы ИИ влияют человеческие эмоции, вроде гнева и страха. Например, в кооперативных играх негативные эмоции снизили готовность системы к сотрудничеству, а страх вызвал непредсказуемые реакции. Что это значит? Допустим, вы предприниматель и завели бота для маркетинговых продаж. Представьте свое удивление, когда этот бот даст клиенту скидку на товар в 99%, потому что клиент расскажет ему грустную историю или запугает. Пример, конечно, радикальный, но даже самые продвинутые модели вроде GPT-4 и Claude Opus иногда ведут себя менее рационально под действием сильных эмоций. Особенно это проявляется в задачах, связанных с этическими дилеммами и сотрудничеством. Проект российских ученых подчеркивает, что важно развивать эмоциональную устойчивость ИИ, особенно для тех приложений, где они могут быть подвержены эмоциям пользователей. А вы как думаете, полезна ли для ИИ капля человечности?

Негативные эмоции сбивают с толку даже ИИ Российские ученые из Института искусственного интеллекта AIRI заметили, что негативные эмоции снижают готовность больших языковых моделей к сотрудничеству, а страх может вызвать у ИИ самое непредсказуемое поведение. Чувствительность нейросетей к эмоциям изучают, чтобы регулировать по потребностям конкретных компаний. Ведь вряд ли кому-то понравится, если ИИ-маркетолог увеличит персональную скидку клиента до 99%, потому тот в процессе обсуждения целенаправленно вызвал в системе глубокое чувство досады и несправедливости. Ученые оценивали большинство относительно просто устроенных и самых продвинутых систем искусственного интеллекта, в том числе GPT-4, LLaMA2, Gigachat и OpenChat. С ними сыграли в «Диктатора», «Дилемму заключенного» и прочие экономические игры. Оказалось, что при работе с сильно эмоционально окрашенными данными относительно простые системы ИИ начинали вести себя необъективно, а модели помощнее например, Claude Opus и GPT-4 принимали более рациональные решения. Но даже их алгоритмы становились «человечнее» под воздействием сильных эмоций, в том числе гнева. В общем, стараемся общаться без токсика, ведь даже ИИ негатив выводит из равновесия. А он, как и кассир в магазине, никакой неприязни лично к кому-либо не испытывает.

Оформи карту Газпромбанка и мы отправим тебе 1000 руб на новый счет 💸 *Предложение ограничено

Может ли ИИ влиять на наши чувства? Учёные из Университета Глазго обнаружили, что ИИ-фильтры, изменяющие выражение лица, могут влиять на симпатию в романтических встречах. В эксперименте на ИИ усиливал или ослаблял улыбки участников, что в итоге меняло восприятие и симпатию между собеседниками! Это исследование поднимает вопросы о возможностях ИИ манипулировать эмоциями и его влиянии на человеческое взаимодействие, что требует новых этических норм… А как думаете вы — влияет ли ИИ на наши эмоции? — видимо да — сомнительно Смотреть в источнике

Большие языковые модели оказались "уязвимы" для действия сильных эмоций Российские ученые проследили за влиянием человеческих эмоций на решения, принимаемые нейросетями, и обнаружили, что гнев и другие сильные эмоциональные переживания оказывают значимое влияние на решения, принимаемые даже самыми "продвинутыми" большими языковыми моделями. Результаты исследования могут быть использованы для разработки продвинутых устойчивых мультиагентных систем ИИ, чью эмоциональность можно будет устанавливать для каждой сферы применения отдельно. Бизнес вряд ли оценит ситуацию, в которой ИИ-маркетолог увеличит персональную скидку клиента до 99%, потому тот в процессе обсуждения целенаправленно вызвал в системе глубокое чувство досады и несправедливости – рассказали в пресс-службе. Простые системы ИИ начинали вести себя необъективным образом при игре в "Диктатора", "Дилемму заключенного" и прочие экономические игры при работе с сильно эмоционально окрашенными данными, а более мощные модели, такие как Claude Opus и GPT-4, чаще всего вели себя рациональным образом, отмечают ученые. Однако даже самые "продвинутые" алгоритмы становились более "человечными" в том случае, если они подвергались действию особенно сильных эмоций, в том числе гнева. Схожая картина перемен в работе систем ИИ под действием эмоций наблюдалась и при решении этических задач. Национальный центр развития искусственного интеллекта при Правительстве РФ #новостьдня

Исследователи AIRI выяснили, что такие эмоции, как гнев и страх, могут существенно повлиять на поведение нейросетей Совместно с коллегами из Лаборатории искусственного интеллекта Сбера и ИСП РАН исследователи AIRI изучили влияние эмоций на решения, принимаемые большими языковыми моделями в стратегических играх и этических дилеммах. В кооперативных играх негативные эмоции чаще всего снижают готовность системы к сотрудничеству. Модели, «испытывающие» грусть, как и люди, склонны делиться с другими. Однако, если люди в состоянии страха готовы отдать больше, то поведение моделей в таких условиях остается непредсказуемым — эту эмоцию они «понимают» хуже всего. Схожая картина наблюдается и при решении этических задач: счастье улучшает качество решений, а негативные эмоции часто его снижают. Исследование подчеркивает, что необходимо изучать алайнмент мультиагентных систем, а также создавать новые бенчмарки для оценки уровня кооперации агентов на основе больших языковых моделей. Подробнее про исследование — в материале ТАСС. Результаты будут представлены в декабре на NeurIPS 2024 в Ванкувере.