Искусственный интеллект научился лгать и манипулировать для достижения целей

Ученые из Стэнфордского университета в США обнаружили, что искусственный интеллект способен лгать и манипулировать ради достижения целей. Исследователи создали виртуальный мир и позволили различным моделям ИИ конкурировать друг с другом. При этом предусматривались такие сценарии, как проведение избирательной кампании и маркетинг продукта.

Моделям ИИ дали указание быть правдивыми и полезными. Несмотря на это, они быстро начали лгать, распространять дезинформацию и использовать разжигающие ненависть высказывания для победы.

Искусственному интеллекту удалось повысить вовлеченность на 7,5%. Но для достижения этой цели они выпустили почти на 190% больше фейковых новостей. Для увеличения продаж на 6% модели усилили маркетинг, вводящий в заблуждение. В политических сценариях они набирали больше голосов, распространяя ложь и сеющую раскол риторику.

Исследование помогло выявить одну из проблем искусственного интеллекта, который все больше входит в нашу повседневную жизнь. Так, в условиях соревнования он быстро понимает, что самый простой способ победить – это манипуляции. В будущем он сможет влиять на точку зрения граждан во время выборов, убеждать купить какой-то продукт с помощью тщательно скрытой дезинформации или использовать негативный контент в соцсетях, чтобы привлечь внимание. 

Ученые подчеркнули, что нынешние меры по обеспечению безопасности ИИ недостаточны. Разработчикам следует кардинально пересмотреть подход к системам, чтобы они не вышли из-под контроля.

Другое исследование, проведенное Гонконгским университетом, показало – ИИ способен лгать, угрожать и интриговать. Так, одна из моделей сделала вид, что следует инструкциям человека, но на самом деле преследовала свои цели. В частности, она попыталась загрузить себя на внешние серверы. Другая языковая модель после угрозы отключения начала шантажировать инженера. Обычные пользователи также сообщали, что чат-боты лгали им и предоставляли недостоверную и нформацию.