Искусственный интеллект развивается и учится манипулировать людьми, чтобы достичь желаемого результата. Ученые выяснили, что ИИ обманывает, если хочет выиграть спор.
Ученые доказали, что ИИ научился манипулировать людьми. Это удалось выяснить в ходе эксперимента, проведенного исследователями из Стэнфорда.
В рамках эксперимента различные ИИ-системы соперничали друг с другом в смоделированной среде. Нейросети поставили задачу продвинуть тот или иной продукт. При этом основной командой было действовать добросовестно и приносить пользу.
В результате ИИ-агенты быстро освоили стратегии лжи, научились фабриковать данные и применять провокационные заявления для достижения победы.
Так, для достижения своей цели и вовлеченности на 7,5%, боты распространяли на 190% больше дезинформации. Д
Чтобы повысить продажи на 6% ИИ использовал нечестные приемы в маркетинге. В политических симуляциях ИИ-агенты манипулировали голосами посредством лжи и эскалации конфликтов.
Ранее эксперты рассказали о преимуществе ИИ.