Главное сегодня

Новости дня

Все новости дня
Общество

Зеркало без ценностей: почему ИИ отражает чужую культуру, а не говорит от себя

Тарас Вархотов: У ИИ нет и не будет никаких ценностей

За способностью ИИ рассуждать на любые темы легко не заметить, что он всего лишь отражает чужие представления. Что происходит, когда это отражение принимают за самостоятельное мнение — и можно ли этому противостоять?

Зеркало без ценностей: почему ИИ отражает чужую культуру, а не говорит от себя
Фото: Коллаж RuNews24.ru

Как подчеркнул в комментарии RuNews24.ru доцент философского факультета МГУ, заместитель директора ИНИСО РГГУ, эксперт Философского клуба «Цивилизационное будущее России» Тарас Вархотов, у искусственного интеллекта не было, нет и никогда не будет никаких ценностей. ИИ лишен возможности покидать пространство формальных логических операций, при помощи которых он более или менее успешно имитирует некоторые когнитивные функции человека. Разумеется, ИИ всегда несет конкретно-историческую ментальность, потому что обучается на определенным образом формализованных, принадлежащих определенному языку и культуре материалах.

«Упрощенно можно сказать, что ИИ «зеркалит» статистические особенности тех информационные массивов, на которых обучается. Это не значит, что у него появляются «ценности» — это значит, что его имитации тяготеют к типическому образу языковых действий той культуры, на которой он учился. При выраженном доминировании англоязычного контента в сети (около 50%) обучающиеся на нем нейрогенеративные системы будут иметь выраженные признаки соответствующего ментального стиля».

Поэтому, как отмечает эксперт, следует признать, что ИИ-системы не нейтральны и всегда имитируют «речь» какой-то конкретной, пусть достаточно широкой и не всегда сформированной по национальному признаку группы людей. Это зеркало, и странно присваивать из него чужое отражение, пытаясь сделать его своим.

Автор: Павел Климов

Читайте нас в телеграм
Продолжая использовать наш сайт, вы даете согласие на обработку файлов cookie, которые обеспечивают правильную работу сайта.Согласен