Предвзятость – основной недостаток системы искусственного интеллекта

16.12.2018 09:55  440   Иван Ефимов  Статья

По мнению ряда экспертов, основная угроза искусственного интеллекта – то, что нейросети по уровню развития вплотную приблизились к возможностям человека, а в некоторых аспектах превзошли их.

Проблемы искусственного интеллекта

Программы по распознаванию изображений уже научились работать гораздо быстрее и точнее человеческого мозга. При противоправном использовании такого ИИ-алгоритма он может нанести значительный ущерб. Однако ведущий ИИ-разработчик компании Salesforce Ричард Сочер не согласен с этим мнением, он считает, что главный недостаток таких алгоритмов – это предвзятость.

Как может проявляться предвзятость системы искусственного интеллекта

В качестве примера можно привести отказ заемщику в кредите. Сделать это ИИ-система может по следующим основаниям:

  • половой признак заемщика;
  • социальное положение;
  • расовая принадлежность.

Отказ в предоставлении займа может происходить просто потому, что ИИ-система не располагает необходимой для принятия решения информацией, например, данными о женщинах-предпринимателях.

Недостаток ИИ — предвзятость

Как решить проблему

Чтобы алгоритмы искусственного интеллекта не могли принимать предвзятое решение, их обучение должно проходить на специально подобранных данных, где должна быть объединена информация о людях разных полов, социальных групп и рас. В качестве альтернативы предлагается обучение нейронных сетей объяснять вынесенные вердикты, однако есть определенные сложности. В ряде случаев внедрение ИИ-алгоритма не может быть выполнено без интерпретируемости.

Ричард Сочер подытожил, что потенциальную угрозу несут и более привычные нам алгоритмы, которыми мы пользуемся каждый день. Например, контекстная реклама в интернете или рекомендации в соц. сетях. Из-за них, пользователю будут постоянно предлагаться реклама и контент, соответствующий однажды введенному поисковому запросу. Такие системы не менее опасны, чем современные средства идентификации лиц, поэтому нужно искать выход из уже существующей ситуации.