70863

Автор(ы): 

Автор(ов): 

1

Параметры публикации

Тип публикации: 

Статья в журнале/сборнике

Название: 

Субъектность объяснимого искусственного интеллекта

ISBN/ISSN: 

0235-1188

DOI: 

10.30727/0235-1188-2022-65-1-72-90

Наименование источника: 

  • Философские науки

Обозначение и номер тома: 

Т. 65. № 1

Город: 

  • Москва

Издательство: 

  • Академия гуманитарных исследований

Год издания: 

2022

Страницы: 

72-90
Аннотация
Статья посвящена определению путей развития способности систем искусственного интеллекта (ИИ) давать объяснения своим выводам. Эта тема не нова, однако именно сейчас нарастание сложности этих систем заставляет ученых активизировать исследования в этом направлении. Современные нейронные сети содержат сотни слоев нейронов, число параметров этих сетей достигает триллионов, генетические алгоритмы порождают тысячи поколений решений, семантика моделей ИИ усложняется, достигая квантового и нелокального уровней. Ведущие компании мира вкладывают огромные средства в создание объяснимого ИИ (Explainable AI, XAI), однако результат пока остается неудовлетворительным ‒ человек зачастую не может понять «объяснений» ИИ, потому что последний принимает решения иначе, чем человек, а возможно, потому что получить хорошее объяснение невозможно в рамках классической парадигмы ИИ. С похожей проблемой ИИ столкнулся лет 40 назад, когда экспертные системы содержали всего несколько сотен логических правил-продукций. Проблема тогда была решена за счет усложнения логики и построения дополнительных баз знаний для объяснения выводов, даваемых ИИ. Сейчас, по-видимому, нужны иные подходы, прежде всего учитывающие внешнее окружение и субъектность систем ИИ. Настоящая работа акцентирует внимание на разрешении этой проблемы через погружение моделей ИИ в социально-экономическую среду, построение онтологий этой среды, а также учет профиля пользователя и формирование условий для целенаправленной сходимости решений и выводов ИИ к понятным пользователю целям

Библиографическая ссылка: 

Райков А.Н. Субъектность объяснимого искусственного интеллекта // Философские науки. 2022. Т. 65. № 1. С. 72-90.