ГЛУБИНННЫЕ РИСКИ МАШИННОГО ОБУЧЕНИЯ
Д.В. Винник
"Финансовый университет при правительстве Российской Федерации, 125167, Москва, Ленинградский пр., д. 49/2
dvvinnik@fa.ru"
Ключевые слова: искусственный интеллект, нейронные сети, машинное обучение, риск, логическая прозрачность, вербализация нейронных сетей, перцептрон, сетецентрическая война, бюрократия, когнитивные функции
Страницы: 110-123
Аннотация
В статье оцениваются конкретные технологии машинного обучения (как способы машинной реализации конкретных когнитивных функций) с точки зрения потребностей рационального объяснения их работы, надежности и эффективности, а также смежных социальных свойств (ответственности за использование результатов, угрозы вырождения человеческих навыков и т.п.). Анализируются риски внедрения технологий машинного обучения в разных видах деятельности и в разных отраслях с точки зрения того, является ли логическая прозрачность критическим критерием или нет. Делается вывод, что логическая непрозрачность большинства результатов машинного обучения представляет собой серьезный вызов рациональному мышлению и разумной аргументации в государственном управлении. Утверждается, что негативным следствием неосмотрительного внедрения нейрокомпьютеров может стать частичная или полная утрата персоналом навыков выполнения рутинных интеллектуальных процедур (заполнения таблиц, арифметических расчетов, классификации информации и документов по категориям, самостоятельного поиска справочной информации).
DOI: 10.15372/PS20220208 |
