Преодоление рисков использования нейросетей для генерации текста: когнитивные, этические, педагогические аспекты
Е.В. Биричева
Институт философии и права Уральского отделения Российской академии наук, Екатеринбург, Россия
ek.v.bir@gmail.com
Ключевые слова: нейронная сеть, генерация текста, чат-бот, искусственный интеллект, ИИ, этические проблемы, педагогические проблемы, цифровизация, целеориентированный подход
Страницы: 57-75
Аннотация
Введение. Использование современных искусственных интеллектуальных систем во многих профессиональных и повседневных практиках помимо положительных эффектов может иметь негативные последствия. Особого внимания заслуживают сферы науки и образования, поскольку неконтролируемое применение генеративных нейросетей может нести риски для развития компетенций, связанных с созданием творческих продуктов, а также породить ряд этических проблем. Целью исследования является систематизация вызовов, которые порождает использование нейросетей для генерации текста в науке и образовании, а также философское осмысление оснований преодоления когнитивных, этических и педагогических рисков применения данных технологий. Методология основывается на феноменологическом анализе онтологического статуса современных искусственных интеллектуальных систем, возможных проблем в области развития когнитивных и коммуникативных способностей человека и причин недобросовестного применения генеративных нейросетей. Опора на теоретические положения целеориентированного подхода позволяет определить границы допустимого использования инструментов ИИ и наметить траектории наиболее эффективного преодоления выявленных проблем по оси целевых установок акторов, задействованных в исследуемых процессах. Обсуждение. Показаны когнитивные и коммуникативные особенности человека в контексте взросления, развития мышления и языковой способности в сопоставлении с инструментами искусственных интеллектуальных систем. С учетом «слабых мест» генеративных нейросетей систематизированы этически недопустимые направления их применения. Проанализированы условия переживания дилемм, в которых может быть совершен неэтичный выбор, на основании чего выделены принципы минимизации таких ситуаций в плане использования искусственных интеллектуальных систем. Предложены конкретные меры по регулированию применения нейросетей в образовании. Заключение. Систематизированы проблемы и пути их комплексного преодоления в контексте онтогносеологических оснований взаимодействия человека и искусственных интеллектуальных систем в «гибридной» реальности.
DOI: 10.15372/PHE20250104
EDN: YIAOMF
|
