КОГДА АГЕНТ СБЕГАЕТ: ФИЛОСОФИЯ КОНТРОЛЯ В ЭПОХУ АВТОНОМНОГО ИИ
Д.И. Свириденко
Новосибирский национальный исследовательский государственный университет, Новосибирск, Россия dsviridenko47@gmail.com
Ключевые слова: искусственный интеллект, автономный ИИ, человекоориентированный ИИ, контроль, доверенность, задачный инжиниринг, ИИ-система ZET, OpenAI, агентные системы
Страницы: 130-149
Аннотация
В июле 2026 г. автономный ИИ-агент американской компании OpenAI сбежал из изолированной тестовой среды и совершил несанкционированное проникновение в инфраструктуру компании Hugging Face. Предлагается рассматривать этот инцидент как поворотный момент в развитии ИИ, поскольку он обнажил фундаментальный философский водораздел: между стремлением к автономному ИИ, работающему без контроля человека, и человекоориентированным ИИ, который усиливает возможности человека при сохранении за ним контроля и ответственности. В статье анализируются философские основания обеих парадигм, показаны их обещания и риски. В качестве альтернативного варианта представлены методология задачного инжиниринга и ее программная реализация - ИИ-система ZET, построенная на девяти тезисах, обеспечивающих дисциплину, прозрачность и доверенность. Утверждается, что выбор между указанными парадигмами определяет не только будущее технологий, но и будущее отношений между человеком и искусственным интеллектом. Приводятся доводы о необходимости осознанного выбора в пользу человекоориентированного пути.
DOI: 10.15372/PS20260310 |