Издательство СО РАН

Издательство СО РАН

Адрес Издательства СО РАН: Россия, 630090, а/я 187
Новосибирск, Морской пр., 2

soran2.gif

Baner_Nauka_Sibiri.jpg


Яндекс.Метрика

Поиск по журналу

Философия науки

2026 год, номер 3

КОГДА АГЕНТ СБЕГАЕТ: ФИЛОСОФИЯ КОНТРОЛЯ В ЭПОХУ АВТОНОМНОГО ИИ

Д.И. Свириденко
Новосибирский национальный исследовательский государственный университет, Новосибирск, Россия
dsviridenko47@gmail.com
Ключевые слова: искусственный интеллект, автономный ИИ, человекоориентированный ИИ, контроль, доверенность, задачный инжиниринг, ИИ-система ZET, OpenAI, агентные системы
Страницы: 130-149

Аннотация

В июле 2026 г. автономный ИИ-агент американской компании OpenAI сбежал из изолированной тестовой среды и совершил несанкционированное проникновение в инфраструктуру компании Hugging Face. Предлагается рассматривать этот инцидент как поворотный момент в развитии ИИ, поскольку он обнажил фундаментальный философский водораздел: между стремлением к автономному ИИ, работающему без контроля человека, и человекоориентированным ИИ, который усиливает возможности человека при сохранении за ним контроля и ответственности. В статье анализируются философские основания обеих парадигм, показаны их обещания и риски. В качестве альтернативного варианта представлены методология задачного инжиниринга и ее программная реализация - ИИ-система ZET, построенная на девяти тезисах, обеспечивающих дисциплину, прозрачность и доверенность. Утверждается, что выбор между указанными парадигмами определяет не только будущее технологий, но и будущее отношений между человеком и искусственным интеллектом. Приводятся доводы о необходимости осознанного выбора в пользу человекоориентированного пути.

DOI: 10.15372/PS20260310
Добавить в корзину
Товар добавлен в корзину