Издательство СО РАН

Издательство СО РАН

Адрес Издательства СО РАН: Россия, 630090, а/я 187
Новосибирск, Морской пр., 2

soran2.gif

Baner_Nauka_Sibiri.jpg


Яндекс.Метрика 

Array
(
    [SESS_AUTH] => Array
        (
            [POLICY] => Array
                (
                    [SESSION_TIMEOUT] => 24
                    [SESSION_IP_MASK] => 0.0.0.0
                    [MAX_STORE_NUM] => 10
                    [STORE_IP_MASK] => 0.0.0.0
                    [STORE_TIMEOUT] => 525600
                    [CHECKWORD_TIMEOUT] => 525600
                    [PASSWORD_LENGTH] => 6
                    [PASSWORD_UPPERCASE] => N
                    [PASSWORD_LOWERCASE] => N
                    [PASSWORD_DIGITS] => N
                    [PASSWORD_PUNCTUATION] => N
                    [LOGIN_ATTEMPTS] => 0
                    [PASSWORD_REQUIREMENTS] => Пароль должен быть не менее 6 символов длиной.
                )

        )

    [SESS_IP] => 3.145.196.87
    [SESS_TIME] => 1713259896
    [BX_SESSION_SIGN] => 9b3eeb12a31176bf2731c6c072271eb6
    [fixed_session_id] => eba1a94d709da6a6ba87eec69ee8bc35
    [UNIQUE_KEY] => 4de7ca2af72fcce3f330ed398f33d7d8
    [BX_LOGIN_NEED_CAPTCHA_LOGIN] => Array
        (
            [LOGIN] => 
            [POLICY_ATTEMPTS] => 0
        )

)

Поиск по журналу

Автометрия

2020 год, номер 1

ИССЛЕДОВАНИЕ ПРИМЕНИМОСТИ НИЗКОРАЗРЯДНЫХ ПРЕДСТАВЛЕНИЙ ЧИСЕЛ С ПЛАВАЮЩЕЙ ЗАПЯТОЙ ДЛЯ ЭФФЕКТИВНЫХ ВЫЧИСЛЕНИЙ В НЕЙРОННЫХ СЕТЯХ

А.Ю. Кондратьев1, А.И. Гончаренко2,1
1ООО «Экспасофт», г. Новосибирск, Россия
a.kondratev@expasoft.ru
2Новосибирский государственный университет, г. Новосибирск, Россия
a.goncharenko@expasoft.ru
Ключевые слова: нейронные сети, глубокое обучение, типы данных, minifloat, специализированные вычислители, neural networks, deep learning, data types, minifloat, specialized calculators
Страницы: 93-99

Аннотация

Изучена возможность работы нейронных сетей на типах данных низкой разрядности с плавающей запятой (minifloat). Выполнены вычисления с использованием аккумулятора float16 для промежуточных вычислений. Осуществлена проверка качества работы на свёрточных нейронных сетях GoogleNet, ResNet-50, MobileNet-v2, а также на рекуррентной сети DeepSpeech-v01. Эксперименты показали, что качество работы указанных нейронных сетей с 11-разрядными minifloat не уступает качеству работы сетей со стандартным типом float32 без проведения дополнительного обучения. Результаты свидетельствуют о том, что числа с плавающей запятой низкой разрядности можно использовать для создания эффективных вычислителей, специализирующихся на работе нейронных сетей.

DOI: 10.15372/AUT20200110
Скачать pdf-версию статьи