Автоматы дифференциальные: Что такое дифференциальный автомат

10 мин чтения·4 декабря 2019 г.

Марк Саруфим

в

На пути к науке о данных

Внешний продукт

Почему линейная алгебра не может быть последним математическим формализмом пространства

Марк Саруфим

Создание собственных игровых симуляций для обучения с подкреплением с помощью агентов машинного обучения Unity — Глубокий код…

64152″ frameborder=”0” allowfullscreen=”true” scrolling=”no” height=”378”…

7 минут чтения·29 октября 2019 г.

Марк Саруфим

Руководство для начинающих по DnD

ДнД настольная игра или видеоигра?

Чтение: 7 мин·7 сентября 2020 г.

Просмотреть все от Марка Саруфима

Рекомендовано на Medium

Сэмюэл Флендер

в

Навстречу науке о данных

Как я взломал метамашинное обучение, инженерное интервью

Практические советы по раундам кодирования, дизайна и поведения

Юссеф Хосни

в

Навстречу ИИ

How to Read Machine Эффективное изучение документов

Область машинного и глубокого обучения развивается очень быстро, и каждый день появляются новые результаты исследований. Поэтому вам нужно прочитать…

Списки

Прогнозное моделирование с Python

18 историй·116 сохранений

Практические руководства по машинному обучению

10 историй·127 сохранений

Обработка естественного языка

394 истории·47 сохранений

Новые чат-боты: ChatGPT, Bard и другие

13 историй·45 сохранений

Доминик Польцер

в

На пути к науке о данных

Все, что вам нужно знать, чтобы создать свое первое приложение LLM

A пошаговое руководство по загрузчикам документов, встраиваниям, векторные хранилища и шаблоны подсказок

Леони Монигатти

в

На пути к науке о данных

10 захватывающих идей проекта с использованием больших языковых моделей (LLM) для вашего порта лист

Узнайте, как создавать приложения, и продемонстрируйте свои навыки с помощью больших языковых моделей (LLM).

Константин Ринк

в

На пути к науке о данных

Средняя точность при K (MAP@K) ясно объяснено

Одна из самых популярных метрик оценки для рекомендателя или ранжирование задач с пошаговым объяснением

Khuyen Tran

в

На пути к науке о данных

Human-Learn: обучение на основе правил как альтернатива машинному обучению

Включение знаний предметной области в вашу модель с помощью обучения на основе правил

См. дополнительные рекомендации

Статус

Писатели

Карьера

Конфиденциальность

Преобразование текста в речь

Автоматическое определение фона — MATLAB и Simulink

Автоматическая дифференциация Фон

Что такое автоматическая дифференциация?

Автоматическое дифференцирование (также известное как autodiff , AD или алгоритмический дифференцирование ) — широко используемый инструмент в оптимизации. решает функция использует автоматическое дифференцирование по умолчанию в проблемно-ориентированной оптимизации для общие нелинейные целевые функции и ограничения; см. Автоматическое дифференцирование в Optimization Toolbox.

Автоматическое дифференцирование представляет собой набор методов для оценки производных (градиенты) численно. Метод использует символические правила дифференцирования, которые являются более точными, чем аппроксимации методом конечных разностей. В отличие от чисто символического подход, автоматическое дифференцирование оценивает выражения численно в начале вычислений, а не выполнять большие символьные вычисления. Другими словами, автоматическое дифференцирование оценивает производные по определенным числовым значениям; это не строит символьные выражения для производных.

• Прямой режим автоматическое дифференцирование оценивает числовая производная путем выполнения операций с элементарной производной одновременно с операциями вычисления самой функции. Как подробно описано в следующем разделе, программное обеспечение выполняет эти вычисления на вычислительный граф.

• Обратный режим автоматическое дифференцирование использует расширение вычислительного графа в прямом режиме, позволяющее выполнять вычисления градиента обратным обходом графа. Поскольку программное обеспечение запускает код для вычисления функции и ее производной, он записывает операции в структура данных, называемая трассировка .

Как отмечают многие исследователи (например, Байдин, Перлмуттер, Радул, Сискинд [1]), для скаляра функция многих переменных, обратный режим вычисляет градиент более эффективно чем прямой режим. Поскольку целевая функция является скалярной, решает . автоматическое дифференцирование использует обратный режим для скалярной оптимизации.

Прямой режим

Рассмотрим задачу вычисления этой функции и ее градиента:

f(x)=x1exp(−12(x12+x22)).

Автоматическое дифференцирование работает в определенных точках. В этом случае возьмите х ₁ = 2, х ₂ = 1/2.

Следующий вычислительный граф кодирует вычисление функции ф ( х ).

Чтобы вычислить градиент f ( x ), используя в прямом режиме вы вычисляете тот же график в том же направлении, но изменяете вычисления на основе элементарных правил дифференцирования. Для дальнейшего упрощения расчет, вы заполняете значение производной каждого подвыражения и _я как вы идете. Чтобы вычислить весь градиент, вы должны пройти по графику дважды, один раз для частной производной относительно каждой независимой переменной. Каждое подвыражение в цепном правиле имеет числовое значение, поэтому все выражение имеет тот же вид графика оценки, что и сама функция.

Вычисление представляет собой повторное применение цепного правила. В этом примере производная f по отношению к x ₁ расширяется до этого выражения:

dfdx1=du6dx1=∂u6∂u−1+∂u6∂u5∂u5∂x1=∂u6∂u−1+∂u6∂u5∂u5∂u 4∂u4 ∂x1=∂u6∂u−1+∂u6∂u5∂u5∂u4∂u4∂u3∂u3∂x1=∂u6∂u−1+∂u6∂u5∂u5∂u4∂u4∂u3∂u3∂u1 ∂u1∂x1.

Пусть u˙i представляет производную выражения u _i в отношении x ₁ . Используя оцененные значения u _i из оценки функции, вы вычисляете частную производную f по отношению к x ₁ , как показано на следующем рисунке. Обратите внимание, что все значения u˙i становятся доступными, когда вы перемещаетесь по графику сверху вниз. нижний.

Чтобы вычислить частную производную по x ₂ , вы проходите аналогичный вычислительный граф. Поэтому, когда вы вычисляете градиент функции, количество обходов графа равно количеству переменных. Этот процесс может быть медленным для многих приложений, когда целевая функция или нелинейные ограничения зависят от многих переменных.

Обратный режим

Обратный режим использует один прямой обход вычислительного графа для настройки след. Затем он вычисляет весь градиент функции за один проход график в обратном направлении. Для задач со многими переменными этот режим далеко более эффективным.

Теория обратного режима также основана на цепном правиле, наряду с связанные сопряженные переменные, обозначенные чертой сверху. Сопряженная переменная для u _i равно

u¯i=∂f∂ui.

С точки зрения вычислительного графа, каждая исходящая стрелка от переменной вносит вклад в соответствующую сопряженную переменную своим членом в цепном правиле. Для например, переменная u _–1 есть исходящие стрелки к двум переменным, u ₁ и у ₆ . График имеет связанный уравнение

∂f∂u−1=∂f∂u1∂u1∂u−1+∂f∂u6∂u6∂u−1=u¯1∂u1∂u−1+u¯6∂u6∂u− 1.

В этом вычислении, учитывая, что u1=u−12 и u ₆ = u ₅ u _–1 , получаем

u¯−1=u¯12u−1+u¯6u5.

Во время прямого обхода графика программа вычисляет промежуточные переменные u _i . В течение обратный обход, начиная с начального значения u¯6=∂f∂f=1, вычисление в обратном режиме получает сопряженные значения для всех переменные. Следовательно, обратный режим вычисляет градиент всего за одно вычисление, экономия большого количества времени по сравнению с прямым режимом.

На следующем рисунке показано вычисление градиента в обратном режиме для функция

f(x)=x1exp(−12(x12+x22)).

Опять же, вычисление занимает x ₁ = 2, х ₂ = 1/2. Вычисление в обратном режиме опирается на полученные значения u _i при вычислении функции в исходном вычислительном графе. в в правой части рисунка появляются вычисленные значения сопряженных переменных. рядом с именами сопряженных переменных, используя формулы из левой части фигура.

Окончательные значения градиента отображаются как u¯0=∂f∂u0=∂f∂x2 и u¯−1=∂f∂u−1=∂f∂x1.

Подробнее см. Байдин, Перлмуттер, Радул и Сискинд [1] или Википедию. статья об автоматическом дифференцировании [2].

Автоматическое дифференцирование в Optimization Toolbox

Автоматическое дифференцирование (AD) применяется к решению и prob2struct функции при следующих условиях:

• Целевые функции и функции ограничений поддерживаются, как описано в разделе Поддерживаемые операции для переменных и выражений оптимизации. Они не требуют использования Функция fcn2optimexpr .

• Решатель, вызываемый solve , это fmincon , fminunc , fsolve или lsqnonlin .

• Для задач оптимизации 'ObjectiveDerivative' и 'ConstraintDerivative' пара аргументов «имя-значение» для решить или prob2struct установлены в 'авто' (по умолчанию), 'автоматическая переадресация' или 'автореверс' .

• Для задач с уравнениями установлена ​​опция 'EquationDerivative' на 'авто' (по умолчанию), 'авто-вперед' или 'автореверс' .

Когда эти условия не выполняются, решает оценки градиентов с помощью конечные разности, а prob2struct не создает градиентов в своих сгенерированные функциональные файлы.

Решатели выбирают следующий тип AD по умолчанию:

• Для общей нелинейной целевой функции fmincon значения по умолчанию обратить AD для целевой функции. fmincon по умолчанию обратный AD для нелинейной функции ограничений, когда количество нелинейных ограничений меньше, чем количество переменных. В противном случае, fmincon по умолчанию пересылает AD для нелинейного ограничения функция.

• Для общей нелинейной целевой функции fminunc значения по умолчанию чтобы обратить AD.

• Для целевой функции метода наименьших квадратов fmincon и fminunc по умолчанию пересылает AD для целевой функции. Для определения основанной на проблеме целевой функции наименьших квадратов см. Запись целевой функции для основанного на проблеме метода наименьших квадратов.

• лскнонлин по умолчанию пересылает AD, когда количество элементов в целевом векторе больше или равно числу переменных. В противном случае lsqnonlin по умолчанию обращается к AD.

• fsolve по умолчанию пересылает AD, когда число уравнений больше или равно числу переменных. В противном случае, fsolve по умолчанию реверсирует AD.

В настоящее время AD работает только для первых производных; это не относится ко второму или выше производные. Так, например, если вы хотите использовать аналитический гессиан для ускорения вашего оптимизация, вы не можете использовать решает напрямую и вместо этого должен использовать подход, описанный в разделе «Производные предложения в проблемно-ориентированном рабочем процессе».

Ссылки

[1] Байдин, Атилим Гюнеш, Барак А. Перлмуттер, Алексей Андреевич Радул и Джеффри Марк Сискинд. «Автоматический Дифференциация в машинном обучении: обзор». The Journal of Machine Learning Research, 18(153), 2018 г., стр. 1–43. Доступно по адресу https://arxiv.org/abs/1502.05767.

[2] Автоматический дифференциация. Википедия. Доступно по адресу https://en.wikipedia.org/wiki/Automatic_дифференциация.

См. также

решить | prob2struct

См. также

• Настройка оптимизации на основе проблем
• Поддерживаемые операции для переменных и выражений оптимизации
• Эффект автоматического дифференцирования в оптимизации на основе проблем

Вы щелкнули ссылку, соответствующую этой команде MATLAB:

Запустите команду, введя ее в командном окне MATLAB. Веб-браузеры не поддерживают команды MATLAB.

Выберите веб-сайт

Выберите веб-сайт, чтобы получить переведенный контент, где он доступен, и увидеть местные события и предложения.