Что именно означает дельта в алгоритме градиентного спуска?

Как на картинке:

enter image description here

Может ли кто-нибудь помочь мне понять, что именно означает дельта в алгоритме градиентного спуска?

2
Да, я должен. Спасибо за информацию.
добавлено автор Cadilac, источник
Вы должны обновить свои основы в многомерном исчислении, прежде чем пытаться понять градиентный достойный алгоритм, так как это (частная производная) является очень фундаментальным оператором.
добавлено автор Christian Rau, источник
Если моя интуиция верна, вы делаете небольшой шаг в направлении градиента. Градиент - это вектор, состоящий из всех частных производных и точек в том направлении, в котором функция растет больше всего ... типа ...
добавлено автор Per Alexandersson, источник

2 ответы

Это частная производная по отношению к theta_0.

4
добавлено
Спасибо вам за это. Я возьму эту информацию и начну вычислять математику.
добавлено автор Cadilac, источник

Термин производный по отношению к theta 0 .

  • Отметьте theta </​​code> как координату по оси X (пусть это будет A)
  • Найти соответствующую координату по оси Y (пусть она будет B), так что точка принадлежит функции J
  • Нарисуйте касательную линию к этой функции в точке (A, B)
  • Производная - это наклон этой касательной линии.

enter image description here

Производная используется для управления двумя аспектами минимизации стоимости функции (J):

  • direction - знак наклона говорит вам, в каком направлении вы должны двигаться вдоль оси X, чтобы сходиться J
  • rate - величина наклона подсказывает, как быстро вы должны двигаться
2
добавлено
«тета», или «с учетом theta_0»?
добавлено автор EOL, источник
Спасибо за это объяснение. Я постараюсь сделать это на уме.
добавлено автор Cadilac, источник
@EOL хорошая точка, я исправил формулировку. Благодаря!
добавлено автор mloskot, источник
AI / Big Data / Machine Learning
AI / Big Data / Machine Learning
2 978 участник(ов)

Всё об AI, бигдата, о машинном обучении, и как правильно всё это готовить. For english: @bigdata_en По любым вопросам: @hitmaker Список интересных групп и каналов: https://github.com/goq/telegram-list

Data Science Chat
Data Science Chat
2 902 участник(ов)

Добро пожаловать в чат по анализу данных и машинному обучению. Вопросы или предложения по сотрудничеству: @ralovets Вакансии и реклама мероприятий разрешены только после согласования. Анти-спам бот для групп: @ProtectronBot

Нейронные сети (AI Community)
Нейронные сети (AI Community)
2 121 участник(ов)

Это чат про нейронные сети для членов AI Community.

Infernal Math
Infernal Math
389 участник(ов)

http://www.zepta.ru/index.php?title=Заглавная_страница Приглашение в чат: https://t.me/matheden

comput.math
comput.math
289 участник(ов)

Прикладная математика и численные методы. Без оффтопа, рекламы, флуда. Вышмат: @higher_math Физика: @physpub Новичкам: @starter_math @JuliaLanguage @rlang_ru Книги брать здесь: libgen.io И по хештегу #book

higher.math
higher.math
234 участник(ов)

Higher mathematics / высшая математика Подборка книжек: https://ru.stackoverflow.com/a/683632/1084 Вычмат: @comput_math Физика: @physpub LaTeX: @pro_latex

Starter Math
Starter Math
79 участник(ов)

Для тех, кто боится спросить в @higher_math Вычмат: @comput_math Физика: @physpub