Бустинг
Бустинг ( — усиление) — композиционный метаалгоритм машинного обучения, применяется, главным образом, для уменьшения смещения (погрешности оценки), а также дисперсии в обучении с учителем. Также определяется как семейство алгоритмов машинного обучения, преобразующих слабые обучающие алгоритмы в сильные.

Бустинг основан на вопросе, поднятом Кернсом и Вэлиантом (1988, 1989): «Может ли набор слабых обучающих алгоритмов создать сильный обучающий алгоритм?». Слабый обучающий алгоритм определяется как классификатор, который слабо коррелирует с правильной классификацией (может пометить примеры лучше, чем случайное угадывание). В отличие от слабого алгоритма, сильный обучающий алгоритм является классификатором, хорошо коррелирующим с верной классификацией.

Положительный ответ Роберта Шапирe в статье 1990 года на вопрос Кернса и Вэлианта имел большое значение для теории машинного обучения и статистики, и привёл к созданию широкого спектра алгоритмов бустинга.

Гипотеза о бустинге относилась к процессу настройки алгоритма слабого обучения для получения строгого обучения. Неформально, спрашивается, вытекает ли из существования эффективного алгоритма обучения, выходом которого служит гипотеза, эффективность которой лишь слегка лучше случайного гадания (то есть слабое обучение), существование эффективного алгоритма, который даёт гипотезу произвольной точности (то есть сильное обучение). Алгоритмы, которые получают быстро такую гипотезу, становятся известны просто как «бустинг». Алгоритм «arcing» Фройнда и Шапире (Adaptive Resampling and Combining), как общая техника, является более-менее синонимом бустингу
Q245652
композиционный
Concept
Q1385229
метаалгоритм
Concept
Q2539
машинного обучения
Concept
Q17003119
смещения
Concept
Q334384
обучении с учителем
Concept
Q93154
Вэлиантом
PER
Q1744628
классификатор
Concept
Q12483
статистики
Concept
Q466303
Бустинг
Concept
Q466303
Бустинг
Concept
1988-01-01T00:00:00Z^^http://www.w3.org/2001/XMLSchema#dateTime
1988
DATE
1989-01-01T00:00:00Z^^http://www.w3.org/2001/XMLSchema#dateTime
1989
DATE
+1988^^http://www.w3.org/2001/XMLSchema#decimal
1988
NUMBER
+1989^^http://www.w3.org/2001/XMLSchema#decimal
1989
NUMBER
subclass of
part of
part of