Работа ученых из Стэнфорда поможет IT-специалистам в принятии важных решений

В сфере машинного обучения деревья решений всегда были популярны из-за своей наглядности и эффективности. Недавно команда ученых из Стэнфордского университета представила новый подход к их построению, основанный на Байесовском методе.

Подробнее о деревьях решений: Это структурированные алгоритмы, которые разделяют набор данных на подмножества по определенным признакам. Каждая «ветвь» дерева представляет собой решение на основе конкретного параметра, а «листья» — конечные выводы. Использоваться такие схемы могут для классификации вводных и предсказания числовых значений.

В чем новизна? В своей работе ученые ввели концепцию MAPTree. Этот алгоритм строит дерево решений с применением Байесовских методов, ориентируясь на результаты анализа BCART.

BCART (Байесовские деревья решений) — продвинутый метод, при котором каждое возможное дерево получает определенную «вероятность» или «вес» в зависимости от того, насколько хорошо оно соответствует имеющейся информации и ожидаемым результатам. Вместо поиска одного подходящего дерева этот подход учитывает множество потенциальных схем и их результаты.

Тем не менее, BCART имеет свои недостатки: он требует значительных вычислительных ресурсов и пропускает более выгодные варианты, которые находятся «за горизонтом» его текущих вводных. Именно на этом фоне выделяется MAPTree. Он оптимизирует BCART, предоставляя более быстрые и точные результаты.

Применение и результаты: Ученые протестировали MAPTree на 16 наборах данных. Оказалось, что деревья, построенные с помощью MAPTree, либо превосходят базовые методы по точности, либо обеспечивают более «экономичные» варианты при равной производительности.

Введение MAPTree может кардинально изменить подход к вычислениям и выбору решений в IT-сфере. Особенно ценным инструмент будет для специалистов в области машинного обучения и кибербезопасности.