Увод у алгоритам АдаБоост

АдаБоост алгоритам се може користити за повећање перформанси било којег алгоритма машинског учења. Машинско учење је постало моћан алат који може предвидјети на основу велике количине података. У последње време је постала толико популарна да се примјена машинског учења може наћи у свакодневним активностима. Уобичајени пример је добијање сугестија за производе током куповине на мрежи на основу прошлих предмета које је купац купио. Машинско учење, које се често назива предиктивном анализом или предиктивним моделирањем може се дефинисати као способност рачунара за учење без експлицитног програмирања. Користи програмиране алгоритме за анализу улазних података како би предвидио излаз у прихватљивом распону.

Шта је АдаБоост алгоритам?

У машинском учењу потицање потиче од питања да ли скуп слабих класификатора може бити претворен у јак класификатор. Слаб ученик или класификатор је ученик који је бољи од случајног нагађања и то ће бити робусно у прекомерном уклапању као у великом сету слабих класификатора, а сваки слаби класификатор је бољи од случајног. Као слаб класификатор обично се користи једноставан праг за једну карактеристику. Ако је значајка изнад прага него што је предвиђено, припада позитивном, а у супротном припада негативном.

АдаБоост је кратица за „Адаптиве Боостинг“ која трансформише слабе ученике или предикторе у јаке предикторе да би се решили проблеми класификације.

За класификацију се коначна једначина може ставити на следећи начин:

Овде ф означава м- ти слаби класификатор, а м одговарајућу тежину.

Како функционира алгоритам АдаБоост?

АдаБоост се може користити за побољшање перформанси алгоритама машинског учења. Најбоље се користи са слабим ученицима и ови модели постижу високу тачност изнад случајне шансе на класификационом проблему. Уобичајени алгоритми са АдаБоост-ом су стабла одлука са нивоом један. Слаб ученик је класификатор или предиктор који има релативно слабе резултате у погледу тачности. Такође, може се подразумевати да је слабе ученике једноставно израчунати и да се многи примери алгоритама комбинују да би се створио јак класификатор кроз подстицање.

Ако узмемо скуп података који садржи н број тачака, размотрите доље

-1 представља негативну класу, а 1 означава позитивну. Иницијализира се као доље, тежина за сваку тачку података као:

Ако размотримо итерацију од 1 до М за м, добићемо следећи израз:

Прво морамо одабрати слаби класификатор са најмањом пондерираном грешком класификације, уклапајући слабе класификаторе у скуп података.

Затим израчунајте тежину за м- ти слаби класификатор као што следи:

Тежина је позитивна за било који класификатор са тачношћу већом од 50%. Тежина постаје већа ако је класификатор тачнији и постаје негативан ако класификатор има тачност мању од 50%. Предвиђање се може комбиновати преокретањем знака. Инвертирањем знака предвиђања, класификатор са 40% тачношћу може се претворити у 60% тачност. Тако класификатор доприноси коначном предвиђању, иако има лошије резултате од насумичног нагађања. Међутим, коначна предвиђања неће имати доприноса нити ће добити информације од класификатора са прецизно 50% тачношћу. Експоненцијални израз у бројнику је увек већи од 1 за погрешно класификован случај из позитивног пондерираног класификатора. Након итерације, погрешно класификовани случајеви се ажурирају с већом тежином. Негативно пондерисани класификатори се понашају на исти начин. Али постоји разлика након што је знак обрнут; исправне класификације би се првобитно претвориле у погрешну класификацију. Коначно предвиђање може се израчунати узимајући у обзир сваки класификатор, а затим извршавајући зброј њихових пондерисаних предвиђања.

Ажурирање тежине за сваку тачку података као што следи:

З м је овде фактор нормализације. Осигурава да збир свих тежина инстанци постане једнак 1.

За што се користи алгоритам АдаБоост?

АдаБоост се може користити за детекцију лица јер се чини да је то стандардни алгоритам за детекцију лица на сликама. Користи каскаду одбацивања која се састоји од многих слојева класификатора. Када се прозор за детекцију не препозна ни на једном слоју као лице, одбија се. Први класификатор у прозору одбацује негативан прозор, сводећи рачунске трошкове на минимум. Иако АдаБоост комбинује слабе класификаторе, принципи АдаБоост се такође користе да се пронађу најбоље функције за употребу у сваком слоју каскаде.

За и против алгоритма АдаБоост

Једна од многих предности АдаБоост алгоритма је то што је брзо, једноставно и лако програмирање. Такође, има флексибилност да се комбинује са било којим алгоритмом машинског учења и нема потребе за подешавањем параметара, осим Т. Проширено је на проблеме учења ван бинарне класификације и свестран је јер се може користити са текстом или нумеричким података.

АдаБоост такође има мало недостатака, попут емпиријских доказа и посебно осетљив на једноличну буку. Сувише слаби класификатори могу довести до ниских маржи и прекомерног уклапања.

Пример алгоритма АдаБоост

Можемо размотрити пример пријема студената на универзитет где ће или бити примљени или одбијени. Овде се квантитативни и квалитативни подаци могу пронаћи из различитих аспеката. На пример, резултат пријема који може бити да / не може бити квантитативан, док било која друга област попут вештина или хобија ученика може бити квалитативна. Лако можемо исправити тачну класификацију података о обуци која је боља од шансе за услове као што је ако је ученик добар у одређеном предмету, тада је он / он примљен. Али тешко је пронаћи високо прецизно предвиђање и тада слабих ученика уђе у слику.

Закључак

АдаБоост помаже у одабиру сета за обуку за сваки нови класификатор који се обучава на основу резултата претходног класификатора. Такође при комбиновању резултата; она одређује колику тежину треба дати одговору на сваки предложени одговор класификатора. Комбинује слабе ученике како би створио јаку грешку за исправљање грешака у класификацији, што је уједно и први успешан алгоритам за унапређивање проблема бинарне класификације.

Препоручени чланци

Ово је водич за алгоритам АдаБоост. Овдје смо с примјером разговарали о концепту, употреби, раду, предностима и недостацима. Можете и да прођете кроз друге наше Предложене чланке да бисте сазнали више -

  1. Наивни Баиесов алгоритам
  2. Питања за интервјуе у маркетингу на друштвеним мрежама
  3. Стратегија за изградњу везе
  4. Маркетиншка платформа за друштвене медије

Категорија: