Увод у Кернел методе
Кернел или кернел методе (које се такође називају кернел функције) су скупови различитих врста алгоритама који се користе за анализу узорака. Користе се за решавање нелинеарног проблема коришћењем линеарног класификатора. Кернел методе се користе у СВМ (Суппорт Вецтор Мацхинес) који се користе у класификацији и регресијским проблемима. СВМ користи оно што се назива „Кернел трик“ где се подаци трансформишу и проналази оптимална граница за могуће излазе.
Потреба за кернел методом и његово функционисање
Пре него што се упустимо у рад Кернел метода, важније је разумети векторске машине за подршку или СВМ јер су језгра имплементирана у СВМ моделе. Дакле, Суппорт Вецтор Мацхинес су алгоритми машинског учења под надзором који се користе у проблемима класификације и регресије, као што су класификација јабуке у воће класе, док се Лав сврстава у животињу из класе.
Да бисте демонстрирали, у наставку је како изгледају векторске машине за подршку:
Овде можемо видети хиперплану која одваја зелене тачке од плавих. Хиперплана је једна димензија мања од амбијенталне равни. Нпр. На горњој слици имамо 2 димензије која представља амбијентални простор, али усамљеник који дели или класификује простор је једна димензија мања од амбијенталног простора и назива се хиперплана.
Али шта ако имамо такав допринос:
Веома је тешко решити ову класификацију помоћу линеарног класификатора, јер не постоји добра линеарна линија која би могла да класификује црвене и зелене тачке, јер су тачке насумично распоређене. Овде долази употреба кернел функције која поводи бодове у веће димензије, решава проблем тамо и враћа излаз. Размислите о овоме на овај начин, можемо видети да су зелене тачке затворене на неком ободном подручју, док црвена лежи изван ње, такође могу постојати и други сценарији где би се зелене тачке могле распоредити на простору у облику трапеза.
Дакле, оно што радимо је да претворимо дводимензионалну равнину коју је прво класификовала једнодимензионална хиперплана („или равна линија“) у тродимензионално подручје и овде наш класификатор, тј. Хиперплана неће бити равна, већ двострана -димензионална равнина која ће пресећи област.
Да бисмо стекли математичко разумевање кернела, разумејмо Лили Јианг-ову једнаџбу језгре која је:
К (к, и) = где,
К је функција кернела,
Кс и И су димензионални улази,
ф је мапа од н-димензионалног до м-димензионалног простора и,
је тачкасти производ.
Илустрација уз помоћ примера.
Рецимо да имамо две тачке, к = (2, 3, 4) и и = (3, 4, 5)
Као што смо видели, К (к, и) =.
Прво израчунајмо
ф (к) = (к1к1, к1к2, к1к3, к2к1, к2к2, к2к3, к3к1, к3к2, к3к3)
ф (и) = (и1и1, и1и2, и1и3, и2и1, и2и2, и2и3, и3и1, и3и2, и3и3)
тако,
ф (2, 3, 4) = (4, 6, 8, 6, 9, 12, 8, 12, 16) и
ф (3, 4, 5) = (9, 12, 15, 12, 16, 20, 15, 20, 25)
па тачкасти производ,
ф (к). ф (и) = ф (2, 3, 4). ф (3, 4, 5) =
(36 + 72 + 120 + 72 +144 + 240 + 120 + 240 + 400) =
1444
И,
К (к, и) = (2 * 3 + 3 * 4 + 4 * 5) 2 = (6 + 12 + 20) 2 = 38 * 38 = 1444.
Ово како смо сазнали, ф (к) .ф (и) и К (к, и) дају нам исти резултат, али ранији метод је захтевао доста израчуна (због пројицирања 3 димензије у 9 димензија) током коришћења кернел, било је много лакше.
Врсте кернела и методе у СВМ-у
Погледајмо неке функције кернела или типове који се користе у СВМ-у:
1. Линер кернел - Рецимо да имамо два вектора са именом к1 и И1, онда је линеарно језгро дефинисано тачкаским продуктом ова два вектора:
К (к1, к2) = к1. к2
2. Полиномна језгра - Полиномна језгра је дефинисана следећом једначином:
К (к1, к2) = (к1. Кс2 + 1) д,
Где,
д је степен полинома, а к1 и к2 су вектори
3. Гауссово језгро - Ово језгро је пример језгре радијалне основне функције. Испод је једначина за ово:
Дати сигма игра веома важну улогу у перформансама Гауссовог језгра и не треба га ни прецењивати, нити га потцењивати, већ га треба пажљиво прилагодити проблему.
4. Експоненцијална језгра - Ово је у блиској вези са претходним кернелом, тј. Гауссовим кернелом је једина разлика - квадрат норме се уклања.
Функција експоненцијалне функције је:
Ово је такође функција радијалне језгре на радијалној основи.
5. Лаплацијево језгро - Ова врста кернела је мање подложна променама и потпуно је једнака претходно расправљеном језгру експоненцијалне функције, једначина Лаплацијевог кернела је дата као:
6. Хиперболична или Сигмоидна језгра - Ово језгро се користи у областима неуронске мреже машинског учења. Активациона функција за сигмоидно језгро је биполарна сигмоидна функција. Једнаџба за функцију хиперболичког језгра је:
Овај кернел је веома коришћен и популаран међу векторским машинама за подршку.
7. Анова радијална базична језгра - Познато је да ово језгро делује веома добро у мултидимензионалним регресијским проблемима баш као што су Гауссово и Лаплацијево језгро. Ово такође спада у категорију радијалне основне језгре.
Једначина за Анова кернел је:
Постоји много више врста Кернел методе и разговарали смо о најчешће кориштеним језграма. Чисто зависи од врсте проблема који ће одлучити функцију кернела која ће се користити.
Закључак
У овом одељку видели смо дефиницију кернела и како он функционише. Покушали смо да објаснимо помоћу дијаграма о раду језгре. Покушали смо дати једноставну илустрацију користећи математику о функцији кернела. У завршном делу видели смо различите врсте кернел функција које се данас широко користе.
Препоручени чланци
Ово је водич за Кернел Метходс. Овдје разговарамо о уводу, потреби, раду и врстама кернел метода одговарајућом једначином. Можете и да прођете кроз друге наше предложене чланке да бисте сазнали више -
- Алгоритми за рударјење података
- К- значи алгоритам кластерирања
- Алгоритам Бруте Форце
- Алгоритам дрвета одлуке
- Кернел Методе у машинском учењу
- Стабло одлука у машинском учењу