Увод у ограничену Болтзманнову машину

Ограничена Болтзманнова машина је метода која може аутоматски пронаћи обрасце у подацима реконструишући наш унос. Геофф Хинтон је оснивач дубоког учења. РБМ је површинска двослојна мрежа у којој је први видљив, а други скривени слој. Сваком чвору у видљивом слоју придружује се сваки чвор у скривеном слоју. Болтзманнова ограничена машина сматра се ограниченом јер два чвора истог слоја не чине везу. РБМ је бројчани еквивалент двосмерног преводиоца. На путу према напријед, РБМ прима улаз и претвара га у скуп бројева који кодира улаз. У назадном путу то узима као резултат и обрађује овај скуп улаза и преводи их обрнуто како би формирао увучене улазе. Супер обучена мрежа ће моћи да изврши овај обрнути прелаз са великом веродостојношћу. У два корака тежина и вредности имају веома важну улогу. Омогућују РБМ-у да декодира међусобне односе међу улазима и такође помажу да РБМ одлучи које су улазне вриједности најважније за откривање исправних излаза.

Рад машине са ограниченом контролом Болтзманна

Сваки појединачни видљиви чвор прима низак ниво од чвора у скупу података. На првом чвору невидљивог слоја Кс настаје производом тежине и додаје се пристраности. Исход овог процеса доводи се до активације која производи снагу датог улазног сигнала или излаза чвора.

У следећем процесу би се неколико улаза придружило једном скривеном чвору. Сваки Кс је комбинован са појединачном тежином, додавање производа је подељено на вредности и резултат се поново преноси активацијом да би се добио излаз чвора. На сваком невидљивом чвору, сваки улаз Кс је комбинован појединачном тежином В. Улаз Кс овде има три тежине, што заједно чини дванаест. Тежина формирана између слоја постаје низ у којем су редови тачни за улазне чворове, а ступци су испуњени за излазне чворове.

Сваки невидљиви чвор добија четири одговора помножено са њиховом тежином. Додавање овог ефекта поново се додаје вредности. То делује као катализатор да се догоди неки процес активације и резултат се поново доводи до алгоритма за активирање који производи сваки појединачни излаз за сваки појединачни невидљиви улаз.

Први овде изведени модел је енергетски заснован модел. Овај модел повезује скаларну енергију са сваком конфигурацијом променљиве. Овај модел дефинише расподелу вероватноће помоћу енергетске функције на следећи начин,

(1)

Овде је З фактор нормализације. То је функција партиције у смислу физичких система

У овој функцији заснованој на енергији слиједи логистичка регресија да ће први корак дефинирати лог. вероватноћа и следећа ће функцију губитка дефинисати као негативну вероватноћу.

користећи стохастички градијент, где су параметри,

енергетски заснован модел са скривеном јединицом је дефинисан као „х“

Посматрани део је означен са 'к'

Из једначине (1), једначина слободне енергије Ф (к) је дефинисана на следећи начин

(2)

(3)

Негативни градијент има следећи облик,

(4)

Горња једначина има два облика, позитиван и негативан облик. Израз позитиван и негативан није представљен знаковима једначина. Они показују ефекат густине вероватноће. Први део приказује вероватноћу смањења одговарајуће слободне енергије. Други део приказује смањену вероватноћу генерисања узорака. Тада се градијент утврђује на следећи начин:

(5)

Овде је Н негативна честица. У овом моделу заснованом на енергији, тешко је аналитички идентификовати градијент, јер укључује израчун

Отуда у овом ЕБМ моделу имамо линеарно посматрање које није у стању да тачно прикаже податке. Дакле, у наредном моделу Ограничене Болтзманнове машине скривени слој треба да има већу тачност и спречава губитак података. Енергетска функција РБМ је дефинисана као,

(6)

Овде је В тежина која повезује видљиви и скривени слој. б је оффсет видљивог слоја.ц је оффсет скривеног слоја. претварањем у бесплатну енергију,

У РБМ-у су јединице видљивог и скривеног слоја потпуно независне, што се може написати на следећи начин,

Из једнаџбе 6 и 2, вјероватна верзија функције активирања неурона,

(7)

(8)

То се даље поједностављује у

(9)

Комбинујући једначине 5 и 9,

(10)

Узорковање у ограниченој Болтзмановој машини

Гиббс узорковање зглоба Н случајних варијабли се врши кроз низ Н-корака узорковања обрасца где

садржи остале случајне променљиве у искључујући

У РБМ-у је С видљива и скривена јединица. Два дела су независна који могу да изврше или блокирају Гиббсово узорковање. Овде видљива јединица врши узорковање и даје фиксну вредност скривеним јединицама, истовремено скривене јединице дају фиксне вредности видљивој јединици узорковањем

овде, је скуп свих скривених јединица. Пример је насумично изабран да буде 1 (према 0) са вероватноћом, и слично, је насумично изабран да буде 1 (према 0) са вероватноћом

Контрастивна дивергенција

Користи се као катализатор за убрзавање процеса узорковања
Пошто очекујемо да је истина, очекујемо вредност дистрибуције бити близу П тако да формира конвергенцију за коначну дистрибуцију П

Али, контрастивна дивергенција не чека да се ланац конвергира. Узорак се добија тек након Гиббовог процеса, па смо овде поставили к = 1, где делује изненађујуће добро.

Трајна контрастивна дивергенција

Ово је друга метода за апроксимативни облик узорковања. То је постојано стање за сваку методу узорковања извлачи нове узорке једноставном променом параметара К.

Слојеви машине Рестрицтед Болтзманн

Ограничена Болтзманнова машина има два слоја, плитке неуронске мреже које се комбинују и формирају блок мрежа дубоких веровања. Први слој је видљиви слој, а други слој је скривени. Свака јединица односи се на неуронски круг који се назива чвор. Чворови са скривеног слоја повезани су са чворовима из видљивог слоја. Али два чвора истог слоја нису повезана. Овде се термин Ограничени односи на неталожену комуникацију. Сваки чвор обрађује улаз и доноси стохастичку одлуку да ли да унесе улаз или не.

Примери

Важна улога РБМ-а је расподјела вероватноће. Језици су јединствени у својим словима и звуцима. Расподела вероватноће писма може бити велика или мала. У енглеском језику слова Т, Е и А су широко коришћена. Али на исландском, уобичајена слова су А и Н., не можемо покушати да реконструишемо Исланд са тежином која се заснива на енглеском. Довешће то до дивергенције.

Следећи пример су слике. Дистрибуција вероватноће њихове вредности пиксела разликује се за сваку врсту слике. Можемо узети у обзир да постоје две слике слона и пса за улазне чворове, напредни пролаз РБМ ће створити питање као да ли треба да створим јак пиксел чвор за слонов чвор или псећи чвор ?. Тада ће пролазак уназад створити питања попут слона, како да очекујем расподелу пиксела? Тада ће са заједничком вероватноћом и активацијом чворова створити мрежу са заједничким појавама као велике уши, сива нелинеарна цев, дискете и боре је слон. Дакле, РБМ је процес дубоког учења и визуелизације који формирају две главне пристраности и делују на њихово осећање активирања и обнове.

Предности машине Рестрицтед Болтзманн

  • Ограничена Болтзманнова машина примењује алгоритам који се користи за класификацију, регресију, моделирање тема, колаборативно филтрирање и учење функција.
  • Ограничена Болтзманнова машина користи се за неуро-снимање, ријетку реконструкцију слике у планирању мина, као и за препознавање радара.
  • РБМ је у стању да реши проблем неуравнотежених података по СМОТЕ процедури
  • РБМ проналазе недостајуће вредности Гиббовим узорковањем које се примењују за покривање непознатих вредности
  • РБМ превазилази проблем бучних налепница неисправљеним подацима етикета и грешкама у обнови
  • Проблеми неструктурираних података отклоњени су помоћу екстрактора функција који претвара сирове податке у скривене јединице.

Закључак

Дубоко учење је веома моћно што је вештина решавања сложених проблема, оно је још увек простор за усавршавање и сложено за спровођење. Слободне променљиве морају се пажљиво конфигурирати. Идеје иза неуронске мреже биле су тешке раније, али данас је дубоко учење подножје машинског учења и вештачке интелигенције. Отуда РБМ даје увид у огромне алгоритме дубоког учења. Бави се основном композицијском јединицом која је прогресивно прерасла у многе популарне архитектуре и широко се користила у многим индустријама великих размера.

Препоручени чланак

Ово је водич за ограничену Болтзманнову машину. Овде смо расправљали о његовом раду, узорковању, предностима и слојевима машине Рестрицтед Болтзманн. Можете и да прођете кроз друге наше предложене чланке да бисте сазнали више _

  1. Алгоритми машинског учења
  2. Архитектура машинског учења
  3. Врсте машинског учења
  4. Алати за машинско учење
  5. Имплементација неуронских мрежа

Категорија: