Bajeza tīkli: definīcija, piemēri un to darbības principi

Satura rādītājs:

Bajeza tīkli: definīcija, piemēri un to darbības principi
Bajeza tīkli: definīcija, piemēri un to darbības principi
Anonim

Uzskats, lēmumu tīkls, Bajesa (ian) modelis vai varbūtības vadīts acikliskā grafika modelis ir variantu shēma (statistiskā modeļa veids), kas attēlo mainīgo kopu un to nosacītās atkarības, izmantojot virzītu aciklisko grafiku (DAG).).

Piemēram, Bajesa tīkls var attēlot varbūtības attiecības starp slimībām un simptomiem. Ņemot vērā pēdējo, tīklu var izmantot, lai aprēķinātu iespēju saslimt ar dažādām slimībām. Tālāk esošajā videoklipā varat redzēt Beijesa uzskatu tīkla piemēru ar aprēķiniem.

Image
Image

Efektivitāte

Efektīvi algoritmi var veikt secinājumus un mācīties Bajesa tīklos. Tīklus, kas modelē mainīgos lielumus (piemēram, runas signālus vai olb altumvielu secības), sauc par dinamiskiem tīkliem. Bajesa tīklu vispārinājumus, kas var attēlot un atrisināt problēmas nenoteiktības apstākļos, sauc par ietekmes diagrammām.

Essence

FormāliBajesa tīkli ir DAG, kuru mezgli attēlo mainīgos lielumus Bajesa izpratnē: tie var būt novērojamas vērtības, slēpti mainīgie, nezināmi parametri vai hipotēzes. Jo tas ir ļoti interesanti.

Bajeza tīkla piemērs

Divi notikumi var izraisīt zāles samirkšanu: aktīvs smidzinātājs vai lietus. Lietus tieši ietekmē smidzinātāja lietošanu (proti, ka lietus laikā smidzinātājs parasti ir neaktīvs). Šo situāciju var modelēt, izmantojot Beijesa tīklu.

Tipiska formula
Tipiska formula

Simulācija

Tā kā Bajesa tīkls ir pilnīgs tā mainīgo un to attiecību modelis, to var izmantot, lai atbildētu uz varbūtības vaicājumiem par tiem. Piemēram, to var izmantot, lai atjauninātu zināšanas par mainīgo apakškopas stāvokli, kad tiek novēroti citi dati (pierādījumu mainīgie). Šo interesanto procesu sauc par varbūtības secinājumu.

A posteriori sniedz vispārēji pietiekamu statistiku atklāšanas lietojumiem, izvēloties vērtības mainīgo apakškopai. Tādējādi šo algoritmu var uzskatīt par mehānismu Bayes teorēmas automātiskai pielietošanai sarežģītām problēmām. Raksta attēlos var redzēt Beijesa uzskatu tīklu piemērus.

Praktiskais Bajesa tīkls
Praktiskais Bajesa tīkls

Izvades metodes

Visizplatītākās precīzu secinājumu metodes ir: mainīgo izslēgšana, kas novērš (integrējot vai summējot) nenovērojamo.parametrus bez vaicājuma pa vienam, piešķirot produktam summu.

Noklikšķiniet uz "koka", kas saglabā aprēķinus kešatmiņā, izplatīšanu, lai vienlaikus varētu vaicāt daudzus mainīgos un ātri izplatīt jaunus pierādījumus; un rekursīvā saskaņošana un/vai meklēšana, kas pieļauj kompromisus starp telpu un laiku un atbilst mainīgā izslēgšanas efektivitātei, ja tiek izmantots pietiekami daudz vietas.

Visām šīm metodēm ir īpaša sarežģītība, kas eksponenciāli ir atkarīga no tīkla garuma. Visizplatītākie aptuveno secinājumu algoritmi ir mini segmentu likvidēšana, cikliskā uzskatu izplatīšana, vispārināta uzskatu izplatīšana un variācijas metodes.

Tīklu veidi
Tīklu veidi

Tīklošana

Lai pilnībā norādītu Beijesa tīklu un tādējādi pilnībā attēlotu kopīgo varbūtības sadalījumu, katram mezglam X ir jānorāda X varbūtības sadalījums, kas ir saistīts ar X vecākiem.

X nosacīti sadalījumam, ko veic tā vecāki, var būt jebkāda forma. Ir ierasts strādāt ar diskrētiem vai Gausa sadalījumiem, jo tas vienkāršo aprēķinus. Dažreiz ir zināmi tikai izplatīšanas ierobežojumi. Pēc tam varat izmantot entropiju, lai noteiktu vienu sadalījumu, kuram ir vislielākā entropija, ņemot vērā ierobežojumus.

Līdzīgi konkrētajā dinamiskā Bajesa tīkla kontekstā nosacītais sadalījums latentā laika evolūcijaistāvoklis parasti tiek iestatīts, lai palielinātu netiešā nejaušības procesa entropijas ātrumu.

Bajesa uzticības tīkls
Bajesa uzticības tīkls

Tieša varbūtības (vai aizmugures varbūtības) palielināšana bieži vien ir sarežģīta, ņemot vērā nenovēroto mainīgo lielumu klātbūtni. Tas jo īpaši attiecas uz Beijesa lēmumu tīklu.

Klasiskā pieeja

Klasiskā pieeja šai problēmai ir gaidu maksimizēšanas algoritms, kas pārmaiņus aprēķina nenovēroto mainīgo paredzamās vērtības atkarībā no novērotajiem datiem ar kopējās varbūtības (vai posterior vērtības) maksimizēšanu, pieņemot, ka iepriekš aprēķinātā paredzamā vērtība vērtības ir pareizas. Mērenas regularitātes apstākļos šis process saplūst parametru maksimālajās (vai maksimālajās a posteriori) vērtībās.

Pilnīgāka Bajesa pieeja parametriem ir tos uzskatīt par papildu nenovērotiem mainīgajiem un aprēķināt pilnu aizmugurējo sadalījumu pa visiem mezgliem, ņemot vērā novērotos datus, un pēc tam integrēt parametrus. Šī pieeja var būt dārga un radīt lielus modeļus, padarot klasiskās parametru regulēšanas pieejas pieejamākas.

Vienkāršākā gadījumā eksperts definē Bajesa tīklu un pēc tam to izmanto secinājumu veikšanai. Citos lietojumos noteikšanas uzdevums cilvēkam ir pārāk grūts. Šajā gadījumā starp datiem ir jāapgūst Beijesa neironu tīkla struktūra un lokālo sadalījumu parametri.

Bajesa tīkli
Bajesa tīkli

Alternatīva metode

Alternatīva strukturētas mācīšanās metode izmanto optimizācijas meklēšanu. Tam nepieciešams izmantot novērtēšanas funkciju un meklēšanas stratēģiju. Izplatīts vērtēšanas algoritms ir struktūras aizmugures varbūtība, ņemot vērā apmācības datus, piemēram, BIC vai BDeu.

Laiks, kas nepieciešams, lai veiktu izsmeļošu meklēšanu, lai atgrieztu struktūru, kas palielina rezultātu, ir supereksponenciāls mainīgo skaita ziņā. Vietējā meklēšanas stratēģija veic pakāpeniskas izmaiņas, lai uzlabotu struktūras novērtējumu. Frīdmens un viņa kolēģi apsvēra iespēju izmantot savstarpēju informāciju starp mainīgajiem, lai atrastu vēlamo struktūru. Tie ierobežo vecāku kandidātu kopu līdz k mezgliem un rūpīgi pārmeklē tos.

Īpaši ātra metode BN precīzai izpētei ir iztēloties problēmu kā optimizācijas problēmu un atrisināt to, izmantojot veselu skaitļu programmēšanu. Acikliskuma ierobežojumi tiek pievienoti veselu skaitļu programmai (IP) risināšanas laikā griešanas plakņu veidā. Ar šādu metodi var tikt galā ar problēmām līdz 100 mainīgajiem.

Grafiki un tīkli
Grafiki un tīkli

Problēmu risināšana

Lai atrisinātu problēmas ar tūkstošiem mainīgo lielumu, ir nepieciešama cita pieeja. Viens ir vispirms izvēlēties vienu pasūtījumu un pēc tam atrast optimālo BN struktūru attiecībā uz šo pasūtījumu. Tas nozīmē darbu iespējamās secības meklēšanas telpā, kas ir ērti, jo ir mazāka par tīkla struktūru telpu. Pēc tam tiek atlasīti un novērtēti vairāki pasūtījumi. Šī metode izrādījāsvislabāk pieejama literatūrā, ja mainīgo lielumu skaits ir milzīgs.

Cita metode ir koncentrēties uz sadalāmo modeļu apakšklasi, kuriem MLE ir slēgti. Pēc tam varat atrast konsekventu struktūru simtiem mainīgo.

Lai iegūtu precīzus, interpretējamus secinājumus, ir jāpēta Beijesa tīkli ar ierobežotu platumu trīs rindās, jo pēdējā sliktākā gadījuma sarežģītība ir eksponenciāla koka garumā k (saskaņā ar eksponenciālā laika hipotēzi). Tomēr kā grafikas globāls īpašums tas ievērojami palielina mācību procesa sarežģītību. Šajā kontekstā K-tree var izmantot efektīvai mācībām.

Īss tīkls
Īss tīkls

Attīstība

Bajeza uzticamības tīkla izveide bieži sākas ar DAG G izveidi, lai X atbilstu lokālajam Markova īpašumam attiecībā uz G. Dažreiz tas ir cēloņsakarības DAG. Tiek aprēķināti katra mainīgā nosacītie varbūtības sadalījumi pa vecākiem G. Daudzos gadījumos, jo īpaši, ja mainīgie ir diskrēti, ja X kopīgais sadalījums ir šo nosacīto sadalījumu reizinājums, tad X kļūst par Beijesa tīklu attiecībā uz G.

Markova "mezglu sega" ir mezglu komplekts. Markova sega padara mezglu neatkarīgu no pārējās tāda paša nosaukuma mezgla tukšas daļas un ir pietiekamas zināšanas, lai aprēķinātu tā sadalījumu. X ir Bajesa tīkls attiecībā pret G, ja katrs mezgls ir nosacīti neatkarīgs no visiem pārējiem mezgliem, ņemot vērā tā Markovian.sega.

Ieteicams: