Bayesian tes hauj lwm: txhais, piv txwv thiab lawv ua haujlwm li cas

Cov txheej txheem:

Bayesian tes hauj lwm: txhais, piv txwv thiab lawv ua haujlwm li cas
Bayesian tes hauj lwm: txhais, piv txwv thiab lawv ua haujlwm li cas
Anonim

Ib txoj kev ntseeg, kev txiav txim siab network, Bayesian (ian) qauv lossis probabilistically tsav acyclic graph qauv yog cov qauv sib txawv (ib hom qauv qauv) uas sawv cev rau cov txheej txheem sib txawv thiab lawv cov kev cia siab los ntawm kev qhia acyclic graph (DAG).

Piv txwv li, Bayesian network tuaj yeem sawv cev kev sib raug zoo ntawm cov kab mob thiab cov tsos mob. Muab qhov kawg, lub network tuaj yeem siv los ntsuas qhov muaj peev xwm muaj ntau yam kab mob. Hauv video hauv qab no koj tuaj yeem pom ib qho piv txwv ntawm Bayesian kev ntseeg network nrog kev suav.

Image
Image

Efficiency

Cov algorithms zoo tuaj yeem ua qhov kev xav thiab kev kawm ntawm Bayesian tes hauj lwm. Cov tes hauj lwm uas tus qauv hloov pauv (xws li cov cim hais lus lossis cov kab ke protein) hu ua dynamic networks. Generalizations ntawm Bayesian tes hauj lwm uas tuaj yeem sawv cev thiab daws cov teeb meem hauv qhov tsis paub tseeb yog hu ua cov duab kos.

Essence

KevBayesian tes hauj lwm yog DAGs uas nws cov nodes sawv cev rau variables nyob rau hauv lub Bayesian kev nkag siab: lawv tuaj yeem pom qhov tseem ceeb, qhov txawv txav, tsis paub tsis meej, lossis kev xav. Vim nws ntxim nyiam heev.

Bayesian network piv txwv

Ob qhov xwm txheej tuaj yeem ua rau cov nyom ntub: ib lub tshuab nqus dej lossis los nag. Los nag muaj kev cuam tshuam ncaj qha rau kev siv cov tshuaj txau (xws li, thaum nws los nag, lub tshuab txau feem ntau tsis ua haujlwm). Qhov xwm txheej no tuaj yeem ua qauv siv Bayesian network.

Hom mis nyuj
Hom mis nyuj

simulation

Vim tias Bayesian network yog tus qauv ua tiav rau nws qhov sib txawv thiab lawv cov kev sib raug zoo, nws tuaj yeem siv los teb cov lus nug uas yuav tshwm sim txog lawv. Piv txwv li, nws tuaj yeem siv los hloov kho kev paub txog lub xeev ntawm cov txheej txheem sib txawv thaum lwm cov ntaub ntawv (cov pov thawj sib txawv) raug pom. Cov txheej txheem nthuav dav no hu ua probabilistic inference.

A posteriori muab cov ntaub ntawv thoob ntiaj teb txaus rau kev tshawb pom cov ntawv thov thaum xaiv qhov tseem ceeb rau cov khoom sib txawv. Yog li, qhov algorithm no tuaj yeem suav hais tias yog ib lub tswv yim rau kev siv Bayes 'theorem rau cov teeb meem nyuaj. Hauv cov duab hauv kab lus koj tuaj yeem pom cov piv txwv ntawm Bayesian kev ntseeg tes hauj lwm.

Tswv yim Bayesian network
Tswv yim Bayesian network

Txoj Kev Tshaj Tawm

Cov kev qhia meej tshaj plaws yog: tshem tawm qhov sib txawv, uas tshem tawm (los ntawm kev sib koom ua ke lossis kev sib sau) qhov tsis pomnon-query parameters ib los ntawm ib tug los ntawm faib tus nqi rau cov khoom.

Nyem propagation ntawm "ntoo" uas caches suav kom ntau yam sib txawv tuaj yeem nug ib zaug thiab cov ntaub ntawv pov thawj tshiab tuaj yeem nthuav tawm sai; thiab recursive txuam thiab / los yog kev tshawb nrhiav, uas tso cai rau kev lag luam tawm ntawm qhov chaw thiab lub sijhawm thiab phim qhov kev ua tau zoo ntawm kev tshem tawm qhov sib txawv thaum siv qhov chaw txaus.

Txhua txoj hauv kev no muaj qhov nyuaj tshwj xeeb uas nyob ntawm qhov ntev ntawm lub network. Qhov feem ntau kwv yees kwv yees algorithms yog kev tshem tawm cov ntu me me, kev nthuav tawm kev ntseeg kev ntseeg, kev ntseeg kev nthuav dav dav dav, thiab cov txheej txheem sib txawv.

Hom kev tes hauj lwm
Hom kev tes hauj lwm

Networking

Txhawm rau kom meej meej Bayesian network thiab yog li tag nrho sawv cev ntawm kev sib koom ua ke yuav raug faib tawm, nws yog ib qho tsim nyog yuav tsum tau qhia rau txhua tus ntawm X qhov yuav tshwm sim rau X vim yog niam txiv ntawm X.

Kev faib tawm ntawm X raws cai los ntawm nws niam nws txiv tuaj yeem muaj txhua daim ntawv. Nws yog ib txwm ua hauj lwm nrog discrete los yog Gaussian distributions raws li nws yooj yim kev xam. Qee lub sij hawm tsuas yog kev txwv kev faib khoom xwb. Tom qab ntawd koj tuaj yeem siv entropy los txiav txim siab ib qho kev faib tawm uas muaj qhov siab tshaj plaws entropy muab qhov txwv.

Ib yam li ntawd, nyob rau hauv cov ntsiab lus tshwj xeeb ntawm dynamic Bayesian network, qhov kev faib tawm rau lub sijhawm evolution ntawm lub latentlub xeev feem ntau yog teem kom ua kom lub entropy tus nqi ntawm qhov implied random txheej txheem.

Bayesian lub vev xaib ntawm kev ntseeg siab
Bayesian lub vev xaib ntawm kev ntseeg siab

Txoj kev ua kom muaj txiaj ntsig zoo tshaj plaws (lossis qhov tshwm sim tom qab) feem ntau tsis yooj yim vim tias muaj qhov tsis pom kev hloov pauv. Qhov no yog qhov tseeb tshwj xeeb rau lub koom haum kev txiav txim siab Bayesian.

Classic approach

Txoj hauv kev classic rau qhov teeb meem no yog qhov kev cia siab maximization algorithm, uas alternates xam cov txiaj ntsig ntawm qhov kev xav tau ntawm qhov tsis pom kev hloov pauv nyob ntawm cov ntaub ntawv pom nrog ua kom tag nrho qhov tshwm sim (lossis tus nqi tom qab), piv txwv tias yav dhau los suav xav tau. tus nqi yog qhov tseeb. Nyob rau hauv tej yam kev mob ntawm nruab nrab tsis tu ncua, cov txheej txheem no converges nyob rau hauv lub siab tshaj plaws (los yog siab tshaj ib tug posteriori) qhov tseem ceeb ntawm cov tsis.

Ib qho ua tiav Bayesian txoj hauv kev rau qhov tsis muaj yog los kho lawv li qhov hloov pauv tsis tau pom ntxiv thiab suav tag nrho cov kev faib tawm tom qab tag nrho cov nodes tau muab cov ntaub ntawv pom, thiab tom qab ntawd ua ke cov kev txwv. Txoj hauv kev no tuaj yeem raug nqi ntau thiab ua rau cov qauv loj, ua rau cov qauv ntsuas kev sib tw ua kom yooj yim dua.

Hauv qhov yooj yim tshaj plaws, Bayesian network tau txhais los ntawm tus kws tshaj lij thiab tom qab ntawd siv los ua qhov kev xav. Hauv lwm daim ntawv thov, txoj haujlwm ntawm kev txiav txim siab nyuaj dhau rau tib neeg. Hauv qhov no, tus qauv ntawm Bayesian neural network thiab qhov tsis sib xws ntawm kev faib khoom hauv zos yuav tsum tau kawm ntawm cov ntaub ntawv.

Bayesian networks
Bayesian networks

Txoj kev hloov pauv

Ib txoj hauv kev ntawm kev kawm tsim qauv siv kev tshawb nrhiav kom zoo. Qhov no yuav tsum tau siv qhov kev ntsuam xyuas muaj nuj nqi thiab kev tshawb nrhiav lub tswv yim. Ib qho kev sib tw sib tw yog qhov tshwm sim tom qab ntawm cov qauv muab cov ntaub ntawv qhia xws li BIC lossis BDeu.

Lub sijhawm xav tau rau kev tshawb nrhiav tag nrho rov qab los ntawm cov qauv uas ua kom cov qhab nia siab tshaj plaws hauv cov lej ntawm qhov sib txawv. Lub tswv yim tshawb fawb hauv zos ua rau muaj kev hloov pauv ntxiv los txhim kho kev kwv yees tus qauv. Friedman thiab nws cov npoj yaig tau txiav txim siab siv cov ntaub ntawv sib koom ua ke ntawm qhov sib txawv kom pom cov qauv xav tau. Lawv txwv tsis pub cov niam txiv sib tw rau k nodes thiab tshawb xyuas lawv kom huv si.

Ib txoj kev ceev tshwj xeeb rau kev kawm BN raws nraim yog xav txog qhov teeb meem raws li qhov teeb meem kev ua kom zoo thiab daws nws siv qhov kev ua lej suav. Acyclicity constraints yog ntxiv rau qhov kev pab cuam integer (IP) thaum lub sij hawm kev daws teeb meem hauv daim ntawv txiav cov dav hlau. Ib txoj hauv kev no tuaj yeem daws teeb meem txog 100 qhov sib txawv.

Graphs thiab networks
Graphs thiab networks

Kev daws teeb meem

Yuav daws teeb meem nrog ntau txhiab tus hloov pauv, xav tau ib txoj hauv kev sib txawv. Ib qho yog thawj zaug xaiv ib qho kev txiav txim thiab tom qab ntawd nrhiav qhov zoo tshaj plaws BN qauv nrog rau qhov kev txiav txim ntawd. Qhov no txhais tau hais tias ua haujlwm hauv qhov chaw tshawb nrhiav ntawm qhov kev txiav txim tau, uas yog qhov yooj yim vim tias nws me dua qhov chaw ntawm cov qauv network. Ob peb txiav txim tom qab ntawd raug xaiv thiab tshuaj xyuas. Txoj kev no muab tawmzoo tshaj plaws muaj nyob rau hauv cov ntaub ntawv thaum tus naj npawb ntawm cov variables yog loj.

Lwm txoj hauv kev yog tsom mus rau subclass ntawm cov qauv decomposable uas MLEs raug kaw. Tom qab ntawd koj tuaj yeem pom cov qauv zoo ib yam rau ntau pua qhov sib txawv.

Kawm Bayesian tes hauj lwm nrog qhov dav dav ntawm peb kab yog qhov tsim nyog los muab qhov tseeb, txhais tau qhov kev xav, vim qhov phem tshaj qhov nyuaj ntawm qhov kawg yog exponential hauv tsob ntoo ntev k (raws li lub sijhawm exponential hypothesis). Txawm li cas los xij, raws li lub ntiaj teb cov cuab yeej ntawm daim duab, nws ua rau kom qhov nyuaj ntawm txoj kev kawm. Hauv cov ntsiab lus no, K-ntoo tuaj yeem siv rau kev kawm tau zoo.

Luv network
Luv network

Kev txhim kho

Kev txhim kho ntawm Bayesian Web of Trust feem ntau pib nrog kev tsim DAG G xws li X txaus siab rau Markov cov cuab yeej hauv zos nrog rau G. Qee zaum qhov no yog DAG causal. Feem ntau cov xwm txheej tshwm sim tshwm sim ntawm txhua qhov sib txawv ntawm nws niam nws txiv hauv G yog kwv yees. Feem ntau, tshwj xeeb tshaj yog thaum qhov sib txawv ntawm qhov tsis sib xws, yog tias qhov sib koom ua ke ntawm X yog cov khoom ntawm cov kev faib tawm raws li txoj cai, ces X dhau los ua Bayesian network nrog kev hwm. G.

Markov's "knot pam" yog ib txheej ntawm pob. Lub Markov quilt ua rau cov node ywj siab ntawm qhov seem ntawm qhov khoob ntawm cov node nrog tib lub npe thiab muaj kev paub txaus los xam nws qhov kev faib tawm. X yog Bayesian network nrog kev hwm rau G yog tias txhua qhov ntawm lub cev muaj kev ywj pheej ntawm txhua lwm cov nodes, muab nws Markoviandaim pam.

Pom zoo: