估計理論
[拼音]:guji lilun
[外文]:estimation theory
應(yīng)用統(tǒng)計學(xué)方法來研究,用接收到的有噪聲的觀測數(shù)據(jù)估計實際參量或隨機變量、隨機過程或系統(tǒng)某些特性的理論,為信息論的一個分支。估計分為參量估計和狀態(tài)估計兩類。參量和狀態(tài)的區(qū)別是:前者隨著時間保持不變或只緩慢變化;后者則隨著時間連續(xù)變化。例如,根據(jù)雷達回波來估計每一時刻在連續(xù)變化的衛(wèi)星的三個空間位置矢量和三個速度矢量,這是狀態(tài)估計。對衛(wèi)星的質(zhì)量和慣量等的估計則屬于參量估計。被估計的參量又可分為隨機變量和非隨機變量兩種。要估計的狀態(tài)則又有離散時間和連續(xù)時間的區(qū)別。
發(fā)展概況
19世紀初,德國數(shù)學(xué)家C.F.高斯提出了最小二乘法估計(最小平方誤差估計)。從20世紀20年代到30年代,英國統(tǒng)計學(xué)家R.A.費歇耳系統(tǒng)地建立了經(jīng)典估計理論。1941年蘇聯(lián)科學(xué)家H.柯爾莫戈洛夫首先論述離散時間情況下的預(yù)測問題。美國科學(xué)家N.維納于1942年推導(dǎo)出連續(xù)時間濾波。他們都把統(tǒng)計方法應(yīng)用于解決與狀態(tài)估計有關(guān)的最佳線性濾波問題,為現(xiàn)代估計理論奠定了基礎(chǔ)。60年代初,R.E.卡爾曼等人發(fā)展了維納理論,把狀態(tài)變量法引入濾波理論,用時域微分方程表示濾波問題,得到遞歸濾波算法,適于用計算機求解和實時處理。這一突破使估計理論在許多領(lǐng)域得到實際應(yīng)用。80年代初,光纖通信和激光雷達等逐漸成為工程現(xiàn)實,量子信道與量子檢測和估計理論遂引起人們的注意。
基本概念
圖為一般估計問題的模型。源的輸出通常是時間t的函數(shù),并且包含待估計的參量。例如,在雷達系統(tǒng)中,目標在每一時刻的回波就是源的輸出,可寫成Acos[2πf(t–tR)+φ0],A是回波幅度;f是回波頻率;tR是時延。這些都是待估計的參量,包含著目標的散射特性、空間距離和運動速度等信息。源發(fā)出的數(shù)據(jù)在到達數(shù)據(jù)處理裝置前總是受到隨機噪聲的干擾。概率轉(zhuǎn)移機構(gòu)把數(shù)據(jù)和噪聲按照數(shù)學(xué)規(guī)則轉(zhuǎn)移成具有一定概率模型的信號,作為處理裝置的輸入 y。處理裝置的任務(wù)就是對具有概率特性的數(shù)據(jù)進行必要的處理,然后按設(shè)定的規(guī)則得到估計量。如果待估計的參量只有一個θ,從對 y的n個觀測數(shù)據(jù)的處理所得的估計量為;因y具有隨機特性,估計量也將是一個隨機變量,它本身也有一階矩、二階矩等統(tǒng)計特性。估計量的好壞可用它的統(tǒng)計特性來表示。當(dāng)θ 為實際參量時,稱與θ(稱為真值)之差為估計誤差,用表示,即
如果的期望值為零,即
表示估計量的期望值等于真值,稱為無偏估計。如果對同一參量θ用不同估計方法得出不同的無偏估計1,2,…,其中之一κ的方差是所有估計量方差中最小的,并達到相應(yīng)的下限時,則稱κ為有效估計。如果對任一小的正數(shù)ε有下列概率的極限關(guān)系
則稱為一致估計。
估計方法
常用的估計方法有最小平方誤差估計、極大似然估計和貝葉斯估計。
(1)最小平方誤差估計:對信號和噪聲的統(tǒng)計知識可以不作任何要求。它的基本點是使 n次觀測值與理論計算值的絕對誤差在平方和意義下最小,并由此求得估計量。若u是變量x,y,…的函數(shù)并含有m個參量θ1,θ2,…,θm,即
u=f(θ1,θ2,…,θm;x,y,…)
對u和x,y,…作n次觀測,得
(xi,yi,…,ui) (i=1,2,…,n)
于是u的理論計算值與觀測值ui的絕對誤差為,i=1,2,…,n。如n個絕對誤差的平方和最小,從而使函數(shù)u與觀測值u1,u2,…,un最佳擬合,也就是使參量θ1,θ2,…,θm滿足下列關(guān)系
為最小。根據(jù)微分學(xué)中求極值方法可知,θ1,θ2,…,θm,應(yīng)滿足下列方程組
?_θ/?_θi=0 (i=1,2,…,m)
由此可求得最小平方誤差估計量1,2,…,m。
(2)極大似然估計:以似然函數(shù)的概念為基礎(chǔ)。用Y表示一組觀測量,θ表示一組未知參量,則條件密度函數(shù)p(Y|θ)是Y 和θ兩者的函數(shù)。如果規(guī)定Y等于其觀測量Y*,則p(Y*│θ只是θ的函數(shù),并稱為似然函數(shù)。其涵義是似然函數(shù)p(Y*|θ)的值越大,則θ是準確值的可能性也越大。使p(Y*θ)最大的θ就是極大似然估計量,通常用表示。
(3)貝葉斯估計:對于單參量估計(多參量估計的情況相似)來說,首先要給定隨機參量 θ的概率密度函數(shù)p(θ)和因估計誤差而帶來的代價函數(shù)C(θ,)。假設(shè)處理裝置對Y進行了n次測量,y=(y1,y2,…,yn),且已知θ時y的條件聯(lián)合概率密度為p(y│θ),則估計量(y)帶來的風(fēng)險為
平均風(fēng)險為
貝葉斯估計就是使平均風(fēng)險R()成為最小的估計。可由方程
解出貝葉斯估計量。
- 參考書目
-
- H. L. Van Trees, Detection, Estimation and Modulation Theory, Part I, John Wiley,New York,1968.
建筑資質(zhì)代辦咨詢熱線:13198516101
標簽:估計理論
版權(quán)聲明:本文采用知識共享 署名4.0國際許可協(xié)議 [BY-NC-SA] 進行授權(quán)
文章名稱:《估計理論》
文章鏈接:http://www.kaputelugumatrimony.com/12873.html
該作品系作者結(jié)合建筑標準規(guī)范、政府官網(wǎng)及互聯(lián)網(wǎng)相關(guān)知識整合。如若侵權(quán)請通過投訴通道提交信息,我們將按照規(guī)定及時處理。