非参数密度估计relativeprobability0.520/50100k/n0P=0.7
非参数密度估计
非参数密度估计积分中值定理P= [p(x) dx =p(x') VRV=「dx为区域R大小的度量（长度、面积、体积等）R·X是R中某个点如果R足够小，使得p(x)在R内的变化很小，则P ~p(x) Vx为R中任一点巴EK代入，得到·把nnkk/np(x)p(x) VorVn
非参数密度估计 • 积分中值定理 • 为区域R大小的度量（长度、面积、体积等） • x’是R中某个点 • 如果R足够小，使得p(x)在R内的变化很小，则 x为R中任一点 • 把 代入，得到
V的选择·在样本数量n有限的情况下·V过大得到空间平滑后的p(x)·V趋近于0k/n=0·如果R内没有样本点，则p(x)Vk/n·如果R内碰巧有一个样本，则p(x)~8V·假设样本数可以无限多·构造一系列包含x的区域R,R2....·R使用一个样本落入R,中的样本个数用R,得到的估计·R使用两个样本knpn(x)R,的体积
V的选择 • 在样本数量n有限的情况下 • V过大 得到空间平滑后的p(x) • V趋近于0 • 如果R内没有样本点，则 • 如果R内碰巧有一个样本，则 • 假设样本数可以无限多 • 构造一系列包含x的区域 • 使用一个样本 • 使用两个样本 • . / ( ) 0 k n p V x = = / ( ) k n p V x = 1 2 R R, , R1 R2 用 R n 得到的估计 落入 R n 中的样本个数 R n 的体积
V的选择如果要使p,(x)→p(x)，则如下条件必须满足limVn=0空间平滑了的P/V能够收敛到p(x）limkn = 00n-8频率之比k/n能够收敛到Plimkn/n=on-即使落在R中的样本点趋于无穷大，其在整个数据集中的比例仍然很小
V的选择 • 如果要使 ，则如下条件必须满足 • 空间平滑了的P/V能够收敛到p(x) • 频率之比k/n能够收敛到P • 即使落在R中的样本点趋于无穷大，其在整个数据集中的比例仍 然很小 ( ) ( ) n p x p x →
V的选择两种途径根据某个确定的体积函数，如Vn=1/Vn，来逐渐收缩一个给定的初始区间Parzen窗方法n=9100n=1n=4Vn=1/Vn确定k.为n的某个函数，如kn =Vnkn-近邻方法kn=Vn
V的选择 • 两种途径 • 根据某个确定的体积函数，如 ，来逐渐收缩 一个给定的初始区间 Parzen窗方法 • 确定kn为n的某个函数，如 kn -近邻方法