1.5 随机信号理论​

1.5 随机信号理论 ​核心问题： 什么是随机信号？如何分析和处理随机信号？

在线 Notebook

对应的交互式版本可在 Google Colab 打开，统一使用方式见 第0章说明。

确定性信号 vs 随机信号 ​确定性信号 ​定义： 信号的值可以用数学函数完全确定。

例子：

正弦波：x(t)=Asin⁡(2πft+ϕ)多项式：x(t)=t2+2t+1周期信号：x(t)=x(t+T)特点：

可以精确预测给定时间点的值是确定的前面几章讨论的都是确定性信号随机信号 ​定义： 信号的值不能完全确定，只能用概率描述。

例子：

噪音：麦克风录制的背景噪声股票价格：随时间随机波动通信信号：接收端的信号受多径衰落影响生物信号：脑电图、心电图中的随机成分特点：

不能精确预测，只能用统计方法描述每次观测可能不同需要多次观测来估计其统计特性随机信号的统计特性 ​1. 均值（Mean） ​定义： 信号的平均值。

μ=E[x(t)]=∫−∞∞x⋅p(x)dx其中 p(x) 是概率密度函数（PDF）。

直观理解： 如果重复观测信号很多次，所有观测值的平均。

例子：

白噪声的均值通常为0

有偏噪声的均值不为02. 方差（Variance） ​定义： 信号围绕均值的波动程度。

σ2=E[(x(t)−μ)2]=∫−∞∞(x−μ)2⋅p(x)dx直观理解： 方差越大，信号波动越剧烈。

标准差： σ=σ2

例子：

高斯噪声：方差决定了噪声的强度

信噪比（SNR）：信号功率 / 噪声功率3. 自相关函数（Autocorrelation Function, ACF） ​定义： 信号与其自身在不同时间延迟下的相关性。

R(τ)=E[x(t)x(t+τ)]性质：

R(0)=E[x2(t)]（信号的功率）R(τ)=R(−τ)（偶函数）|R(τ)|≤R(0)直观理解：

R(τ) 大 → 信号在时间 τ 后仍然相似R(τ) 小 → 信号在时间 τ 后变得不相似例子：

周期信号：自相关函数也是周期的

白噪声：自相关函数只在 τ=0 时有峰值4. 功率谱密度（Power Spectral Density, PSD） ​定义： 信号功率在频域的分布。

S(f)=F{R(τ)}其中 F 是傅里叶变换。

性质：

S(f)≥0（总是非负）∫−∞∞S(f)df=R(0)=E[x2(t)]（总功率）直观理解：

哪些频率的功率强哪些频率的功率弱例子：

白噪声：PSD是平坦的（所有频率功率相等）

有色噪声：PSD不平坦（某些频率功率强）平稳性（Stationarity） ​严格平稳（Strict Stationarity） ​定义： 信号的统计特性不随时间变化。

p(x(t1),x(t2),…,x(tn))=p(x(t1+τ),x(t2+τ),…,x(tn+τ))对所有 τ 成立。

含义： 无论什么时候观测，统计特性都相同。

宽平稳（Wide-Sense Stationarity, WSS） ​定义： 信号的均值和自相关函数不随时间变化。

E[x(t)]=μ（常数）E[x(t)x(t+τ)]=R(τ)（只依赖于 τ）优点： 比严格平稳更容易验证。

实际应用： 大多数信号处理假设WSS。

非平稳信号 ​定义： 统计特性随时间变化。

例子：

语音信号：频率成分随时间变化音乐信号：不同乐器在不同时刻出现地震波：能量随时间增加然后减少处理方法： 用时频分析（如STFT、小波变换）

遍历性（Ergodicity） ​定义 ​遍历信号： 时间平均等于集合平均。

limT→∞12T∫−TTx(t)dt=E[x(t)]为什么重要 ​实际问题： 我们只能观测一次信号，无法多次采样。

解决方案： 如果信号是遍历的，可以用时间平均代替集合平均。

μ^=1N∑n=0N−1x[n]R^(τ)=1N∑n=0N−1x[n]x[n+τ]高斯过程（Gaussian Process） ​定义 ​高斯过程： 任意时刻的联合分布都是高斯分布。

p(x(t1),x(t2),…,x(tn))∼N(μ,Σ)其中 μ 是均值向量，Σ 是协方差矩阵。

为什么重要 ​中心极限定理： 许多独立随机变量的和趋向于高斯分布。

例子：

热噪声：由大量随机电子运动产生 → 高斯分布通信信号：多径衰落的叠加 → 高斯分布高斯过程的性质 ​完全由均值和协方差确定

不需要知道高阶矩只需要 μ 和 R(τ)线性变换后仍是高斯过程

如果 x(t) 是高斯过程那么 y(t)=∫h(τ)x(t−τ)dτ 也是高斯过程不相关与独立的关系

对于联合高斯变量，不相关 ⟺ 独立这对非高斯过程不成立白噪声和有色噪声 ​白噪声（White Noise） ​定义： 功率谱密度在所有频率上都相等。

S(f)=N0（常数）自相关函数：

R(τ)=N0δ(τ)其中 δ(τ) 是狄拉克脉冲。

代码文件： code/ch01_dsp/random_signals.py运行方式： python code/ch01_dsp/random_signals.py

图1.5：随机信号的典型表现。不同随机过程在时域波动、概率分布和统计结构上各不相同，因此需要用均值、方差、自相关和功率谱密度来描述。

性质：

任意两个不同时刻的值不相关完全随机，无法预测理想情况，实际不存在例子：

热噪声：接近白噪声

量化噪声：接近白噪声有色噪声（Colored Noise） ​定义： 功率谱密度不均匀。

常见类型：

粉红噪声（Pink Noise）

S(f)∝1/f低频功率强，高频功率弱例子：1/f闪烁噪声褐色噪声（Brown Noise）

S(f)∝1/f2低频功率更强例子：随机游走蓝色噪声（Blue Noise）

S(f)∝f高频功率强，低频功率弱例子：差分白噪声处理方法： 用滤波器将有色噪声变成白噪声（白化）

实际应用 ​1. 通信系统 ​问题： 接收信号被加性高斯白噪声（AWGN）污染。

y[n]=x[n]+w[n]其中 w[n] 是AWGN。

应用：

信噪比（SNR）计算接收机设计信道容量分析噪声的本质是不确定性。信息论把这种不确定性量化为熵：信号越随机、越难预测，熵越高，携带的信息量也越大。信道容量则描述了在给定噪声水平下，一条通信链路每秒最多能可靠传输多少信息。这个思想在后续章节会以不同形式出现：LLM 的训练目标（交叉熵损失）本质上就是在最小化模型对下一个 token 的不确定性，详见 第5章信息论基础。

2. 信号去噪 ​问题： 从噪声中恢复原始信号。

方法：

维纳滤波：利用信号和噪声的统计特性卡尔曼滤波：处理时变系统小波去噪：利用时频特性3. 频谱估计 ​问题： 从有限长度的观测估计PSD。

方法：

周期图法：直接计算FFT的平方Welch方法：分段平均，减少方差参数化方法：假设信号由AR/MA模型生成4. 时间序列分析 ​应用：

股票价格预测：ARIMA模型天气预报：时间序列模型传感器数据分析：异常检测5. 卷积与随机信号 ​问题： 卷积如何改变随机信号的统计特性？

背景： 卷积是信号处理的基本运算（详见 1.3 滤波器与卷积）。当卷积应用于随机信号时，输出信号的统计特性会发生变化。

观测模型：

y[n]=∑m=0M−1h[m]x[n−m]=h[n]∗x[n]其中 x[n] 是随机信号，h[n] 是滤波器。

输出的自相关函数：

Ry(τ)=∑m1=0M−1∑m2=0M−1h[m1]h[m2]Rx(τ+m2−m1)输出的功率谱密度（关键结论）：

Sy(f)=|H(f)|2Sx(f)其中 H(f) 是滤波器的频率响应。

直观理解：

滤波器改变信号的频率成分分布低通滤波器：减弱高频噪声，保留低频信号高通滤波器：增强高频成分，减弱低频成分带通滤波器：只保留特定频率范围实际应用：

信号去噪

问题：信号被高频噪声污染解决：用低通滤波器去掉高频噪声效果：Sy(f)=|HLP(f)|2Sx(f)，高频成分被衰减特征提取

问题：从复杂信号中提取关键特征解决：用带通滤波器提取特定频率成分例子：从ECG信号中提取心跳频率成分信道均衡

问题：通信信号通过信道后失真解决：设计均衡滤波器 Heq(f)=1/Hchannel(f)效果：恢复原始信号的统计特性维纳滤波

问题：在噪声中恢复信号解决：设计最优滤波器最小化MSE公式：HWiener(f)=Sx(f)Sx(f)+Sw(f)效果：平衡信号保留和噪声抑制本节小结 ​随机信号理论是信号处理的基础：

统计特性：均值、方差、自相关、PSD平稳性：信号统计特性是否随时间变化遍历性：时间平均是否等于集合平均高斯过程：最常见的随机信号模型噪声类型：白噪声和有色噪声卷积应用：卷积如何改变随机信号的统计特性理解这些概念对于设计滤波器、检测器和估计器至关重要。特别是，卷积定理 Sy(f)=|H(f)|2Sx(f) 是信号处理中最重要的结论之一，它连接了时域操作（卷积）和频域特性（功率谱密度）。

与后续章节的联系 ​随机信号理论提供了描述“不确定性”的语言，后续章节会反复用到这套语言：

随机性与概率分布

语言建模本质上是在处理概率分布，而不是确定性输出平稳性与非平稳性

序列任务往往同时包含稳定模式和局部变化，这和随机过程的分析框架一致自相关与依赖结构

长程依赖可以用“相关性随距离衰减”的语言来理解噪声与信噪比

训练和推理都需要在有用信号与扰动之间做权衡这些概念在第 2 章优化、第 5 章训练数据和第 6 章评估中会继续出现。

下一节： 1.6 信号检测