北邮信通院信息论第八章.ppt

北邮信息论课程组
许文俊
第8章波形信道
本章主要内容
4
离散时间连续信道
1
2
3
5
加性噪声信道与容量
AWGN信道的容量
有色高斯噪声信道
数字调制系统的信道容量
6
小结和思考题
§ 离散时间连续信道
时间离散连续信道模型
1
平稳无记忆连续信道
2
多维矢量连续信道的性质
3
离散时间连续信道的容量
4
本节主要内容
如果一个信道的输入与输出只定义在离散时间上,但取值是连续的,这样的信道称为时间离散连续信道,有时简称为连续信道。
离散时间连续信道(续)
这种信道可以通过对时间连续信道在离散时间进行抽样或者对连续信道进行某种变换得到
时间离散
连续信道
这种连续信道的输入与输出分别为随机序列,而序列中符号的取值是连续的。
离散时间连续信道(续)
平稳无记
忆信道
如果信道是平稳无记忆的,即信道的转移概率不随时间而变,且信道的输出仅依赖于当前的输入
那么离散时间信道的研究可以归结于单符号离散时间信道研究
所以,我们首先研究单符号信道,然后研究多维矢量信道
时间离散连续信道模型
一般的,时间离散连续信道输入与输出均为随机矢量, 设信道输入和输出分别是长为N 的序列,输入矢量集合为
,集合中的矢量为,其中为连续或离散随机变量,概率密度或概率用表示;输出矢量集合为,集合中的矢量为,其中
为连续随机变量,概率密度用表示。
信道模型表示为:
其中为信道的转移概率密度。
平稳无记忆连续信道
若信道的转移概率密度满足
()
则称为此信道为离散时间无记忆连续信道,简称为无记忆连续信道,其数学模型为:
如果对于任意正整数m、n,离散无记忆信道的转移概率密度满足()
则称为平稳或恒参无记忆信道。
可见,对于平稳信道, 不随时间变化。这样,平稳无记忆信道的模型就是
对于平稳无记忆信道,可以用一维条件概率密度来描述,其中,信道的输入X与输出Y都是一维随机变量集合。
时间离散连续信道模型
一般的时间离散连续信道输入与输出均为随机矢量,称为多维矢量连续信道。这种信道的输入与输出平均互信息也有与离散情况类似的结果。
对于N维矢量信道,输入与输出平均互信息为
()
对于离散时间无记忆连续信道,有

()
仅当信源无记忆时等式成立。
对于离散时间无记忆连续信源,有
()
仅当信道无记忆时等式成立。
时间离散连续信道模型(续)
离散时间连续信道的容量
与离散信道一样,信道容量是研究的主要内容。在求离散信道容量的过程中,除输入概率归一化的限制之外,可以不做其他限制。
Description of the contents
但对连续信道,若不对输入进行附加限制,输入与输出之间的平均互信息的最大值就可能会无限增大。
通常这种限制就是输入功率或峰值的限制
连续信道容量定义为,在信道输入满足某些约束条件下,输入与输出平均互信息的最大值。