BP神经网络实现图像压缩.ppt

机器学习(ML第11组)
图像压缩
(BP神经网络)
神经网络应用
手写数字识别
(概率神经网络)
求解最优策略
(利用基于值迭代的MDP算法求解最优策略)
马尔科夫决策过程
应用
BP神经网络实现图像压缩
唐璇 E13201073
罗威亚 E13201055
Contents
问题背景
1
BP神经网络建模
2
BP神经网络压缩的实现
3
结果与分析
4
问题背景
常见的文件压缩软件如WinZip、WinRAR等采用的是无损压缩,能够完全恢复原文件内容。
多媒体信息具有信息量大、冗余信息多的特点,往往采用有损压缩技术。
JPEG压缩(变换编码与熵编码)
基于小波变换的图像压缩算法
分形压缩编码
矢量量化压缩编码
图像压缩算法
问题背景
BP神经网络是一种多层前向神经网络,是整个人工神经网络体系中的精华,广泛应用于分类识别、逼近、回归和压缩。实际应用中80%的神经网络模型采取了BP网络或者BP的变化形式。
BP神经网络实现图像压缩,依赖BP网络的非线性映射能力进行数据压缩。
实验结果表明,采用BP神经网络对灰度图像进行压缩,在保证较好峰值信噪比(PSNR)的情况下,达到了较高的压缩比。
BP神经网络建模(模型的压缩原理)
BP神经网络用于压缩的网络模型构建:
采用一个隐含层,则整体构成一个三层的网络。
把一组输入模式通过少量的隐含层单元映射到一组输出模式,并使输出模式尽可能等于输入模式。(隐含层神经元的值和相应的权值向量可以输出一个与原输入模式相同的向量)
输入层
隐含层
输出层
解码
编码
补充:理论已经证明,单个隐含层的网络可以通过适当增加神经元节点的个数实现任意非线性映射。所以,单个隐含层可满足大部分应用需要。
压缩原理:当隐含层神经元的个数较少时,就意味着隐含层能用更少的数来表现输入模式,而这,实际上就是压缩。
BP神经网络建模(压缩解压过程)
假设网络的输入层和输出层均有M个神经元组成,隐含层包含I个神经元,且I<M,则输入模式必须进行压缩编码,结果保存在隐含层。
输入层到隐含层的变换相当于压缩的编码过程;隐含层到输出层的变换相当于压缩的解码过程。
编码
编码结果
解码
输入层,M个神经元
隐含层,I个神经元,I<M
输出层,M个神经元
输入数据
重建数据
BP神经网络建模(图像压缩编码)
输入图像数据:假设图像为像素N×N大小,以K×K为单位进行划分,将图像细分为一个个图像块。图像块中每一个像素点与一个输入或输出神经元相对应,如下模型。
样本学习:网络随机地抽取图像中各K×K图像块作为学习模式,使用反向传播算法进行学习,通过调整网络中神经元之间的连接权值,使训练集图像的重建误差E=f-g的均值达到最小。训练好的网络隐含层神经元矢量便是数据压缩的结果,而输出层神经元矢量便是重建后的数据。
原始图像
重建图像
K×K
K×K
BP神经网络建模
BP网络的计算模型
{wij,bj}
x2
x3
xM
y1
y2
y3
yM
{wji,bi}
hj
x1
编码过程
解码过程
隐含层第j个神经元输出值:
输出层第i个神经元输出值:
BP神经网络压缩的实现
图像块划分
归一化
BP网络
训练
保存结果
将图像的二维矩阵分成K×K的一个个块,输出K^2×N矩阵
(样矩阵)
除以255,得
数据位于0~1
之间。
(这样能提高
压缩率,灰度
图像的灰度值
0~255)
采用神经网络工具箱函数feedforward创建前向BP网络
采用LM训练法(收敛快)
的阈值
每个图像块
对应的隐含层
单元的输出
压缩步骤:
256×256
16×4096