基于虚拟机的安全应用运行机制关键技术研究.pdf

国防科学技术大学
硕士学位论文
基于虚拟机的安全应用运行机制关键技术研究
姓名:舒畅
申请学位级别:硕士
专业:软件工程
指导教师:吴庆波
2010-10
国防科学技术大学研究生院工程硕士学位论文
摘要
操作系统是计算机软件系统的基础,其安全问题的研究具有重大意义。虚拟
化技术为操作系统的可信性研究创造了有利条件,当前提出了一些基于虚拟机的
可信操作系统模型,以增强操作系统的可信性。但与传统安全操作系统不同,如
何在虚拟机结构下提供安全应用运行机制是目前国内外研究热点。本文将重点研
究基于虚拟机的安全应用程序运行过程及其关键技术。
针对现有虚拟机技术对安全应用支持不足的问题,本文提出了一种基于虚拟
机的安全应用运行 VTAE(VMM-Based Trusted-Application Execution Model)模型。
提出了跨域服务的运行机制,包括两种类型的跨域服务――跨域程序启动服务和
跨域过程调用服务,以其作为模型及安全应用运行的功能目标。通过对模型中各
模块的功能划分和定义,设计了基于安全级判定的模型的工作流程。
虚拟域间通信机制是实现支持安全应用运行的基础支撑机制,为了实现性能
和安全的要求,本文设计了低延迟多级安全的域间通信机制。该机制利用了虚拟
机监视器 VMM(Virtual Machine Monitor)提供的底层机制――借助于 Hypercall
实现的基于内存页拷贝的域间消息传递和基于虚拟中断的事件通知机制,采用了
多级安全的域间数据传输控制方法,对不同虚拟域间的数据流向进行了限制,设
计了虚拟域间通信协议 IVTP(Inter-VM Transmission Protocol),以支持不同虚拟
域间进程间通信方式。测试表明,该通信机制具有低延迟和高带宽的特点。
安全应用的协同服务是基于 VTAE 模型系统应用的关键,本文针对安全应用
跨虚拟机域协同服务的技术难题,提出了跨域服务的协同服务机制。提出了应用
按安全级别分离运行的方法;设计了跨域服务调用执行机制,实行了多级安全的
跨域服务访问控制方法,使跨域服务访问受到基于安全级别的安全原则约束;提
出了跨域服务执行的管理方法,提供了服务执行进程的状态查询及控制方法,提
出了服务执行资源自动回收机制以防止异步执行可能造成的内存泄露。
最后,基于开源的 KVM 虚拟化平台实现了 VTAE 模型的原型系统。并针对
于前文所提出的两种类型跨域服务对应的实际应用进行了性能测试。测试结果表
明,VTAE 系统跨域服务运行的性能相对于本域服务运行损失较小。
本研究工作得到国家 863“多域安全虚拟个人计算机系统”(课题编号:
2007AA01Z177)的支持,本文的研究成果已在该课题中得到成功应用。

主题词:安全应用运行、跨域服务、域间通信、协同服务、虚拟机
第 i 页
国防科学技术大学研究生院工程硕士学位论文
ABSTRACT
Operating system is the infrastructure for the software system, so the study on the
operating system security has great significance. Virtual machine technology is of great
value in building trusted operating system, as a result many trusted operating systems
based on virtual machine technology have been proposed to enhance the security of the
operating system. But unlike traditional trusted operating system, current study has
focused more on how to provide the mechanism for the execution of trusted-application
under virtual machine environment. This paper focuses on the process of the
trusted-application execution based on virtual machine environment and its key
techniques.
To address the p