九乡新闻网莱芜环保数控锅炉批发:大量数据与Excel交互的解决方案<转>
来源：百度文库 编辑：九乡新闻网 时间：2024/05/07 01:54:44
一. 导入生成 Excel
原始的做法：
将数据加载到内存中，导入 Excel, 此方法的弊端：
1. 大量数据加载到内存中 , 使机器变得缓慢
2. 大量数据在导入 Excel 时形成大量 cell 对象产生 OOM
在使用 TOMCAT 的情况下， JVM 最高只能支持到 2G 内存，则会发生内存溢出的情况。此时的内存开销主要是两部分，一部分是大量数据加载到内存，另一部分是写入一个 EXCEL 时形成大量 cell 对象的开销。由于 JVM 的 GC 机制是不能强制回收的 .
采用的方案是：将大量要导出的数据放入临时表分批次形成多个 Excel 文件后合并.说明：
1. 大量要导出的数据放入临时表
大量数据有可能是在海量数据表里通过条件查询出来的，这样可以有效避免多次在海量 数据中查询，提高了查询效率
2. 分批次形成多个 Excel
比形成一个 Excel 的多个 sheet 好，因为多个 sheet 形式需要将整个 Excel 加载到内存中，那么 sheet 越多， Excel 越大 . 改多个 SHEET 页为多个 EXCEL 。通过多次生成，可以在后面 EXCEL 生成所需要的内存不 足时，有效回收前面生成 EXCEL 时占用的内存。
3. 将多个 Excel 合并
参考 :http://www.javaeye.com/topic/240053.
二. Excel 导出入库
1.excel 文件上传至服务器
2. 采用 eventusermodel 方式读取 excel 数据 , 分块读取数据并批量入临时表
3. 利用存储过程或其他纯 sql 语句来验证临时表 (Temp1) 中的数据
4. 将验证失败数据放入存储至校验失败的临时表中 (Temp2)
5. 将临时表 (Temp1) 中的数据插入库表