POI 和 easyExcel 講解
轉自狂神老師,僅作為個人筆記使用
一、POI
常用進程
1、將用戶信息導出為excel表格(導出數據....)
2、將Excel表中的信息錄入到網站數據庫(習題上傳....)
開發中經常會設計到excel的處理,如導出Excel,導入Excel到數據庫中!
操作Excel目前比較流行的就是 Apache POI 和 阿里巴巴的 easyExcel !
Apache POI
Apache POI 官網:https://poi.apache.org/
easyExcel
easyExcel 官網地址:https://github.com/alibaba/easyexcel
EasyExcel 是阿里巴巴開源的一個excel處理框架,以使用簡單、節省內存著稱。
EasyExcel 能大大減少占用內存的主要原因是在解析 Excel 時沒有將文件數據一次性全部加載到內存中,而是從磁盤上一行行讀取數據,逐個解析。
下圖是 EasyExcel 和 POI 在解析Excel時的對比圖。
官方文檔:https://www.yuque.com/easyexcel/doc/easyexcel
1、POI-Excel寫
創建項目
1、建立一個空項目 Bilibili-狂神說java,創建普通Maven的Moudle kuang-poi
2、引入pom依賴
<dependencies>
<!--xls(03)-->
<dependency>
<groupId>org.apache.poi</groupId>
<artifactId>poi</artifactId>
<version>3.9</version>
</dependency>
<!--xlsx(07)-->
<dependency>
<groupId>org.apache.poi</groupId>
<artifactId>poi-ooxml</artifactId>
<version>3.9</version>
</dependency>
<!--日期格式化工具-->
<dependency>
<groupId>joda-time</groupId>
<artifactId>joda-time</artifactId>
<version>2.10.1</version>
</dependency>
<!--test-->
<dependency>
<groupId>junit</groupId>
<artifactId>junit</artifactId>
<version>4.12</version>
</dependency>
</dependencies>
03 | 07 版本的寫,就是對象不同,方法一樣的!
需要注意:2003 版本和 2007 版本存在兼容性的問題!03最多只有 65535 行!
1、工作簿:
2、工作表:
3、行:
4、列:
03版本:
@Test
public void testWrite03() throws Exception {
// 1、創建一個工作簿
Workbook workbook = new HSSFWorkbook();
// 2、創建一個工作表
Sheet sheet = workbook.createSheet("狂神觀眾統計表");
// 3、創建一個行 (1,1)
Row row1 = sheet.createRow(0);
// 4、創建一個單元格
Cell cell11 = row1.createCell(0);
cell11.setCellValue("今日新增觀眾");
// (1,2)
Cell cell12 = row1.createCell(1);
cell12.setCellValue(666);
// 第二行 (2,1)
Row row2 = sheet.createRow(1);
Cell cell21 = row2.createCell(0);
cell21.setCellValue("統計時間");
// (2,2)
Cell cell22 = row2.createCell(1);
String time = new DateTime().toString("yyyy-MM-dd HH:mm:ss");
cell22.setCellValue(time);
// 生成一張表(IO 流) 03 版本就是使用 xls結尾!
FileOutputStream fileOutputStream = new FileOutputStream(PATH + "狂神觀眾統計表03.xls");
// 輸出
workbook.write(fileOutputStream);
// 關閉流
fileOutputStream.close();
System.out.println("狂神觀眾統計表03 生成完畢!");
}
07版本:
@Test
public void testWrite07() throws Exception {
// 1、創建一個工作簿 07
Workbook workbook = new XSSFWorkbook();
// 2、創建一個工作表
Sheet sheet = workbook.createSheet("狂神觀眾統計表");
// 3、創建一個行 (1,1)
Row row1 = sheet.createRow(0);
// 4、創建一個單元格
Cell cell11 = row1.createCell(0);
cell11.setCellValue("今日新增觀眾");
// (1,2)
Cell cell12 = row1.createCell(1);
cell12.setCellValue(666);
// 第二行 (2,1)
Row row2 = sheet.createRow(1);
Cell cell21 = row2.createCell(0);
cell21.setCellValue("統計時間");
// (2,2)
Cell cell22 = row2.createCell(1);
String time = new DateTime().toString("yyyy-MM-dd HH:mm:ss");
cell22.setCellValue(time);
// 生成一張表(IO 流) 03 版本就是使用 xlsx結尾!
FileOutputStream fileOutputStream = new FileOutputStream(PATH + "狂神觀眾統計表07.xlsx");
// 輸出
workbook.write(fileOutputStream);
// 關閉流
fileOutputStream.close();
System.out.println("狂神觀眾統計表03 生成完畢!");
}
注意對象的一個區別,文件后綴!
數據批量導入!
大文件寫HSSF
缺點:最多只能處理65536行,否則會拋出異常
java.lang.IllegalArgumentException: Invalid row number (65536) outside allowable range (0..65535)
優點:過程中寫入緩存,不操作磁盤,最后一次性寫入磁盤,速度快
@Test
public void testWrite03BigData() throws IOException {
// 時間
long begin = System.currentTimeMillis();
// 創建一個薄
Workbook workbook = new HSSFWorkbook();
// 創建表
Sheet sheet = workbook.createSheet();
// 寫入數據
for (int rowNum = 0; rowNum < 65537; rowNum++) {
Row row = sheet.createRow(rowNum);
for (int cellNum = 0; cellNum < 10 ; cellNum++) {
Cell cell = row.createCell(cellNum);
cell.setCellValue(cellNum);
}
}
System.out.println("over");
FileOutputStream outputStream = new FileOutputStream(PATH + "testWrite03BigData.xls");
workbook.write(outputStream);
outputStream.close();
long end = System.currentTimeMillis();
System.out.println((double) (end-begin)/1000);
}
大文件寫XSSF
缺點:寫數據時速度非常慢,非常耗內存,也會發生內存溢出,如100萬條
優點:可以寫較大的數據量,如20萬條
@Test
public void testWrite07BigData() throws IOException {
// 時間
long begin = System.currentTimeMillis();
// 創建一個薄
Workbook workbook = new XSSFWorkbook();
// 創建表
Sheet sheet = workbook.createSheet();
// 寫入數據
for (int rowNum = 0; rowNum < 100000; rowNum++) {
Row row = sheet.createRow(rowNum);
for (int cellNum = 0; cellNum < 10 ; cellNum++) {
Cell cell = row.createCell(cellNum);
cell.setCellValue(cellNum);
}
}
System.out.println("over");
FileOutputStream outputStream = new FileOutputStream(PATH + "testWrite07BigData.xlsx");
workbook.write(outputStream);
outputStream.close();
long end = System.currentTimeMillis();
System.out.println((double) (end-begin)/1000);
}
大文件寫SXSSF
優點:可以寫非常大的數據量,如100萬條甚至更多條,寫數據速度快,占用更少的內存
注意:
過程中會產生臨時文件,需要清理臨時文件
默認由100條記錄被保存在內存中,如果超過這數量,則最前面的數據被寫入臨時文件
如果想自定義內存中數據的數量,可以使用new SXSSFWorkbook ( 數量 )
@Test
public void testWrite07BigDataS() throws IOException {
// 時間
long begin = System.currentTimeMillis();
// 創建一個薄
Workbook workbook = new SXSSFWorkbook();
// 創建表
Sheet sheet = workbook.createSheet();
// 寫入數據
for (int rowNum = 0; rowNum < 100000; rowNum++) {
Row row = sheet.createRow(rowNum);
for (int cellNum = 0; cellNum < 10 ; cellNum++) {
Cell cell = row.createCell(cellNum);
cell.setCellValue(cellNum);
}
}
System.out.println("over");
FileOutputStream outputStream = new FileOutputStream(PATH + "testWrite07BigDataS.xlsx");
workbook.write(outputStream);
outputStream.close();
// 清除臨時文件!
((SXSSFWorkbook) workbook).dispose();
long end = System.currentTimeMillis();
System.out.println((double) (end-begin)/1000);
}
SXSSFWorkbook-來至官方的解釋:實現“BigGridDemo”策略的流式XSSFWorkbook版本。這允許寫入非常大的文件而不會耗盡內存,因為任何時候只有可配置的行部分被保存在內存中。
請注意,仍然可能會消耗大量內存,這些內存基於您正在使用的功能,例如合並區域,注釋......仍然只存儲在內存中,因此如果廣泛使用,可能需要大量內存。
再使用 POI的時候!內存問題 Jprofile!
2、POI-Excel讀
03|07
03版本
@Test
public void testRead03() throws Exception {
// 獲取文件流
FileInputStream inputStream = new FileInputStream(PATH + "kuang-poi狂神觀眾統計表03.xls");
// 1、創建一個工作簿。 使用excel能操作的這邊他都可以操作!
Workbook workbook = new HSSFWorkbook(inputStream);
// 2、得到表
Sheet sheet = workbook.getSheetAt(0);
// 3、得到行
Row row = sheet.getRow(0);
// 4、得到列
Cell cell = row.getCell(1);
// 讀取值的時候,一定需要注意類型!
// getStringCellValue 字符串類型
// System.out.println(cell.getStringCellValue());
System.out.println(cell.getNumericCellValue());
inputStream.close();
}
07版本
@Test
public void testRead07() throws Exception {
// 獲取文件流
FileInputStream inputStream = new FileInputStream(PATH + "kuang-poi狂神觀眾統計表07.xlsx");
// 1、創建一個工作簿。 使用excel能操作的這邊他都可以操作!
Workbook workbook = new XSSFWorkbook(inputStream);
// 2、得到表
Sheet sheet = workbook.getSheetAt(0);
// 3、得到行
Row row = sheet.getRow(0);
// 4、得到列
Cell cell = row.getCell(1);
// 讀取值的時候,一定需要注意類型!
// getStringCellValue 字符串類型
// System.out.println(cell.getStringCellValue());
System.out.println(cell.getNumericCellValue());
inputStream.close();
}
注意獲取值的類型即可
讀取不同的數據類型(最麻煩的就是這里了!)
@Test
public void testCellType() throws Exception {
// 獲取文件流
FileInputStream inputStream = new FileInputStream(PATH + "明細表.xls");
// 創建一個工作簿。 使用excel能操作的這邊他都可以操作!
Workbook workbook = new HSSFWorkbook(inputStream);
Sheet sheet = workbook.getSheetAt(0);
// 獲取標題內容
Row rowTitle = sheet.getRow(0);
if (rowTitle!=null) {
// 一定要掌握
int cellCount = rowTitle.getPhysicalNumberOfCells();
for (int cellNum = 0; cellNum < cellCount; cellNum++) {
Cell cell = rowTitle.getCell(cellNum);
if (cell!=null){
int cellType = cell.getCellType();
String cellValue = cell.getStringCellValue();
System.out.print(cellValue + " | ");
}
}
System.out.println();
}
// 獲取表中的內容
int rowCount = sheet.getPhysicalNumberOfRows();
for (int rowNum = 1; rowNum < rowCount ; rowNum++) {
Row rowData = sheet.getRow(rowNum);
if (rowData!=null){
// 讀取列
int cellCount = rowTitle.getPhysicalNumberOfCells();
for (int cellNum = 0; cellNum < cellCount ; cellNum++) {
System.out.print("[" +(rowNum+1) + "-" + (cellNum+1) + "]");
Cell cell = rowData.getCell(cellNum);
// 匹配列的數據類型
if (cell!=null) {
int cellType = cell.getCellType();
String cellValue = "";
switch (cellType) {
case HSSFCell.CELL_TYPE_STRING: // 字符串
System.out.print("【String】");
cellValue = cell.getStringCellValue();
break;
case HSSFCell.CELL_TYPE_BOOLEAN: // 布爾
System.out.print("【BOOLEAN】");
cellValue = String.valueOf(cell.getBooleanCellValue());
break;
case HSSFCell.CELL_TYPE_BLANK: // 空
System.out.print("【BLANK】");
break;
case HSSFCell.CELL_TYPE_NUMERIC: // 數字(日期、普通數字)
System.out.print("【NUMERIC】");
if (HSSFDateUtil.isCellDateFormatted(cell)){ // 日期
System.out.print("【日期】");
Date date = cell.getDateCellValue();
cellValue = new DateTime(date).toString("yyyy-MM-dd");
}else {
// 不是日期格式,防止數字過長!
System.out.print("【轉換為字符串輸出】");
cell.setCellType(HSSFCell.CELL_TYPE_STRING);
cellValue = cell.toString();
}
break;
case HSSFCell.CELL_TYPE_ERROR:
System.out.print("【數據類型錯誤】");
break;
}
System.out.println(cellValue);
}
}
}
}
inputStream.close();
}
注意,類型轉換問題;
計算公式 (了解即可!)
@Test
public void testFormula() throws Exception {
FileInputStream inputStream = new FileInputStream(PATH + "公式.xls");
Workbook workbook = new HSSFWorkbook(inputStream);
Sheet sheet = workbook.getSheetAt(0);
Row row = sheet.getRow(4);
Cell cell = row.getCell(0);
// 拿到計算公司 eval
FormulaEvaluator FormulaEvaluator = new HSSFFormulaEvaluator((HSSFWorkbook)workbook);
// 輸出單元格的內容
int cellType = cell.getCellType();
switch (cellType){
case Cell.CELL_TYPE_FORMULA: // 公式
String formula = cell.getCellFormula();
System.out.println(formula);
// 計算
CellValue evaluate = FormulaEvaluator.evaluate(cell);
String cellValue = evaluate.formatAsString();
System.out.println(cellValue);
break;
}
}
二、EasyExcel操作
導入依賴
<dependency>
<groupId>com.alibaba</groupId>
<artifactId>easyexcel</artifactId>
<version>2.2.0-beta2</version>
</dependency>
1、寫入測試
https://www.yuque.com/easyexcel/doc/read
1.1、創建對象
@Data
public class DemoData {
@ExcelProperty("字符串標題")
private String string;
@ExcelProperty("日期標題")
private Date date;
@ExcelProperty("數字標題")
private Double doubleData;
/**
* 忽略這個字段
*/
@ExcelIgnore
private String ignore;
}
1.2、拿到實體類里的值
String PATH ="D:\\Project\\IdeaProject\\Bilibili-狂神說java\\";
private List<DemoData> data() {
List<DemoData> list = new ArrayList<DemoData>();
for (int i = 0; i < 10; i++) {
DemoData data = new DemoData();
data.setString("字符串" + i);
data.setDate(new Date());
data.setDoubleData(0.56);
list.add(data);
}
return list;
}
1.3、將list寫入Excel
// 根據list 寫入excel
@Test
public void simpleWrite() {
// 寫法1
String fileName = PATH + "EasyTest.xlsx";
// 這里 需要指定寫用哪個class去寫,然后寫到第一個sheet,名字為模板 然后文件流會自動關閉
// write (fileName, 格式類)
// sheet (表明)
// doWrite (數據)
EasyExcel.write(fileName, DemoData.class).sheet("模板").doWrite(data());
}
2、讀取測試
https://www.yuque.com/easyexcel/doc/read
2.1、對象
2.2、監聽器
// 有個很重要的點 DemoDataListener 不能被spring管理,要每次讀取excel都要new,然后里面用到spring可以構造方法傳進去
public class DemoDataListener extends AnalysisEventListener<DemoData> {
private static final Logger LOGGER = LoggerFactory.getLogger(DemoDataListener.class);
private static final int BATCH_COUNT = 5;
List<DemoData> list = new ArrayList<DemoData>();
private DemoDAO demoDAO;
public DemoDataListener() {
// 這里是demo,所以隨便new一個。實際使用如果到了spring,請使用下面的有參構造函數
demoDAO = new DemoDAO();
}
public DemoDataListener(DemoDAO demoDAO) {
this.demoDAO = demoDAO;
}
// 讀取數據會執行 invoke 方法
// DemoData 類型
// AnalysisContext 分析上問
@Override
public void invoke(DemoData data, AnalysisContext context) {
System.out.println(JSON.toJSONString(data));
list.add(data);
// 達到BATCH_COUNT了,需要去存儲一次數據庫,防止數據幾萬條數據在內存,容易OOM
if (list.size() >= BATCH_COUNT) {
saveData(); // 持久化邏輯!
// 存儲完成清理 list
list.clear();
}
}
/**
* 所有數據解析完成了 都會來調用
*
* @param context
*/
@Override
public void doAfterAllAnalysed(AnalysisContext context) {
// 這里也要保存數據,確保最后遺留的數據也存儲到數據庫
saveData();
LOGGER.info("所有數據解析完成!");
}
/**
* 加上存儲數據庫
*/
private void saveData() {
LOGGER.info("{}條數據,開始存儲數據庫!", list.size());
demoDAO.save(list);
LOGGER.info("存儲數據庫成功!");
}
}
2.3、持久層
/**
* 假設這個是你的DAO存儲。當然還要這個類讓spring管理,當然你不用需要存儲,也不需要這個類。
**/
public class DemoDAO {
public void save(List<DemoData> list) {
// 持久化操作!
// 如果是mybatis,盡量別直接調用多次insert,自己寫一個mapper里面新增一個方法batchInsert,所有數據一次性插入
}
}
2.4、測試代碼
@Test
public void simpleRead() {
// 有個很重要的點 DemoDataListener 不能被spring管理,要每次讀取excel都要new,然后里面用到spring可以構造方法傳進去
// 寫法1:
String fileName = PATH + "EasyTest.xlsx";
// 這里 需要指定讀用哪個class去讀,然后讀取第一個sheet 文件流會自動關閉
// 重點注意讀取的邏輯 DemoDataListener
EasyExcel.read(fileName, DemoData.class, new DemoDataListener()).sheet().doRead();
}
固定套路:
1、寫入,固定類格式進行寫入
2、讀取,根據監聽器設置的規則進行讀取!
小結-學習方式
了解,面向對象的思想,學會面向接口編程!
理解使用測試API!
作業:把EasyExcel 的所有api都測試一下(2~3小時!)