Oracle單表去重復（一）

去重有兩層含義，一：是記錄完全一樣；二：是符合一定條件的認為是重復。

根據表的數量，去重可划分為：單表去重和多表關聯去重。

 

對於去重，一般最容易想到的是用distinct，而distinct只能對記錄 完全重復的記錄保留一條。

distinct使用的是二重循環的方式來去重的，如果數據量非常大的時候，會導致性能急劇下降。

例如：select distinct 字段名 from 原表;

此應用案例，主要有刪除表中的完全重復的記錄：

insert into 臨時表 select distinct 字段名 from 原表;
drop table 原表;
rename 臨時表名 to 原表名;

 

下面的是從網上找的一篇文章，在文章最后我會給出文章的出處。

而這位老兄寫了挺多，先跟作者說聲辛苦啦，俺也在加班，暫不詳細研究。詳文如下：

重復的數據可能有這樣兩種情況，第一種：表中只有某些字段一樣，第二種：兩行記錄完全一樣。
第一、對於部分字段重復數據的刪除
        先來談談如何查詢重復的數據吧。
        下面語句可以查詢出那些數據是重復的：
select 字段1,字段2,count(*) from 表名 group by 字段1,字段2 having count(*) > 1
        將上面的>號改為=號就可以查詢出沒有重復的數據了。
        想要刪除這些重復的數據，可以使用下面語句進行刪除
delete from 表名 a where 字段1,字段2 in
    (select 字段1,字段2,count(*) from 表名 group by 字段1,字段2 having count(*) > 1)
        上面的語句非常簡單，就是將查詢到的數據刪除掉。不過這種刪除執行的效率非常低，對於大數據量來說，可能會將數據庫吊死。所以我建議先將查詢到的重復的數據插入到一個臨時表中，然后對進行刪除，這樣，執行刪除的時候就不用再進行一次查詢了。如下：
CREATE TABLE 臨時表 AS
(select 字段1,字段2,count(*) from 表名 group by 字段1,字段2 having count(*) > 1)
        上面這句話就是建立了臨時表，並將查詢到的數據插入其中。
        下面就可以進行這樣的刪除操作了：
delete from 表名 a where 字段1,字段2 in (select 字段1，字段2 from 臨時表);
        這種先建臨時表再進行刪除的操作要比直接用一條語句進行刪除要高效得多。

       這個時候，大家可能會跳出來說，什么？你叫我們執行這種語句，那不是把所有重復的全都刪除嗎？而我們想保留重復數據中最新的一條記錄啊！大家不要急，下面我就講一下如何進行這種操作。
       在oracle中，有個隱藏了自動rowid，里面給每條記錄一個唯一的rowid，我們如果想保留最新的一條記錄，
我們就可以利用這個字段，保留重復數據中rowid最大的一條記錄就可以了。
       下面是查詢重復數據的一個例子：
select a.rowid,a.* from 表名 a 
where a.rowid != 
(
   select max(b.rowid) from 表名 b 
   where a.字段1 = b.字段1 and 
   a.字段2 = b.字段2 
)
       下面我就來講解一下，上面括號中的語句是查詢出重復數據中rowid最大的一條記錄。
       而外面就是查詢出除了rowid最大之外的其他重復的數據了。
       由此，我們要刪除重復數據，只保留最新的一條數據，就可以這樣寫了：
delete from 表名 a 
where a.rowid != 
(
   select max(b.rowid) from 表名 b 
   where a.字段1 = b.字段1 and 
   a.字段2 = b.字段2 
)

       順便說一下，上面語句的執行效率是很低的，可以考慮建立臨時表，講需要判斷重復的字段、rowid插入臨時表中，然后刪除的時候在進行比較。
create table 臨時表 as 
    select a.字段1,a.字段2,MAX(a.ROWID) dataid from 正式表 a GROUP BY a.字段1,a.字段2;
delete from 表名 a 
where a.rowid != 
(
   select b.dataid from 臨時表 b 
   where a.字段1 = b.字段1 and 
   a.字段2 = b.字段2 
);
commit;

第二、對於完全重復記錄的刪除
        對於表中兩行記錄完全一樣的情況，可以用下面語句獲取到去掉重復數據后的記錄：
select distinct * from 表名
可以將查詢的記錄放到臨時表中，然后再將原來的表記錄刪除，最后將臨時表的數據導回原來的表中。如下：
CREATE TABLE 臨時表 AS (select distinct * from 表名);
drop table 正式表;
insert into 正式表 (select * from 臨時表);
drop table 臨時表;

      如果想刪除一個表的重復數據，可以先建一個臨時表，將去掉重復數據后的數據導入到臨時表，然后在從
臨時表將數據導入正式表中，如下：
INSERT INTO t_table_bak
select distinct * from t_table;

文章出處：http://hi.baidu.com/zf1315/item/21a03b7fb6c7f62d5c1789d4