PostgreSQL 導入和導出 CSV 文件
# psql -d 數據庫 -U 用戶名
# \encoding
# show client_encoding;
# set client_encoding = 'iso-8859-1'; //CSV文件字符格式,不然會亂碼
# COPY 表名 FROM 'CSV文件' WITH DELIMITER ',' NULL AS '' CSV HEADER QUOTE AS '|';
# \q
***************************COPY 說明文檔*********************
COPY
名稱
COPY -- 在表和文件之間拷貝數據
語法
COPY tablename [ ( column [, ...] ) ]
FROM { 'filename' | STDIN }
[ [ WITH ]
[ BINARY ]
[ OIDS ]
[ DELIMITER [ AS ] 'delimiter' ]
[ NULL [ AS ] 'null string' ]
[ CSV [ HEADER ]
[ QUOTE [ AS ] 'quote' ]
[ ESCAPE [ AS ] 'escape' ]
[ FORCE NOT NULL column [, ...] ]
COPY { tablename [ ( column [, ...] ) ] | ( query ) }
TO { 'filename' | STDOUT }
[ [ WITH ]
[ BINARY ]
[ HEADER ]
[ OIDS ]
[ DELIMITER [ AS ] 'delimiter' ]
[ NULL [ AS ] 'null string' ]
[ CSV [ HEADER ]
[ QUOTE [ AS ] 'quote' ]
[ ESCAPE [ AS ] 'escape' ]
[ FORCE QUOTE column [, ...] ]描述
COPY 在表和文件之間交換數據。COPY TO 把一個表的所有內容都拷貝到一個文件,而 COPY FROM 從一個文件里拷貝數據到一個表里(把數據附加到表中已經存在的內容里)。COPY TO 還能拷貝 SELECT 查詢的結果。
如果聲明了一個字段列表,COPY 將只在文件和表之間拷貝已聲明字段的數據。如果表中有任何不在字段列表里的字段,那么 COPY FROM 將為那些字段插入缺省值。
帶文件名的 COPY 指示 PostgreSQL 服務器直接從文件中讀寫數據。如果聲明了文件名,那么服務器必須可以訪問該文件,而且文件名必須從服務器的角度聲明。如果指定了 STDIN 或 STDOUT ,那么數據將在客戶前端和服務器之間流動。
參數
tablename
現存表的名字(可以有模式修飾)
column
可選的待拷貝字段列表。如果沒有聲明字段列表,那么將使用所有字段。
query
一個必須用圓括弧包圍的 SELECT 或 VALUES 命令,其結果將被拷貝。
filename
輸入或輸出文件的絕對路徑。Windows 用戶可能需要使用 E'' 字符串和雙反斜線作為路徑分割符。
STDIN
聲明輸入是來自客戶端應用
STDOUT
聲明輸入前往客戶端應用
BINARY
使用二進制格式存儲和讀取,而不是以文本的方式。在二進制模式下,不能聲明 DELIMITER, NULL, CSV 選項。
OIDS
聲明為每行拷貝內部對象標識(OID)。如果為一個 query 拷貝或者沒有 OID 的表聲明了 OIDS 選項,則拋出一個錯誤。
delimiter
在文件中分隔各個字段的單個字符。在文本模式下,缺省是水平制表符,在 CSV 模式下是一個逗號。
null string
這是一個代表 NULL 值的字符串。在文本模式下缺省是 \N ,在 CSV 模式下是一個沒有引號的 NULL 。如果你不想區分 NULL 和空字符串,那么即使在文本模式下你可能也會使用一個空字符串。
【注意】在使用 COPY FROM 的時候,任何匹配這個字符串的字符串將被存儲為 NULL 值,所以你應該確保你用的字符串和 COPY TO 相同。
CSV
打開逗號分隔變量(CSV)模式
HEADER
聲明文件包含一個標題頭行,包含文件中每個字段的名字。輸出時,第一行包含表的字段名;輸入時,第一行被忽略。
quote
聲明 CSV 模式里的引號字符。缺省是雙引號。
escape
聲明在 CSV 模式下應該出現在數據里 QUOTE 字符值前面的字符。缺省是 QUOTE 值(通常是雙引號)。
FORCE QUOTE
在 CSV COPY TO 模式下,強制在每個聲明的字段周圍對所有非 NULL 值都使用引號包圍。NULL 輸出從不會被引號包圍。
FORCE NOT NULL
在 CSV COPY FROM 模式下,把聲明的每個字段都當作它們有引號包圍來處理,因此就沒有 NULL 值。對於在 CSV 模式下的缺省空字符串(''),這樣導致一個缺失的數值當作一個零長字符串輸入。
輸出
成功完成時,COPY 按照如下格式返回一個命令標簽:
COPY count其中的 count 是拷貝的行數。
注意
COPY 只能用於表,不能用於視圖。當然也可以用於 COPY (SELECT * FROM viewname) TO ...
BINARY 關鍵字將強制使用二進制對象而不是文本存儲/讀取所有數據。這樣做在一定程度上比傳統的拷貝命令快,但二進制拷貝文件在不同機器體系和 PostgreSQL 版本之間的移植性不是很好。
你對任何要 COPY TO 出來的數據必須有選取數據的權限,對任何要 COPY FROM 入數據的表必須有插入權限。
COPY 命令里面的文件必須是由服務器直接讀或寫的文件,而不是由客戶端應用讀寫。因此,它們必須位於數據庫服務器上或者可以被數據庫服務器所訪問,這些事情不應該由客戶端來做。它們必須被運行 PostgreSQL 服務器的用戶可讀或寫,而不是客戶端。只允許數據庫超級用戶 COPY 一個文件,因為它允許讀寫任意服務器有權限訪問的文件。
不要混淆 COPY 和 psql 的 \copy 指令。\copy 調用 COPY FROM STDIN 或 COPY TO STDOUT ,然后把數據抓取/存儲到一個 psql 客戶端可以訪問的文件中。因此,使用 \copy 的時候,文件訪問權限是由客戶端而不是服務器端決定的。
建議在 COPY 里的文件名字總是使用絕對路徑。在 COPY TO 的時候是由服務器強制進行的,但是對於 COPY FROM ,你的確可從一個相對路徑的文件里讀取。該路徑將解釋為相對於服務器的工作目錄(通常是數據目錄),而不是客戶端的工作目錄。
COPY FROM 會激活所有觸發器和檢查約束。不過,不會激活規則。
COPY 輸入和輸出被 DateStyle 影響。為了和其它 PostgreSQL 安裝移植(它們可能是非缺省 DateStyle 設置),應該在使用 COPY TO 前把 DateStyle 設置為 ISO 。
COPY 在第一個錯誤處停下來。這些在 COPY TO 中不應該導致問題,但在 COPY FROM 時目標表會已經接收到早先的行,這些行將不可見或不可訪問,但是仍然會占據磁盤空間。如果你碰巧拷貝大塊數據文件的話,這些東西積累起來可能會占據相當大的磁盤空間。你可以調用 VACUUM 來恢復那些磁盤空間。
文件格式
文本格式
當不帶 BINARY 或 CSV 選項使用 COPY 時,讀寫的文件是一個文本文件,每行代表表中一個行。行中的列(字段)用分隔符分開。字段值本身是由與每個字段類型相關的輸出函數生成的字符串,或者是輸入函數可接受的字符串。數據中使用特定的 NULL 字符串表示那些值為 NULL 的字段。如果輸入文件的任意行包含比預期多或者少的字段,那么 COPY FROM 將拋出一個錯誤。如果聲明了 OIDS ,那么 OID 將作為第一個字段讀寫,放在所有用戶字段前面。
數據的結束可以用一個只包含反斜杠和句點(\.)的行表示。如果從文件中讀取數據,那么數據結束的標記是不必要的,因為文件結束起的作用就很好了;但是在 3.0 之前的客戶端協議里,如果在客戶端應用之間拷貝數據,那么必須要有結束標記。
反斜杠字符(\)可以用在 COPY 里給那些會有歧義的字符進行逃逸(否則那些字符會被當做行或者字段分隔符處理)。特別是下面的字符如果是字段值的一部分時,必須前綴一個反斜杠:反斜杠本身、換行符、回車符、當前分隔符。
聲明的空字符串被 COPY TO 不加任何反斜杠發送;與之相對,COPY FROM 在刪除反斜杠之前拿它的輸入與空字符串比較。因此,像 \N 這樣的空字符串不會和實際數據值 \N 之間混淆(因為后者會表現成 \\N)。
COPY FROM 能夠識別下列特殊反斜杠序列:
序列 含義
\b 反斜杠 (ASCII 8)
\f 進紙 (ASCII 12)
\n 換行符 (ASCII 10)
\r 回車符 (ASCII 13)
\t 水平制表符 (ASCII 9)
\v 垂直制表符 (ASCII 11)
\digits 反斜杠后面跟着一到三個八進制數,表示 ASCII 值為該數的字符
\xdigits 反斜杠 x 后面跟着一個或兩個十六進制位聲明指定數值編碼的字符
目前,COPY TO 絕不會發出一個八進制或者十六進制反斜杠序列,但是它的確使用了上面列出的其它字符用於控制字符。
任何上表列出之外的其它反斜杠逃役字符將使用其字面含義。因此要小心添加不必要的反斜杠,因為這樣做可能會生成一個含有數據結束標志(\.)的字符串或 NULL(默認為 \N)。這些字符串將在識別任何其它反斜杠逃逸之前被識別。
強烈建議生成 COPY 數據的應用把換行符和回車分別轉換成 \n 和 \r 序列。目前可以用一個反斜杠和一個回車表示一個數據回車,以及用一個反斜杠和一個換行符表示一個數據換行符。不過,這樣的表示在將來的版本中可能不會被接受。並且,如果在不同機器之間傳遞 COPY 文件,也非常容易出錯(比如在 Unix 和 Windows 之間)。
COPY TO 將在每行的結尾用一個換行符(Unix 上是"\n",Windows 上是"\r\n")標記一行終止,但只是用於 COPY 到服務器文件里;為了在不同平台之間一致,COPY TO STDOUT 總是發送 "\n" 而不管服務器平台是什么。COPY FROM 可以處理那些以回車符、換行符、回車換行符作為行結束的數據。為了減少在數據中出現的未逃逸的新行或者回車導致的錯誤,如果輸入的行結尾不像上面這些符號,COPY FROM 會發出警告。
CSV 格式
這個格式用於輸入和輸出逗號分隔數值(CSV)文件格式,許多其它程序都用這個文件格式,比如電子報表。這個模式下生成並識別逗號分隔的 CSV 逃逸機制,而不是使用 PostgreSQL 標准文本模式的逃逸。
每條記錄的值都是用 DELIMITER 字符分隔的。如果數值本身包含分隔字符、QUOTE 字符、NULL 字符串、回車符、換行符,那么整個數值用 QUOTE 字符前綴和后綴(包圍),並且數值里任何 QUOTE 字符或 ESCAPE 字符都前導逃逸字符。你也可以使用 FORCE QUOTE 在輸出非 NULL 的指定字段值時強制引號包圍。
CSV 格式沒有標准的辦法區分一個 NULL 值和一個空字符串。PostgreSQL 的 COPY 通過引號包圍來處理這些。一個當作 NULL 輸出的 NULL 值是沒有引號包圍的,而匹配 NULL 字符串的數據值是用引號包圍的。因此,使用缺省設置時,一個 NULL 是寫做一個無引號包圍的空字符串,而一個空字符串寫做雙引號包圍("")。讀取數值也遵循類似的規則。你可以使用 FORCE NOT NULL 來避免為特定字段進行 NULL 比較。
因為對於 CSV 格式而言,反斜杠不是特殊字符,數據的結束標志(\.)可以作為數據值出現。為了避免任何可能的歧意,一個單獨的 \. 數據值在輸出中將被自動使用引號包圍;在輸入中,如果被引號界定,那么將不會當作數據結束標志。如果你要加載其它程序創建的、有未用引號界定字段的文件,並且其中含有 \. 值,你就必須用引號進行界定。
【注意】在 CSV 模式下,所有字符都是有效的。一個被空白包圍的引號界定數值,或者任何非 DELIMITER 字符,都會被包含這些字符。如果你從會給 CSV 行填充空白的系統里導入數據到定長字段,那么可能會導致錯誤。如果出現這種情況,你可能需要先處理一下 CSV 文件,刪除結尾空白,然后再向 PostgreSQL 里導入數據。
【注意】CSV 模式可以識別和生成引號包圍的回車和換行的 CVS 文件。因此這些文件並不像文本模式的文件那樣嚴格地每條記錄一行。
【注意】許多程序生成奇怪的並且有時候不正確的 CVS 文件,所以這個文件格式更像一種慣用格式,而不是一種標准。因此你可能碰到一些不能使用這個機制輸入的文件,而 COPY 也可能生成一些其它程序不能處理的文件。
二進制格式
在 PostgreSQL 7.4 中 COPY BINARY 的文件格式發生了變化。新格式由一個文件頭、零或多條行、文件尾組成。文件頭和數據現在是網絡字節順序。
文件頭
文件頭由 15 個字節的固定域組成,后面跟着一個變長的頭擴展區。固定域是:
簽名
11 字節的序列 PGCOPY\n\377\r\n\0(請注意字節零是簽名必須的一部分)。使用這個簽名是為了能夠很容易看出文件是否已經被一個非 8 位安全的轉換器給破壞了。這個簽名會被行尾轉換過濾器、刪除字節零、刪除高位、奇偶變化而改變。
標志域
32 位整數掩碼表示該文件格式的重要方面。位是從 0(LSB)到 31(MSB)編碼的,請注意這個域是以網絡字節順序存儲的(高位在前),后繼的整數都是如此。位 16-31 是保留用做關鍵文件格式信息的;如果閱讀器發現一個不認識的位出現在這個范圍內,那么它應該退出。位 0-15 都保留為標志向后兼容的格式使用;閱讀器可以忽略這個范圍內的不認識的位。目前只定義了一個標志位,而其它的必須是零:
Bit 16
如果為 1 ,那么在數據中包括了 OID ;如果為 0 ,則沒有。
頭擴展范圍長度
32 位整數,以字節計的頭剩余長度,不包括自身。目前,它是零,后面緊跟第一條記錄行。對該格式的更多修改都將允許額外的數據出現在頭中。閱讀器應該忽略任何它不知道該如何處理的頭擴展數據。
頭擴展數據用來保存自定義數據序列塊。這個標志域無意告訴閱讀器擴展區的內容是什么。頭擴展的具體設計內容留給以后的版本使用。
這樣設計就允許向后兼容的頭擴展(增加頭擴展塊或設置低位序標志位)以及非向后兼容的修改(設置高位標志位以標識這樣的修改,並且根據需要向擴展區域增加支持數據)。
行
每條行都以一個 16 位整數計數開頭,該計數是行中字段的數目(目前,在一個表里的每條行都有相同的計數,但可能不會永遠這樣)。然后后面不斷出現行中的各個字段,字段先是一個 32 位的長度字,后面跟着那么長的字段數據。長度字並不包括自己,並且可以為零。一個特例是:-1 表示一個 NULL 字段值。在 NULL 情況下,后面不會跟着數值字節。
在數據域之間沒有對齊填充或者任何其它額外的數據。
目前,一個 COPY BINARY 文件里的所有數據值都假設是二進制格式的(格式代碼為一)。預計將來的擴展可能增加一個頭域,允許為每個字段聲明格式代碼。
為了判斷實際行數據的正確二進制格式,你應該閱讀 PostgreSQL 源代碼,特別是該字段數據類型的 *send 和 *recv 函數(典型的函數可以在源代碼的 src/backend/utils/adt/ 目錄找到)。
如果在文件中包括了 OID ,那么該 OID 域立即跟在字段計數字后面。它是一個普通的字段,只不過它沒有包括在字段計數。但它包括長度字,這樣就允許方便的處理 4 字節和 8 字節的 OID ,並且如果某個家伙允許 OID 是可選的話,那么還可以把 OID 顯示成空。
文件尾
文件尾包括保存着 -1 的一個 16 位整數字。這樣就很容易與一條行的域計數字相區分。
如果一個域計數字既不是 -1 也不是預期的字段的數目,那么閱讀器應該報錯。這樣就提供了對丟失與數據同步的額外檢查。
例子
下面的例子把一個表拷貝到客戶端,使用豎直條(|)作為域分隔符:
COPY country TO STDOUT WITH DELIMITER '|';從文件中拷貝數據到 country 表中:
COPY country FROM '/usr1/proj/bray/sql/country_data';使用一個會被自動刪除的臨時表,把'A'開頭的國家名拷貝到一個文件里:
COPY (SELECT * FROM country WHERE country_name LIKE 'A%') TO '/usr1/proj/bray/sql/a_list_countries.copy';下面是一個可以從 STDIN 中拷貝數據到表中的例子:
AF AFGHANISTAN
AL ALBANIA
DZ ALGERIA
ZM ZAMBIA
ZW ZIMBABWE注意,每行里的空白實際上是一個水平制表符。
下面的是同樣的數據,以二進制形式輸出。這些數據是用 Unix 工具 od -c 過濾之后輸出的。該表有三個字段;第一個是 char(2) ,第二個是 text ,第三個是 integer 。所有的行在第三個域都是一個 null 值。
0000000 P G C O P Y \n 377 \r \n \0 \0 \0 \0 \0 \0
0000020 \0 \0 \0 \0 003 \0 \0 \0 002 A F \0 \0 \0 013 A
0000040 F G H A N I S T A N 377 377 377 377 \0 003
0000060 \0 \0 \0 002 A L \0 \0 \0 007 A L B A N I
0000100 A 377 377 377 377 \0 003 \0 \0 \0 002 D Z \0 \0 \0
0000120 007 A L G E R I A 377 377 377 377 \0 003 \0 \0
0000140 \0 002 Z M \0 \0 \0 006 Z A M B I A 377 377
0000160 377 377 \0 003 \0 \0 \0 002 Z W \0 \0 \0 \b Z I
0000200 M B A B W E 377 377 377 377 377 377兼容性
SQL 標准里沒有 COPY 語句。
PostgreSQL 7.3 以前使用下面的語法,現在仍然支持:
COPY [ BINARY ] tablename [ WITH OIDS ]
FROM { 'filename' | STDIN }
[ [USING] DELIMITERS 'delimiter' ]
[ WITH NULL AS 'null string' ]
COPY [ BINARY ] tablename [ WITH OIDS ]
TO { 'filename' | STDOUT }
[ [USING] DELIMITERS 'delimiter' ]
# \encoding
# show client_encoding;
# set client_encoding = 'iso-8859-1'; //CSV文件字符格式,不然會亂碼
# COPY 表名 FROM 'CSV文件' WITH DELIMITER ',' NULL AS '' CSV HEADER QUOTE AS '|';
# \q
***************************COPY 說明文檔*********************
COPY
名稱
COPY -- 在表和文件之間拷貝數據
語法
COPY tablename [ ( column [, ...] ) ]
FROM { 'filename' | STDIN }
[ [ WITH ]
[ BINARY ]
[ OIDS ]
[ DELIMITER [ AS ] 'delimiter' ]
[ NULL [ AS ] 'null string' ]
[ CSV [ HEADER ]
[ QUOTE [ AS ] 'quote' ]
[ ESCAPE [ AS ] 'escape' ]
[ FORCE NOT NULL column [, ...] ]
COPY { tablename [ ( column [, ...] ) ] | ( query ) }
TO { 'filename' | STDOUT }
[ [ WITH ]
[ BINARY ]
[ HEADER ]
[ OIDS ]
[ DELIMITER [ AS ] 'delimiter' ]
[ NULL [ AS ] 'null string' ]
[ CSV [ HEADER ]
[ QUOTE [ AS ] 'quote' ]
[ ESCAPE [ AS ] 'escape' ]
[ FORCE QUOTE column [, ...] ]描述
COPY 在表和文件之間交換數據。COPY TO 把一個表的所有內容都拷貝到一個文件,而 COPY FROM 從一個文件里拷貝數據到一個表里(把數據附加到表中已經存在的內容里)。COPY TO 還能拷貝 SELECT 查詢的結果。
如果聲明了一個字段列表,COPY 將只在文件和表之間拷貝已聲明字段的數據。如果表中有任何不在字段列表里的字段,那么 COPY FROM 將為那些字段插入缺省值。
帶文件名的 COPY 指示 PostgreSQL 服務器直接從文件中讀寫數據。如果聲明了文件名,那么服務器必須可以訪問該文件,而且文件名必須從服務器的角度聲明。如果指定了 STDIN 或 STDOUT ,那么數據將在客戶前端和服務器之間流動。
參數
tablename
現存表的名字(可以有模式修飾)
column
可選的待拷貝字段列表。如果沒有聲明字段列表,那么將使用所有字段。
query
一個必須用圓括弧包圍的 SELECT 或 VALUES 命令,其結果將被拷貝。
filename
輸入或輸出文件的絕對路徑。Windows 用戶可能需要使用 E'' 字符串和雙反斜線作為路徑分割符。
STDIN
聲明輸入是來自客戶端應用
STDOUT
聲明輸入前往客戶端應用
BINARY
使用二進制格式存儲和讀取,而不是以文本的方式。在二進制模式下,不能聲明 DELIMITER, NULL, CSV 選項。
OIDS
聲明為每行拷貝內部對象標識(OID)。如果為一個 query 拷貝或者沒有 OID 的表聲明了 OIDS 選項,則拋出一個錯誤。
delimiter
在文件中分隔各個字段的單個字符。在文本模式下,缺省是水平制表符,在 CSV 模式下是一個逗號。
null string
這是一個代表 NULL 值的字符串。在文本模式下缺省是 \N ,在 CSV 模式下是一個沒有引號的 NULL 。如果你不想區分 NULL 和空字符串,那么即使在文本模式下你可能也會使用一個空字符串。
【注意】在使用 COPY FROM 的時候,任何匹配這個字符串的字符串將被存儲為 NULL 值,所以你應該確保你用的字符串和 COPY TO 相同。
CSV
打開逗號分隔變量(CSV)模式
HEADER
聲明文件包含一個標題頭行,包含文件中每個字段的名字。輸出時,第一行包含表的字段名;輸入時,第一行被忽略。
quote
聲明 CSV 模式里的引號字符。缺省是雙引號。
escape
聲明在 CSV 模式下應該出現在數據里 QUOTE 字符值前面的字符。缺省是 QUOTE 值(通常是雙引號)。
FORCE QUOTE
在 CSV COPY TO 模式下,強制在每個聲明的字段周圍對所有非 NULL 值都使用引號包圍。NULL 輸出從不會被引號包圍。
FORCE NOT NULL
在 CSV COPY FROM 模式下,把聲明的每個字段都當作它們有引號包圍來處理,因此就沒有 NULL 值。對於在 CSV 模式下的缺省空字符串(''),這樣導致一個缺失的數值當作一個零長字符串輸入。
輸出
成功完成時,COPY 按照如下格式返回一個命令標簽:
COPY count其中的 count 是拷貝的行數。
注意
COPY 只能用於表,不能用於視圖。當然也可以用於 COPY (SELECT * FROM viewname) TO ...
BINARY 關鍵字將強制使用二進制對象而不是文本存儲/讀取所有數據。這樣做在一定程度上比傳統的拷貝命令快,但二進制拷貝文件在不同機器體系和 PostgreSQL 版本之間的移植性不是很好。
你對任何要 COPY TO 出來的數據必須有選取數據的權限,對任何要 COPY FROM 入數據的表必須有插入權限。
COPY 命令里面的文件必須是由服務器直接讀或寫的文件,而不是由客戶端應用讀寫。因此,它們必須位於數據庫服務器上或者可以被數據庫服務器所訪問,這些事情不應該由客戶端來做。它們必須被運行 PostgreSQL 服務器的用戶可讀或寫,而不是客戶端。只允許數據庫超級用戶 COPY 一個文件,因為它允許讀寫任意服務器有權限訪問的文件。
不要混淆 COPY 和 psql 的 \copy 指令。\copy 調用 COPY FROM STDIN 或 COPY TO STDOUT ,然后把數據抓取/存儲到一個 psql 客戶端可以訪問的文件中。因此,使用 \copy 的時候,文件訪問權限是由客戶端而不是服務器端決定的。
建議在 COPY 里的文件名字總是使用絕對路徑。在 COPY TO 的時候是由服務器強制進行的,但是對於 COPY FROM ,你的確可從一個相對路徑的文件里讀取。該路徑將解釋為相對於服務器的工作目錄(通常是數據目錄),而不是客戶端的工作目錄。
COPY FROM 會激活所有觸發器和檢查約束。不過,不會激活規則。
COPY 輸入和輸出被 DateStyle 影響。為了和其它 PostgreSQL 安裝移植(它們可能是非缺省 DateStyle 設置),應該在使用 COPY TO 前把 DateStyle 設置為 ISO 。
COPY 在第一個錯誤處停下來。這些在 COPY TO 中不應該導致問題,但在 COPY FROM 時目標表會已經接收到早先的行,這些行將不可見或不可訪問,但是仍然會占據磁盤空間。如果你碰巧拷貝大塊數據文件的話,這些東西積累起來可能會占據相當大的磁盤空間。你可以調用 VACUUM 來恢復那些磁盤空間。
文件格式
文本格式
當不帶 BINARY 或 CSV 選項使用 COPY 時,讀寫的文件是一個文本文件,每行代表表中一個行。行中的列(字段)用分隔符分開。字段值本身是由與每個字段類型相關的輸出函數生成的字符串,或者是輸入函數可接受的字符串。數據中使用特定的 NULL 字符串表示那些值為 NULL 的字段。如果輸入文件的任意行包含比預期多或者少的字段,那么 COPY FROM 將拋出一個錯誤。如果聲明了 OIDS ,那么 OID 將作為第一個字段讀寫,放在所有用戶字段前面。
數據的結束可以用一個只包含反斜杠和句點(\.)的行表示。如果從文件中讀取數據,那么數據結束的標記是不必要的,因為文件結束起的作用就很好了;但是在 3.0 之前的客戶端協議里,如果在客戶端應用之間拷貝數據,那么必須要有結束標記。
反斜杠字符(\)可以用在 COPY 里給那些會有歧義的字符進行逃逸(否則那些字符會被當做行或者字段分隔符處理)。特別是下面的字符如果是字段值的一部分時,必須前綴一個反斜杠:反斜杠本身、換行符、回車符、當前分隔符。
聲明的空字符串被 COPY TO 不加任何反斜杠發送;與之相對,COPY FROM 在刪除反斜杠之前拿它的輸入與空字符串比較。因此,像 \N 這樣的空字符串不會和實際數據值 \N 之間混淆(因為后者會表現成 \\N)。
COPY FROM 能夠識別下列特殊反斜杠序列:
序列 含義
\b 反斜杠 (ASCII 8)
\f 進紙 (ASCII 12)
\n 換行符 (ASCII 10)
\r 回車符 (ASCII 13)
\t 水平制表符 (ASCII 9)
\v 垂直制表符 (ASCII 11)
\digits 反斜杠后面跟着一到三個八進制數,表示 ASCII 值為該數的字符
\xdigits 反斜杠 x 后面跟着一個或兩個十六進制位聲明指定數值編碼的字符
目前,COPY TO 絕不會發出一個八進制或者十六進制反斜杠序列,但是它的確使用了上面列出的其它字符用於控制字符。
任何上表列出之外的其它反斜杠逃役字符將使用其字面含義。因此要小心添加不必要的反斜杠,因為這樣做可能會生成一個含有數據結束標志(\.)的字符串或 NULL(默認為 \N)。這些字符串將在識別任何其它反斜杠逃逸之前被識別。
強烈建議生成 COPY 數據的應用把換行符和回車分別轉換成 \n 和 \r 序列。目前可以用一個反斜杠和一個回車表示一個數據回車,以及用一個反斜杠和一個換行符表示一個數據換行符。不過,這樣的表示在將來的版本中可能不會被接受。並且,如果在不同機器之間傳遞 COPY 文件,也非常容易出錯(比如在 Unix 和 Windows 之間)。
COPY TO 將在每行的結尾用一個換行符(Unix 上是"\n",Windows 上是"\r\n")標記一行終止,但只是用於 COPY 到服務器文件里;為了在不同平台之間一致,COPY TO STDOUT 總是發送 "\n" 而不管服務器平台是什么。COPY FROM 可以處理那些以回車符、換行符、回車換行符作為行結束的數據。為了減少在數據中出現的未逃逸的新行或者回車導致的錯誤,如果輸入的行結尾不像上面這些符號,COPY FROM 會發出警告。
CSV 格式
這個格式用於輸入和輸出逗號分隔數值(CSV)文件格式,許多其它程序都用這個文件格式,比如電子報表。這個模式下生成並識別逗號分隔的 CSV 逃逸機制,而不是使用 PostgreSQL 標准文本模式的逃逸。
每條記錄的值都是用 DELIMITER 字符分隔的。如果數值本身包含分隔字符、QUOTE 字符、NULL 字符串、回車符、換行符,那么整個數值用 QUOTE 字符前綴和后綴(包圍),並且數值里任何 QUOTE 字符或 ESCAPE 字符都前導逃逸字符。你也可以使用 FORCE QUOTE 在輸出非 NULL 的指定字段值時強制引號包圍。
CSV 格式沒有標准的辦法區分一個 NULL 值和一個空字符串。PostgreSQL 的 COPY 通過引號包圍來處理這些。一個當作 NULL 輸出的 NULL 值是沒有引號包圍的,而匹配 NULL 字符串的數據值是用引號包圍的。因此,使用缺省設置時,一個 NULL 是寫做一個無引號包圍的空字符串,而一個空字符串寫做雙引號包圍("")。讀取數值也遵循類似的規則。你可以使用 FORCE NOT NULL 來避免為特定字段進行 NULL 比較。
因為對於 CSV 格式而言,反斜杠不是特殊字符,數據的結束標志(\.)可以作為數據值出現。為了避免任何可能的歧意,一個單獨的 \. 數據值在輸出中將被自動使用引號包圍;在輸入中,如果被引號界定,那么將不會當作數據結束標志。如果你要加載其它程序創建的、有未用引號界定字段的文件,並且其中含有 \. 值,你就必須用引號進行界定。
【注意】在 CSV 模式下,所有字符都是有效的。一個被空白包圍的引號界定數值,或者任何非 DELIMITER 字符,都會被包含這些字符。如果你從會給 CSV 行填充空白的系統里導入數據到定長字段,那么可能會導致錯誤。如果出現這種情況,你可能需要先處理一下 CSV 文件,刪除結尾空白,然后再向 PostgreSQL 里導入數據。
【注意】CSV 模式可以識別和生成引號包圍的回車和換行的 CVS 文件。因此這些文件並不像文本模式的文件那樣嚴格地每條記錄一行。
【注意】許多程序生成奇怪的並且有時候不正確的 CVS 文件,所以這個文件格式更像一種慣用格式,而不是一種標准。因此你可能碰到一些不能使用這個機制輸入的文件,而 COPY 也可能生成一些其它程序不能處理的文件。
二進制格式
在 PostgreSQL 7.4 中 COPY BINARY 的文件格式發生了變化。新格式由一個文件頭、零或多條行、文件尾組成。文件頭和數據現在是網絡字節順序。
文件頭
文件頭由 15 個字節的固定域組成,后面跟着一個變長的頭擴展區。固定域是:
簽名
11 字節的序列 PGCOPY\n\377\r\n\0(請注意字節零是簽名必須的一部分)。使用這個簽名是為了能夠很容易看出文件是否已經被一個非 8 位安全的轉換器給破壞了。這個簽名會被行尾轉換過濾器、刪除字節零、刪除高位、奇偶變化而改變。
標志域
32 位整數掩碼表示該文件格式的重要方面。位是從 0(LSB)到 31(MSB)編碼的,請注意這個域是以網絡字節順序存儲的(高位在前),后繼的整數都是如此。位 16-31 是保留用做關鍵文件格式信息的;如果閱讀器發現一個不認識的位出現在這個范圍內,那么它應該退出。位 0-15 都保留為標志向后兼容的格式使用;閱讀器可以忽略這個范圍內的不認識的位。目前只定義了一個標志位,而其它的必須是零:
Bit 16
如果為 1 ,那么在數據中包括了 OID ;如果為 0 ,則沒有。
頭擴展范圍長度
32 位整數,以字節計的頭剩余長度,不包括自身。目前,它是零,后面緊跟第一條記錄行。對該格式的更多修改都將允許額外的數據出現在頭中。閱讀器應該忽略任何它不知道該如何處理的頭擴展數據。
頭擴展數據用來保存自定義數據序列塊。這個標志域無意告訴閱讀器擴展區的內容是什么。頭擴展的具體設計內容留給以后的版本使用。
這樣設計就允許向后兼容的頭擴展(增加頭擴展塊或設置低位序標志位)以及非向后兼容的修改(設置高位標志位以標識這樣的修改,並且根據需要向擴展區域增加支持數據)。
行
每條行都以一個 16 位整數計數開頭,該計數是行中字段的數目(目前,在一個表里的每條行都有相同的計數,但可能不會永遠這樣)。然后后面不斷出現行中的各個字段,字段先是一個 32 位的長度字,后面跟着那么長的字段數據。長度字並不包括自己,並且可以為零。一個特例是:-1 表示一個 NULL 字段值。在 NULL 情況下,后面不會跟着數值字節。
在數據域之間沒有對齊填充或者任何其它額外的數據。
目前,一個 COPY BINARY 文件里的所有數據值都假設是二進制格式的(格式代碼為一)。預計將來的擴展可能增加一個頭域,允許為每個字段聲明格式代碼。
為了判斷實際行數據的正確二進制格式,你應該閱讀 PostgreSQL 源代碼,特別是該字段數據類型的 *send 和 *recv 函數(典型的函數可以在源代碼的 src/backend/utils/adt/ 目錄找到)。
如果在文件中包括了 OID ,那么該 OID 域立即跟在字段計數字后面。它是一個普通的字段,只不過它沒有包括在字段計數。但它包括長度字,這樣就允許方便的處理 4 字節和 8 字節的 OID ,並且如果某個家伙允許 OID 是可選的話,那么還可以把 OID 顯示成空。
文件尾
文件尾包括保存着 -1 的一個 16 位整數字。這樣就很容易與一條行的域計數字相區分。
如果一個域計數字既不是 -1 也不是預期的字段的數目,那么閱讀器應該報錯。這樣就提供了對丟失與數據同步的額外檢查。
例子
下面的例子把一個表拷貝到客戶端,使用豎直條(|)作為域分隔符:
COPY country TO STDOUT WITH DELIMITER '|';從文件中拷貝數據到 country 表中:
COPY country FROM '/usr1/proj/bray/sql/country_data';使用一個會被自動刪除的臨時表,把'A'開頭的國家名拷貝到一個文件里:
COPY (SELECT * FROM country WHERE country_name LIKE 'A%') TO '/usr1/proj/bray/sql/a_list_countries.copy';下面是一個可以從 STDIN 中拷貝數據到表中的例子:
AF AFGHANISTAN
AL ALBANIA
DZ ALGERIA
ZM ZAMBIA
ZW ZIMBABWE注意,每行里的空白實際上是一個水平制表符。
下面的是同樣的數據,以二進制形式輸出。這些數據是用 Unix 工具 od -c 過濾之后輸出的。該表有三個字段;第一個是 char(2) ,第二個是 text ,第三個是 integer 。所有的行在第三個域都是一個 null 值。
0000000 P G C O P Y \n 377 \r \n \0 \0 \0 \0 \0 \0
0000020 \0 \0 \0 \0 003 \0 \0 \0 002 A F \0 \0 \0 013 A
0000040 F G H A N I S T A N 377 377 377 377 \0 003
0000060 \0 \0 \0 002 A L \0 \0 \0 007 A L B A N I
0000100 A 377 377 377 377 \0 003 \0 \0 \0 002 D Z \0 \0 \0
0000120 007 A L G E R I A 377 377 377 377 \0 003 \0 \0
0000140 \0 002 Z M \0 \0 \0 006 Z A M B I A 377 377
0000160 377 377 \0 003 \0 \0 \0 002 Z W \0 \0 \0 \b Z I
0000200 M B A B W E 377 377 377 377 377 377兼容性
SQL 標准里沒有 COPY 語句。
PostgreSQL 7.3 以前使用下面的語法,現在仍然支持:
COPY [ BINARY ] tablename [ WITH OIDS ]
FROM { 'filename' | STDIN }
[ [USING] DELIMITERS 'delimiter' ]
[ WITH NULL AS 'null string' ]
COPY [ BINARY ] tablename [ WITH OIDS ]
TO { 'filename' | STDOUT }
[ [USING] DELIMITERS 'delimiter' ]
[ WITH NULL AS 'null string' ]
eg : ./psql -U cdc -d cdc -c "COPY regionlist TO stdout with csv" > /tmp/lzh.config
./psql -U cdc -d cdc -c "COPY regionlist TO stdout " > /tmp/lzh.config