google cloud storage products


https://cloud.google.com/products/storage/

 

BigTable

Cloud Bigtable 是 Google 面向大數據領域的 NoSQL 數據庫服務。它也是為 Google 搜索、Analytics(分析)、地圖和 Gmail 等眾多核心 Google 服務提供支撐的數據庫。

https://cloud.google.com/bigtable/docs/?_ga=2.253537231.-792515609.1538018833

Cloud Bigtable 是稀疏填充的表,可以擴展到數十億行和數千列,可讓您存儲 TB 級甚至是 PB 級的數據。每行中都會有一個被編入索引的值;這個值稱為行鍵。Cloud Bigtable 非常適合以非常低的延遲存儲大量單鍵數據。它可以低延遲支持高讀寫吞吐量,是 MapReduce 操作的理想數據源。

適合的場景

如果應用需要非常高的吞吐量和可擴展性來處理非結構化鍵/值數據,而數據中的每個值通常不超過 10 MB,使用 Cloud Bigtable 非常適合。Cloud Bigtable 還非常適合作為批量 MapReduce 操作、流處理/分析和機器學習應用的存儲引擎。

 

Datastore

Firestore

  • 用戶生成的內容
  • 通過移動網絡上傳的內容

Cloud Firestore 是一種靈活且可擴展的數據庫,適用於在 Firebase 和 Google Cloud Platform 上進行移動、網頁和服務器開發。與 Firebase 實時數據庫一樣,它可以通過實時偵聽器使您的數據在各個客戶端應用之間保持同步,並為移動和網頁應用提供離線支持,以幫助您構建無論網絡延遲時間或互聯網連接狀況如何都能快速響應的應用。Cloud Firestore 還提供與其他 Firebase 和 Google Cloud Platform 產品(包括 Cloud Functions)的無縫集成。

 

永久性磁盤(塊存儲)

  • 虛擬機磁盤
  • 在多個虛擬機之間共享只讀數據
  • 為運行中的虛擬機快速創建耐久備份
  • 數據庫的本地存儲空間

https://cloud.google.com/persistent-disk/

Google 永久性磁盤是適用於 Google Cloud Platform 的一種耐用的高性能塊存儲服務。永久性磁盤提供 SSD 和 HDD 存儲空間,兩者都可以關聯到 Google Compute Engine 或 Google Kubernetes Engine 中運行的實例。存儲卷可以透明地調整大小、快速備份,並支持多個讀取器同時讀取

regional persistent disk

regional persistent disks provide durable storage and replication of data between two zones in the same region.

If you are designing robust systems on Compute Engine, consider using regional persistent disks to maintain high availability for resources across multiple zones. Regional persistent disks provide synchronous replication for workloads that might not have application-level replication.

Regional persistent disks are designed for workloads that require redundancy across multiple zones with failover capabilities. 

A write is acknowledged back to a VM only when it is durably persisted in both replicas. If one of the replicas is unavailable, Compute Engine only writes to the healthy replica. When the unhealthy replica is back up (as detected by Compute Engine), then it is transparently brought in sync with the healthy replica and the fully synchronous mode of operation resumes. This operation is transparent to a VM.

In the rare event both replicas become unavailable at the same time, or the healthy replica becomes unavailable while another one is being brought into sync, the corresponding disk becomes unavailable.

Google Compute Engine支持的存儲類型對比

 



地區標准
永久性磁盤
區域
永久性
磁盤
地區 SSD
永久性磁盤
區域
SSD 永久性
磁盤
本地 SSD Cloud Storage 存儲分區
存儲類型 高效可靠的塊存儲 在區域中兩個地區間進行同步復制的高效可靠的塊存儲 快速、可靠的塊存儲 在區域中兩個地區間進行同步復制的快速可靠的塊存儲 高性能本地塊存儲 經濟實惠的對象存儲 
每個實例的最大空間 64 TB 64 TB 64 TB 64 TB 3 TB 幾乎無限 
訪問范圍 地區 地區 地區 地區 實例 全球 
數據冗余 地區 多地區 地區 多地區 區域或多區域 
靜態加密 有 
自定義加密密鑰 有 
支持的機器類型 所有機器類型 所有機器類型 所有機器類型 所有機器類型 大多數機器類型 所有機器類型 

 

 塊存儲性能指標

 



地區標准
永久性磁盤
區域
永久性
磁盤
地區
SSD 永久性磁盤
區域
SSD 永久性
磁盤
本地 SSD (SCSI) 本地 SSD (NVMe)
最大持續 IOPS
讀取 IOPS/GB 0.75 0.75 30 30 266.7 453.3
寫入 IOPS/GB) 1.5 1.5 30 30 186.7 240
讀取 IOPS/實例 3000 3000 15,000 - 60,000* 15,000 - 60,000* 400,000 680,000
寫入 IOPS/實例 15000 15000 15,000 - 30,000* 15,000 - 30,000* 280,000 360,000
最大持續吞吐量 (MB/s)
讀取吞吐量/GB 0.12 0.12 0.48 0.48 1.04 1.77
寫入吞吐量/GB 0.12 0.12 0.48 0.48 0.73 0.94
讀取吞吐量/實例 180 180 240 - 1200* 240 - 1200* 1,560 2,650
寫入吞吐量/實例 120 120 240 - 400* 120 - 200* 1,090 1,400

Storage(對象存儲)

  • 流式視頻
  • 圖片與 Web 資源庫
  • 數據湖
  • 備份
  • 媒體內容歸檔
  • 長尾內容
  • 遵守法規要求

https://cloud.google.com/storage/docs/

特性

特性 內容
加密

Cloud Storage 在將數據寫入磁盤之前,始終會在服務器端對您的數據進行加密,無需額外費用。除了此標准行為外,您在使用 Cloud Storage 時,還可以使用其他方法加密數據。以下內容總結了您可以使用的加密選項:

  • 服務器端加密:在 Cloud Storage 接收數據之后、在將數據寫入磁盤並存儲之前執行的加密。

    • 客戶提供的加密密鑰:您可以為服務器端加密功能創建和管理您自己的加密密鑰,這些密鑰充當標准 Cloud Storage 加密基礎之上的額外加密層。

    • 客戶管理的加密密鑰:您可以使用 Cloud Key Management Service 生成和管理加密密鑰,這些密鑰充當標准 Cloud Storage 加密基礎之上的額外加密層。

  • 客戶端加密:在將數據發送到 Cloud Storage 之前執行的加密。此類數據在到達 Cloud Storage 時已進行加密,但同樣會進行服務器端加密。

 

對象元數據

 元數據用於標識對象的屬性,並指定了訪問對象時應如何處理對象。元數據以鍵值對的形式存在。

元數據的可變性各不相同:有些元數據您隨時可以修改,有些元數據您只能在創建對象時設置,有些元數據您只能查看。

 

 

Cloud Pub/Sub Notifications for Cloud Storage

 Cloud Pub/Sub Notifications 將存儲分區中對象的相關更改信息發送到 Cloud Pub/Sub(隨后,信息以消息的形式添加到您選擇的 Cloud Pub/Sub 主題中)。例如,您可以跟蹤存儲分區中創建和刪除的對象。每個通知都包含相應的信息,這些信息說明了觸發通知的事件以及發生更改的對象。
 

對象版本控制

 

為了支持檢索已刪除或覆蓋的對象,Cloud Storage 提供了對象版本控制功能。本頁面介紹了此功能以及使用此功能時可用的選項。要了解如何啟用和使用對象版本控制,請參閱使用對象版本控制

啟用對象版本控制可防止 Cloud Storage 的數據被覆蓋或意外刪除。啟用對象版本控制會增加存儲費用,可以通過配置對象生命周期管理刪除舊對象版本,以在一定程度上緩解存儲費用增加。

生命周期管理配置   

您可以將生命周期管理配置分配給存儲分區。該配置包含一組適用於存儲分區中的當前和未來對象的規則。當對象滿足其中一個規則的條件時,Cloud Storage 會自動對該對象執行指定的操作。以下是一些示例用例:

  • 將超過 365 天的對象的存儲類別降級為 Coldline 存儲空間。
  • 刪除 2013 年 1 月 1 日之前創建的對象。
  • 在啟用版本控制的存儲分區中僅保留每個對象的 3 個最新版本。
 請求者付款  

每次用戶訪問存儲分區或對象等 Cloud Storage 資源時,都會產生與發出和執行請求關聯的費用。此類費用包括:

通常,資源的項目所有者需支付這些訪問費用;但是,如果請求者隨其請求一起提供結算項目,則會針對請求者的項目進行計費。在您的存儲分區上啟用“請求者付款”功能后,您可以要求請求者在其請求中包含一個結算項目,從而對請求者的項目進行計費。在某些情況下,啟用請求者付款功能能夠為您帶來便利;例如,您想要向用戶提供大量數據,但您不希望承擔他們訪問這些數據所產生的費用,在這種情況下,建議您啟用此功能。

 存儲分區鎖定功能  

您可以在創建新存儲分區時包含保留政策,也可以將保留政策添加到現有存儲分區。為存儲分區設置保留政策可確保在達到保留政策所定義的保留期限之前,不能刪除或覆蓋存儲分區中的所有當前和未來的對象。嘗試刪除或覆蓋尚未到達保留期限的對象會導致失敗,並返回 403 - retentionPolicyNotMet 錯誤。

例如,假設在存儲分區有兩個對象:對象 A 是一個月前添加的,對象 B 是兩年前添加的。如果您向該存儲分區應用保留期限為 1 年的保留政策,則無法在將來 11 個月內刪除或覆蓋對象 A:它當前的存在時間是 1 個月,必須至少達到 1 年才能被刪除或覆蓋。而對象 B 可以被立即刪除或覆蓋,因為其存在時間超過了保留期限。如果您決定覆蓋對象 B,則此新版本的對象 B 的存在時間將從 0 年開始重新計算。

為了幫助您跟蹤單個對象何時可以被刪除,具有保留政策的存儲分區中的每個對象都具有保留失效時間的元數據。此元數據顯示對象達到保留期限的日期和時間。

保留期限以秒為單位。但為了方便,某些工具(如 Google Cloud Platform Console 和 gsutil)也允許您使用其他時間單位設置和查看保留期限。

該功能適用於醫療或金融等,有存檔時限審計要求的存儲內容。

 

對 gzip 壓縮文件進行轉碼

 在 Cloud Storage 中,轉碼是指系統在將文件傳送給請求者之前自動更改文件的壓縮狀態。如果轉碼生成的文件是 gzip 壓縮文件,則可視為壓縮式轉碼,而如果生成的文件已不再是 gzip 壓縮文件,則可視為解壓縮式轉碼。Cloud Storage 支持解壓縮形式的轉碼。

跨源資源共享 (CORS)

同源政策是在客戶端網絡應用(比如網絡瀏覽器)上實施的安全策略,用於防止來自不同來源的資源之間發生交互。雖然這種安全措施可用於防止惡意行為,但也可能會阻止已知來源之間開展的合法交互。例如,App Engine 上托管的頁面(網址為 example.appspot.com)中的腳本可能需要使用存儲在 Cloud Storage 存儲分區(網址為 example.storage.googleapis.com)中的資源。但是,由於瀏覽器會將它們視為兩個不同的來源,因此不允許來自 example.appspot.com 的腳本從 example.storage.googleapis.com 提取資源。

跨源資源共享 (CORS) 規范是由萬維網聯盟 (W3C) 制定的,該規范旨在克服這一限制。Cloud Storage 支持此規范,這意味着,它允許您將存儲分區配置為支持 CORS。在上述示例中,您可以配置 example.storage.googleapis.com 存儲分區,以便瀏覽器可以與來自 example.appspot.com 的腳本共享該存儲分區的資源。

 

Filestore

  • 主目錄
  • 渲染和媒體處理
  • 應用遷移

https://cloud.google.com/filestore/docs/

特性

特性 描述
訪問控制

Cloud Filestore 不支持 Kerberos,以保護對 Cloud Filestore 實例的訪問。請改用下面描述的 Linux 和 Cloud Identity and Access Management (IAM) 選項。

Cloud Filestore 文件共享具有固定 /etc/exports 設置。(與nfsd的設置完全一致)

IAM 權限只能控制對 Cloud Filestore 操作(例如創建 Cloud Filestore 實例)的訪問權限。Linux 權限則決定對 Cloud Filestore 文件共享上的操作(如讀取或執行)的訪問權限。

網絡

定 VPC 網絡中的所有內部 IP 地址都可以連接到 Cloud Filestore 實例。

如果您使用的是除默認網絡以外的 VPC 網絡,則可能需要創建防火牆規則,以啟用與 Cloud Filestore 實例的通信。

可靠性

Cloud Filestore 內置地區級(同城)存儲冗余功能,可保護您的數據免受設備故障的影響,並確保數據在數據中心維護期間的可用性。

Cloud Filestore 實例位於區域內的各個地區中。區域是指您可以在其中運行資源的特定地理位置。每個區域都被划分為幾個地區。例如,美國中部的 us-central1 區域包含 us-central1-a、us-central1-b、us-central1-c 和 us-central1-f 地區。

可用性與恢復 如果發生需要 GCP 重啟 Cloud Filestore 實例的可恢復錯誤,該實例應在兩分鍾內再次可用。如果 Cloud Filestore 實例所在的地區處於關閉狀態,則該實例不可用
支持協議 Cloud Filestore 在 Cloud Filestore 實例上使用 NFSv3,並支持任何與 NFSv3 兼容的客戶端。

性能指標

 

 



標准 高級
最大讀取吞吐量 100 MB/秒 (1 TB)、180 MB/秒(10 TB 以上) 1.2 GB/秒
最大寫入吞吐量 100 MB/秒 (1 TB)、120 MB/秒(10 TB 以上) 350 MB/秒
最大 IOPS 5000 60000
每個共享的最大容量 63.9 TB 63.9 TB
客戶實現的典型可用性 99.9% 99.9%
協議 NFSv3 NFSv3

 

層級 大小 (TB) 讀取 (Tput) 讀取 (IOPS) 寫入 (Tput) 寫入 (IOPS)
標准 1 100 MB/秒 600 100 MB/秒 1000
標准 10+ 180 MB/秒 1000 120 MB/秒 5000
優質 2.5+ 1.2 GB/秒 60000 350 MB/秒 25000

性能測試指令

以下示例對最大寫入吞吐量執行基准化分析:

 
fio --ioengine=sync --direct=0 \
--fsync_on_close=1 --randrepeat=0 --nrfiles=1  --name=seqwrite --rw=write \
--bs=1m --size=20G --end_fsync=1 --fallocate=none  --overwrite=0 --numjobs=1 \
--directory=/mnt/gcfs --loops=10

以下示例對最大寫入 IOPS 執行基准化分析:

 
fio --ioengine=sync --direct=0 \
--fsync_on_close=1 --randrepeat=0 --nrfiles=1  --name=randwrite --rw=randwrite \
--bs=4K --size=1G --end_fsync=1 --fallocate=none  --overwrite=0 --numjobs=80 \
--sync=1 --directory=/mnt/standard --loops=10

以下示例對最大讀取吞吐量執行基准化分析:

 
fio --ioengine=sync --direct=0 \
--fsync_on_close=1 --randrepeat=0 --nrfiles=1  --name=seqread --rw=read \
--bs=1m --size=240G --end_fsync=1 --fallocate=none  --overwrite=0 --numjobs=1 \
--directory=/mnt/ssd --invalidate=1 --loops=10

以下示例對最大讀取 IOPS 執行基准化分析:

fio --ioengine=sync --direct=0 \
--fsync_on_close=1 --randrepeat=0 --nrfiles=1  --name=randread --rw=randread \
--bs=4K --size=1G --end_fsync=1 --fallocate=none  --overwrite=0 --numjobs=20 \
--sync=1 --invalidate=1 --directory=/mnt/standard  --loops=10

 

ARCHIVAL CLOUD STORAGE:NEARLINE 和 COLDLINE

 

SQL

Cloud SQL 實例是全托管式 MySQL 和 PostgreSQL 關系型數據庫。Google 負責處理數據復制、補丁管理和數據庫管理等工作,以確保可用性和性能。 了解詳情

要開始使用 Cloud SQL,您可以創建一個新實例,也可以使用 Cloud SQL 將您的 SQL 數據庫遷移至 Google Cloud。

Spanner

Cloud Spanner 是一項完全托管的關系型數據庫服務,可提供全球范圍的事務一致性和高可用性。要使用 Cloud Spanner,請在項目中創建 Cloud Spanner 實例,然后設置開發環境以訪問 Cloud Spanner 並添加數據

https://cloud.google.com/spanner/?hl=zh_CN&_ga=2.13410417.-792515609.1538018833

 



CLOUD SPANNER 傳統的關系型數據庫 傳統的非關系型數據庫
架構
SQL
一致性
可用性
擴容
復制

 Memorystore

Cloud Memorystore for Redis 提供完全托管的內存存儲區,不僅具有高可用性和無縫容量調節功能,還與開源協議兼容。

使用 Cloud Memorystore for Redis 可以輕松部署、管理和監控內存存儲區。

https://cloud.google.com/memorystore/

 

Data Fusion

Fully managed, Cloud native, enterprise data integration service

Cloud Data Fusion is a fully-managed, cloud native, enterprise data integration service for quickly building and managing data pipelines. It provides a graphical interface to increase time efficiency and reduce complexity, and allows business users, developers, and data scientists to easily and reliably build scalable data integration solutions to cleanse, prepare, blend, transfer and transform data without having to wrestle with infrastructure.

https://cloud.google.com/data-fusion/docs/?hl=zh_CN&_ga=2.21229309.-792515609.1538018833

 

NetApp Cloud Volumes 

NetApp Cloud Volumes for Google Cloud Platform is a simple to consume, fully-managed cloud-native file storage service that delivers unprecedented performance to your cloud application and development environments. Cloud Volumes offers advanced data management capabilities including on-demand and scheduled Snapshots and creating new volumes from Snapshots.You get persistent storage for your cloud-native environments and the ability to migrate your enterprise applications, without adding complexity. The integration and partnership of NetApp and Google Cloud gives enterprise customers a simple, integrated experience and gives developers the tools and performance to build what's next.


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM