PHP大量數據循環時內存耗盡問題的解決方案


最近在開發一個PHP程序時遇到了下面的錯誤:

PHP Fatal error: Allowed memory size of 268 435 456 bytes exhausted

錯誤信息顯示允許的最大內存已經耗盡。遇到這樣的錯誤起初讓我很詫異,但轉眼一想,也不奇怪,因為我正在開發的這個程序是要用一個foreach循環語句在一個有4萬條記錄的表里全表搜索具有特定特征的數據,也就是說,一次要把4萬條數據取出,然后逐條檢查每天數據。可想而知,4萬條數據全部加載到內存中,內存不爆才怪。

 

畢竟編程這么多年,我隱約記得PHP里提供有非一次全部加載數據的API,是像處理流媒體那樣,隨用隨取隨丟、數據並不會積累在內存的查詢方法。經過簡單的搜索,果然在官方網站上找到的正確的用法。

這個問題在PHP的官方網站上叫緩沖查詢和非緩沖查詢(Buffered and Unbuffered queries)。 PHP的查詢缺省模式是緩沖模式。也就是說,查詢數據結果會一次全部提取到內存里供PHP程序處理。這樣給了PHP程序額外的功能,比如說,計算行數,將 指針指向某一行等。更重要的是程序可以對數據集反復進行二次查詢和過濾等操作。但這種緩沖查詢模式的缺陷就是消耗內存,也就是用空間換速度。

相對的,另外一種PHP查詢模式是非緩沖查詢,數據庫服務器會一條一條的返回數據,而不是一次全部返回,這樣的結果就是PHP程序消耗較少的內存,但卻增加了數據庫服務器的壓力,因為數據庫會一直等待PHP來取數據,一直到數據全部取完。

很顯然,緩沖查詢模式適用於小數據量查詢,而非緩沖查詢適應於大數據量查詢。

對於PHP的緩沖模式查詢大家都知道,下面列舉的例子是如何執行非緩沖查詢API。

非緩沖查詢方法一: mysqli

1
2
3
4
5
6
7
8
9
10
11
<?php
$mysqli new mysqli( "localhost" "my_user" "my_password" "world" );
$uresult $mysqli ->query( "SELECT Name FROM City" , MYSQLI_USE_RESULT);
 
if ( $uresult ) {
while ( $row $uresult ->fetch_assoc()) {
echo $row [ 'Name' ] . PHP_EOL;
}
}
$uresult ->close();
?>

 

非緩沖查詢方法二: pdo_mysql

1
2
3
4
5
6
7
8
9
10
11
<?php
$pdo new PDO( "mysql:host=localhost;dbname=world" 'my_user' 'my_pass' );
$pdo ->setAttribute(PDO::MYSQL_ATTR_USE_BUFFERED_QUERY, false);
 
$uresult $pdo ->query( "SELECT Name FROM City" );
if ( $uresult ) {
while ( $row $uresult ->fetch(PDO::FETCH_ASSOC)) {
echo $row [ 'Name' ] . PHP_EOL;
}
}
?>

 

非緩沖查詢方法三: mysql

1
2
3
4
5
6
7
8
9
10
11
<?php
$conn = mysql_connect( "localhost" "my_user" "my_pass" );
$db = mysql_select_db( "world" );
 
$uresult = mysql_unbuffered_query( "SELECT Name FROM City" );
if ( $uresult ) {
while ( $row = mysql_fetch_assoc( $uresult )) {
echo $row [ 'Name' ] . PHP_EOL;
}
}
?>

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM