Troubleshooting OpenStack 癱瘓 - 每天5分鍾玩轉 OpenStack(160)


 

這是 OpenStack 實施經驗分享系列的第 10 篇。

是軟件就會有 bug,OpenStack 也不例外,只要用它就一定會遇到故障。Troubleshooting(故障排除)是運維 OpenStack 等開源項目的重要技能,遇到問題后一定要借助社區的力量定位、搜索、分析並解決問題。

下面 CloudMan 將分享一個真實的案例,還原當時 Troubleshooting 的過程,希望能給大家一些啟發。


問題描述


某天客戶的 OpenStack 突然全線癱瘓:任何操作都無法正常完成,一直處於正在執行狀態,界面上也不報錯,就是無法完成操作。


問題分析


這是一個全局性的問題,首先查看 nova 日志,無報錯,再看 MySQL 和 RabbitMQ 日志,在 RabbitMQ 中發現大量重復報錯:


1.png


一直報 reply_529af7a7c3784c2d9dc5e72c603024a5 這個 exchange 找不到。 這些 reply_XXX 的都是 OpenStack 自己維護的,之前運行得好好的,為什么突然找不到,應該是發生了異常,跟配置沒有關系,估計是 bug。

先 google 一下吧。搜索技術問題,google 是首選,翻不了牆就用 bing,度娘嘛還是讓她專注中文吧 :-)


這里貼出 bing 的搜索結果:



看上去第二個比較靠譜,點進去發現跟我們的情況完全一樣,而且還提到一個相關 bug。


瀏覽一下 bug 的內容,確實是我們遇到的問題,這是一個 oslo.messaging 的 bug,而且已經 fix 了。



因為客戶 OpenStack 版本是 kilo, 所以點擊 kilo 對應的 review 鏈接看看 fix 都修改了哪些地方。



一共改了兩個文件,點開 amqpdriver.py 的鏈接,可以看到 diff。


對比客戶系統 /usr/local/lib/python2.7/dist-packages/oslo_messaging/_drivers/amqpdriver.py 文件內容,確實是 fix 之前的版本。


問題確定了,解決辦法也有了:更新 olso.messageing 包


解決問題


OpenStack 的源代碼是在 github 上維護的,每個模塊有自己的 repository。 oslo.messageing 的項目主頁是 https://github.com/openstack/oslo.messaging

因為我們目前的版本是 kilo,所以要找 oslo.messaging 在 kilo 上的最新版本。


在 Tags 中,我們看到有 kilo-eol,eol 的意思是 “end of life”,是 kilo 的最終版本了。



可以再次確認,kilo-eol 確實包含了我們想要的 fix。后面的工作就很直接了:


  1. 下載 oslo.messaging 代碼庫。

  2. 安裝 kilo-eol 版本。

  3. 重啟相關 OpenStack 相關服務。

下節我們會詳細討論如何更新 OpenStack 組件。


由於 oslo.messaging 是基礎組件,幾乎所有服務都會用到,所以不得不更新每一個節點並重啟 OpenStack。工作量雖然大些,但問題終於解決了。


二維碼+指紋.png


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM