< 返回列表

服務器大流量,高并發該怎么處理

發布時間:    來源:主機中國

所謂服務器大流量高并發指的是:在同時或極短時間內,有大量的請求到達服務端,每個請求都需要服務端耗費資源進行處理,并做出相應的反饋。

常用的高并發處理的思路與手段

從服務端視角看高并發

服務端處理請求需要耗費服務端的資源,比如能同時開啟的進程數、能同時運行的線程數、網絡連接數、cpu、I/O、內存等等,由于服務端資源是有限的,那么服務端能同時處理的請求也是有限的。高并發問題的本質就是:資源的有限性

高并發帶來的問題

服務端的處理和響應會越來越慢,甚至會丟棄部分請求不予處理,更嚴重的會導致服務端崩潰。

高并發處理的基本思路

1)從客戶端看

盡量減少請求數量,比如:依靠客戶端自身的緩存或處理能力

盡量減少對服務端資源的不必要耗費,比如:重復使用某些資源,如連接池客戶端處理的基本原則就是:能不訪問服務端就不要訪問

2)從服務端看

增加資源供給,比如:更大的網絡帶寬,使用更高配置的服務器,使用高性能的Web服務器,使用高性能的數據庫

請求分流,比如:使用集群,分布式的系統架構

應用優化,比如:使用更高效的編程語言,優化處理業務邏輯的算法,優化訪問數據庫的SQL

基本原則:分而治之,并提高單個請求的處理速度

高并發處理的基本手段

1)客戶端發出請求層面,常見的手段有:

盡量利用瀏覽器的緩存功能,減少訪問服務端,比如:js、css、圖片等

可以考慮使用壓縮傳輸的功能,減少網絡流量,也會提高傳輸速度

考慮使用異步請求,分批獲取數據

2)前端接收客戶端請求層面,常見的手段有:

動靜分離,部分靜態資源可以直接從Nginx返回

按請求的不同,分發到不同的后端進行處理,比如:負載均衡、業務拆分訪問等

前面再加上一層來做多個Nginx的負載均衡,比如:LVS、F5等

還可以在更前面使用CDN服務

還可以對動態內容進行緩存,盡量減少訪問后端服務

3)Web服務器層面,常見的手段有:

使用最新的JVM,并進行配置優化

對Web服務器進行配置優化,比如:調整內存數量、線程數量等

提供多個能提供相同服務的Web服務器,以實現負載均衡

仔細規劃Web服務器上部署的應用規模

對Web服務器進行集群

4)Web應用層面,常見的手段有:

動態內容靜態化

Java開發優化

優化處理業務邏輯的算法

合理高效的利用緩存

優化訪問數據庫的Sql,可以考慮利用存儲過程等數據庫的能力

合理使用多線程,加快業務處理

部分業務可以考慮內存數據庫,或者是進行純內存處理

盡量避免遠程調用、大量I/O等耗時的操作

合理規劃事務等較為耗資源的操作

合理使用異步處理

對部分業務考慮采用預處理或者預計算的方式,減少實時計算量

內部系統間的業務盡量直接調用、直接處理,減少WebService、工作流等

5)數據庫層面,常見的手段有:

合理選擇數據庫的引擎,比如Mysql的InnoDB與MyISAM引擎

進行配置優化

可以考慮使用存儲過程來處理復雜的數據邏輯

數據庫集群,進行讀寫分離

合理設計數據庫的表結構、索引等

分庫、分表,降低單庫、單表的數據量

現在注冊,即可免費領取50元抵現紅包!免費注冊
坑人的中国刮刮乐彩票