你這個(gè)提問(wèn)中有一些邏輯的錯(cuò)誤，我來(lái)一一給你解釋一下。

第一個(gè)錯(cuò)誤的地方是，TCP連接數(shù)量和Linux沒(méi)有關(guān)系。不管是Windows還是Linux，只要使用TCP/IP，那么單個(gè)IP地址連接相同互聯(lián)網(wǎng)服務(wù)的TCP連接數(shù)，就不會(huì)超過(guò)65535個(gè)，甚至在一般情況下，我們認(rèn)為不會(huì)超過(guò)4萬(wàn)個(gè)（注意，這里指相同互聯(lián)網(wǎng)服務(wù)，即相同目的地址和端口）。

這個(gè)原因是因?yàn)�，TCP/IP中，一個(gè)TCP連接，就要耗費(fèi)源IP地址一個(gè)TCP端口，而TCP的端口數(shù)量也就是65535個(gè)，因?yàn)閰f(xié)議規(guī)定了TCP端口的長(zhǎng)度也就是16位（二進(jìn)制），所以換成十進(jìn)制也就是1~65535.

這也就意味著，如果你的電腦要訪問(wèn)一個(gè)網(wǎng)站，那么你的電腦只能和這個(gè)網(wǎng)站建立65535個(gè)連接，一個(gè)連接消耗一個(gè)TCP端口。當(dāng)然這是理想的情況，實(shí)際的情況是，有很多端口被一些知名的協(xié)議占據(jù)了，或者做了預(yù)留，例如80端口就屬于HTTP的，所以一般認(rèn)為能使用的端口就是4萬(wàn)個(gè)左右。

第二個(gè)錯(cuò)誤是，TCP的端口數(shù)量和服務(wù)器沒(méi)有關(guān)系。因?yàn)檫@里所說(shuō)的4萬(wàn)個(gè)TCP的端口，是指源端口，也就是你訪問(wèn)網(wǎng)站時(shí)使用的個(gè)人電腦使用的端口，而對(duì)于目的端口，也就是網(wǎng)站的端口，使用的TCP端口也就是相同的23端口。這個(gè)意思也就意味著，4萬(wàn)個(gè)連接都連的是這個(gè)網(wǎng)站的23端口，換一個(gè)用戶又可以用4萬(wàn)個(gè)連接連接服務(wù)器的23端口。

所以我們可以粗略估算一下，如果是100萬(wàn)個(gè)并發(fā)連接，在1個(gè)用戶4萬(wàn)個(gè)訪問(wèn)的情況下，也就是25個(gè)并發(fā)的用戶。當(dāng)然，實(shí)際使用時(shí)，你的PC機(jī)不會(huì)有4萬(wàn)個(gè)連接訪問(wèn)相同的網(wǎng)站，假設(shè)我們按照一個(gè)PC機(jī)4個(gè)連接訪問(wèn)網(wǎng)站計(jì)算，100萬(wàn)個(gè)并發(fā)也就是25萬(wàn)個(gè)用戶訪問(wèn)。

最后回答一下你的問(wèn)題，服務(wù)器如何撐住百萬(wàn)千萬(wàn)個(gè)TCP連接呢？這個(gè)和服務(wù)器的資源有關(guān)。實(shí)際上單個(gè)服務(wù)器支持的TCP連接數(shù)的確是有限的，單個(gè)服務(wù)器所支持的TCP連接不可能到達(dá)理論值，服務(wù)連接一多，CPU撐不住內(nèi)存也頂不住，所以每個(gè)服務(wù)器都有規(guī)格限制，硬件性能越強(qiáng)，服務(wù)器支持的TCP連接數(shù)越大。

但是一個(gè)網(wǎng)站可以有多個(gè)服務(wù)器啊，可以有集群服務(wù)器啊，服務(wù)器的規(guī)模越大，支持的訪問(wèn)能力就越強(qiáng)，所以這個(gè)也不是問(wèn)題。

比如阿里巴巴是如何撐過(guò)雙11的？阿里云在北上廣深等很多地方都有服務(wù)器，而且每個(gè)地方的服務(wù)器都是彈性集群，這些服務(wù)器實(shí)時(shí)同步保障淘寶上的數(shù)據(jù)一致。所以雙11訪問(wèn)淘寶時(shí)，有的訪問(wèn)的是北京的服務(wù)器，有的訪問(wèn)的是上海的服務(wù)器，這樣通過(guò)分布式服務(wù)分布式的存儲(chǔ)，網(wǎng)站可以應(yīng)對(duì)的并發(fā)自然就很大了。

Hi，你好。很高興看到并回答此問(wèn)題。如果我的回答對(duì)你有幫助，記得點(diǎn)個(gè)贊哦~~

下面我結(jié)合之前的項(xiàng)目來(lái)回答一下。

樓主所理解的65535（端口數(shù)量）與連接數(shù)是一個(gè)東西，這個(gè)是錯(cuò)的。具體原因前面已經(jīng)有不少同行小伙伴描述的非常清楚了，我就不再闡述了。

下面我具體來(lái)回答一下樓主的后半部分：服務(wù)器是如何支撐百萬(wàn)并發(fā)的。

下面闡述的觀點(diǎn)是：通過(guò)優(yōu)化系統(tǒng)架構(gòu)提升系統(tǒng)負(fù)載能力，即提高系統(tǒng)并發(fā)量。

一、什么是高并發(fā)

高并發(fā)是互聯(lián)網(wǎng)系統(tǒng)所面臨的普通問(wèn)題，也是系統(tǒng)架構(gòu)時(shí)考慮的重要因素之一。

【并發(fā)與負(fù)載】是相對(duì)的兩個(gè)詞。

想實(shí)現(xiàn)高并發(fā)，就要提高系統(tǒng)負(fù)載能力。系統(tǒng)負(fù)載能力強(qiáng)了，自然可以處理高并發(fā)請(qǐng)求。

所以，實(shí)現(xiàn)高并發(fā)，本質(zhì)就是提高系統(tǒng)的負(fù)載能力。

一般對(duì)于系統(tǒng)負(fù)載能力的評(píng)估參數(shù)有：響應(yīng)時(shí)間 、吞吐量、每秒請(qǐng)求數(shù)QPS、并發(fā)用戶數(shù)。

• 響應(yīng)時(shí)間：系統(tǒng)對(duì)請(qǐng)求做出響應(yīng)的時(shí)間。例如系統(tǒng)處理一個(gè)HTTP請(qǐng)求需要200ms，這個(gè)200ms就是系統(tǒng)的響應(yīng)時(shí)間。
• 吞吐量：?jiǎn)挝粫r(shí)間內(nèi)處理的請(qǐng)求數(shù)量。
• QPS：每秒響應(yīng)請(qǐng)求數(shù)，與吞吐量概念類似。
• 并發(fā)用戶數(shù)：同時(shí)使用系統(tǒng)功能的用戶數(shù)量。

二、如何提高并發(fā)處理能力（并發(fā)數(shù)）

需要說(shuō)明的是：以下內(nèi)容不考慮【帶寬】和【硬件配置】這兩個(gè)因素。

很顯然，帶寬高、硬件配置高，系統(tǒng)負(fù)載能力就強(qiáng)，能處理的并發(fā)用戶數(shù)就多。

那么如何提高并發(fā)處理能力呢？

答案就是：通過(guò)優(yōu)化系統(tǒng)架構(gòu)來(lái)提高并發(fā)處理能力。

并且系統(tǒng)架構(gòu)設(shè)計(jì)是一個(gè)復(fù)雜的過(guò)程，不僅涉及到技術(shù)層面，還包括業(yè)務(wù)層面。

三、通過(guò)業(yè)務(wù)拆分提高并發(fā)處理能力（微服務(wù)架構(gòu)）

將一個(gè)系統(tǒng)拆分為多個(gè)子系統(tǒng)，每個(gè)子系統(tǒng)負(fù)責(zé)一個(gè)單獨(dú)的服務(wù)，這就是常說(shuō)的【服務(wù)治理】

拆分為多個(gè)子系統(tǒng)后，每個(gè)子系統(tǒng)（服務(wù)）獨(dú)立運(yùn)行，每個(gè)服務(wù)之間通過(guò)REST/RPC方式調(diào)用，用戶也可以直接調(diào)用這些服務(wù)接口。

這種設(shè)計(jì)將大化小，這種架構(gòu)也稱為【微服務(wù)架構(gòu)】。

舉例：商城系統(tǒng)中，可拆分為【訂單服務(wù)】【用戶服務(wù)】【產(chǎn)品服務(wù)】等多個(gè)服務(wù)接口。

四、通過(guò)水平擴(kuò)展提高并發(fā)處理能力

這一塊要分開(kāi)來(lái)講。

1. 前端部分

使用nginx反向代理軟件提高并發(fā)處理量

nginx進(jìn)行水平擴(kuò)展：DNS輪詢等

2. 應(yīng)用服務(wù)器部分

java中常見(jiàn)的應(yīng)用服務(wù)器tomcat為例，它可以實(shí)現(xiàn)集群和負(fù)載均衡。集群配置成功后，相當(dāng)于提供了一個(gè)“服務(wù)器池”，如果想要再提高處理能力，只需要向“池”中繼續(xù)添加應(yīng)用服務(wù)器即可。另外，集群也實(shí)現(xiàn)了系統(tǒng)高可用。

3. 數(shù)據(jù)庫(kù)層面

常見(jiàn)的分庫(kù)分表，讀寫(xiě)分離都是解決數(shù)據(jù)庫(kù)壓力大的方法之一。

數(shù)據(jù)庫(kù)瓶頸是系統(tǒng)在運(yùn)行中最先碰到、最常碰到的問(wèn)題之一。

經(jīng)常見(jiàn)到的問(wèn)題就是磁盤IO高，導(dǎo)致處理緩慢。

剛才所說(shuō)方法都可以解決這一問(wèn)題。

常見(jiàn)的分表原則有：按范圍分，按哈希值分。

4. 緩存層面

在系統(tǒng)中添加緩存是當(dāng)前必選的方案。

添加緩存的主要目標(biāo)是減少磁盤IO。

可以緩存的內(nèi)容很多，例如緩存頁(yè)面內(nèi)容(HTML,CSS,圖片)，緩存應(yīng)用服務(wù)器中數(shù)據(jù)對(duì)象等。

通過(guò)設(shè)計(jì)多級(jí)緩存，實(shí)現(xiàn)數(shù)據(jù)的快速獲取、請(qǐng)求的快速響應(yīng)。

在分布式架構(gòu)中，還要注意分布式緩存的更新一致性問(wèn)題。（不再詳述）

五、最后

其實(shí)很多系統(tǒng)的并發(fā)數(shù)都不到百萬(wàn)級(jí)，只有少量頭部網(wǎng)站才會(huì)有，例如淘寶。

但我們之所以研究如何解決百萬(wàn)級(jí)并發(fā)架構(gòu)，是從中學(xué)會(huì)和掌握【系統(tǒng)架構(gòu)演變過(guò)程】。

系統(tǒng)架構(gòu)設(shè)計(jì)的原則是：適合的就是最好的。不能剛開(kāi)始架構(gòu)就要滿足百萬(wàn)級(jí)，因?yàn)檫@樣設(shè)計(jì)會(huì)提高成本，造成資源浪費(fèi)。

所以，我們要明白：系統(tǒng)架構(gòu)是演進(jìn)的。

只有當(dāng)我們經(jīng)歷了從【單一架構(gòu)】至【分布式架構(gòu)】這一過(guò)程，才能真正理解架構(gòu)的能力。在這過(guò)程中，你的架構(gòu)能力也會(huì)飛快增長(zhǎng)。

---

我是一名Java全棧開(kāi)發(fā)工程師、系統(tǒng)架構(gòu)師，從業(yè)15年。曾帶領(lǐng)小團(tuán)隊(duì)完成多個(gè)數(shù)百萬(wàn)級(jí)項(xiàng)目。我正在寫(xiě)一些關(guān)于互聯(lián)網(wǎng)行業(yè)及開(kāi)發(fā)技術(shù)方面的文章。關(guān)注我，你一定會(huì)有所收獲。

如果有項(xiàng)目開(kāi)發(fā)、行業(yè)及求職方面的問(wèn)題，都可以在評(píng)論區(qū)留言或私信我。（關(guān)注后私信我，向你免費(fèi)分享行業(yè)級(jí)學(xué)習(xí)資料）

你好，IT行業(yè)的碼農(nóng)前來(lái)答題。

題主有一個(gè)概念上的誤解，錯(cuò)誤的把TCP端口號(hào)的上限65535理解成了TCP連接數(shù)的上限，進(jìn)而認(rèn)為L(zhǎng)inux無(wú)法實(shí)現(xiàn)超過(guò)65,535個(gè)的并發(fā)任務(wù)，實(shí)際上端口號(hào)數(shù)量和TCP連接數(shù)確實(shí)有關(guān)聯(lián)，但并非一一對(duì)應(yīng)的關(guān)系。

65,535從哪來(lái)的，干啥的？

要解釋好這個(gè)問(wèn)題，就要先說(shuō)清楚65,535的含義。在Linux系統(tǒng)中，如果兩個(gè)機(jī)器要通信，那么相互之間需要建立TCP連接，為了讓雙方互相認(rèn)識(shí)，Linux系統(tǒng)用一個(gè)四元組來(lái)唯一標(biāo)識(shí)一個(gè)TCP連接： {local ip, local port, remote ip, remote port}，即本機(jī)IP、本機(jī)端口、遠(yuǎn)程IP、遠(yuǎn)程端口，IP和端口就相當(dāng)于小區(qū)地址和門牌號(hào)，只有拿到這些信息，通信的雙方才能互相認(rèn)知。在Linux系統(tǒng)中，表示端口號(hào)（port）的變量占16位，這就決定了端口號(hào)最多有2的16次方個(gè)，即65,536個(gè)，另外端口0有特殊含義不給使用，這樣每個(gè)服務(wù)器最多就有65,535個(gè)端口可用。因此，65,535代表Linux系統(tǒng)支持的TCP端口號(hào)數(shù)量，在TCP建立連接時(shí)會(huì)使用。

TCP怎么建立連接，與端口號(hào)是什么關(guān)系？

Linux服務(wù)器在交互時(shí)，一般有兩種身份：客戶端或者服務(wù)器端。典型的交互場(chǎng)景是：

（1）服務(wù)器端主動(dòng)創(chuàng)建監(jiān)聽(tīng)的socket，并綁定對(duì)外服務(wù)端口port，然后開(kāi)始監(jiān)聽(tīng)

（2）客戶端想跟服務(wù)器端通信時(shí)，就開(kāi)始連接服務(wù)器的端口port

（3）服務(wù)端接受客戶端的請(qǐng)求，然后再生成新的socket

（4）服務(wù)器和客戶端在新的socket里進(jìn)行通信

可以看到，端口port主要用在服務(wù)器和客戶端的“握手認(rèn)識(shí)”過(guò)程，一旦互相認(rèn)識(shí)了，就會(huì)生成的的socket進(jìn)行通信，這時(shí)候port就不再需要了，可以給別的socket通信去使用，所以很明顯TCP連接的數(shù)量可以大于TCP端口號(hào)的數(shù)量65,535。

考慮一下兩個(gè)極端場(chǎng)景，即某臺(tái)Linux服務(wù)器只作為客戶端或者服務(wù)器端

（1）Linux服務(wù)器只作為客戶端

這時(shí)候每發(fā)起一個(gè)TCP請(qǐng)求，系統(tǒng)就會(huì)指定一個(gè)空間的本地端口給你用，而且是獨(dú)占式的，不會(huì)被別的TCP連接搶走，這樣最多可以建立65535個(gè)連接，每個(gè)連接都與不同的服務(wù)器進(jìn)行交互。這種場(chǎng)景，就是題主所描述的樣子，但是由于條件過(guò)于苛刻，屬于小概率事件，所以更多的還是理論上的可能，現(xiàn)實(shí)的環(huán)境中幾乎不會(huì)出現(xiàn)。

（2）Linux服務(wù)器只作為服務(wù)端

這種場(chǎng)景下，服務(wù)端就會(huì)固定的監(jiān)聽(tīng)本地端口port，等著客戶端來(lái)向它發(fā)起請(qǐng)求。為了計(jì)算簡(jiǎn)單，我們假設(shè)服務(wù)器端的IP跟端口是多對(duì)一的，這樣TCP四元組里面就有remote ip和remote port是可變的，因此最大支持創(chuàng)建TCP個(gè)數(shù)為2的32次方（IP地址是32位的）乘以2的16次方（port是16位的）等于2的48次方。

現(xiàn)實(shí)中單臺(tái)Linux服務(wù)器支持的TCP連接數(shù)量

通過(guò)前面的分析我們知道，在現(xiàn)實(shí)場(chǎng)景中，由于存在端口port復(fù)用的情況，服務(wù)器可同時(shí)支持的TCP連接數(shù)跟65,535沒(méi)有一一對(duì)應(yīng)關(guān)系，事實(shí)上，真正影響TCP連接數(shù)量的，是服務(wù)器的內(nèi)存以及允許單一進(jìn)程同時(shí)打開(kāi)文件的數(shù)量，因?yàn)槊縿?chuàng)建一個(gè)TCP連接都要?jiǎng)?chuàng)建一個(gè)socket句柄，每個(gè)socket句柄都占用一部分系統(tǒng)內(nèi)存，當(dāng)系統(tǒng)內(nèi)存被占用殆盡，允許的TCP并發(fā)連接數(shù)也就到了上限。一般來(lái)講，通過(guò)增加服務(wù)器內(nèi)存、修改最大文件描述符個(gè)數(shù)等，可以做到單臺(tái)服務(wù)器支持10萬(wàn)+的TCP并發(fā)。

當(dāng)然，在真實(shí)的商用場(chǎng)景下，單臺(tái)服務(wù)器都會(huì)編入分布式集群，通過(guò)負(fù)載均衡算法動(dòng)態(tài)的調(diào)度不同用戶的請(qǐng)求給最空閑的服務(wù)器，如果服務(wù)器平均內(nèi)存使用超過(guò)80%的警戒線，那么就會(huì)及時(shí)采用限流或者擴(kuò)展集群的方式來(lái)保證服務(wù)，絕對(duì)不會(huì)出現(xiàn)服務(wù)器的內(nèi)存被耗盡的情況，那樣就算事故了。

總之，65,535只是Linux系統(tǒng)中可使用端口port數(shù)量的上限，端口port數(shù)量與TCP連接數(shù)量并非完全一一對(duì)應(yīng)的關(guān)系，服務(wù)器支持的TCP并發(fā)連接數(shù)量主要跟服務(wù)器的內(nèi)存以及允許單個(gè)進(jìn)程同時(shí)打開(kāi)的文件數(shù)量有關(guān)系，通過(guò)端口復(fù)用及調(diào)整服務(wù)器參數(shù)等手段，單臺(tái)服務(wù)器支持的TCP并發(fā)連接數(shù)是可以高于65,535的。

TCP/IP 協(xié)議規(guī)定了端口數(shù)占兩個(gè)字節(jié)，所以 65535 是端口數(shù)的上限，但是和連接數(shù)不是一個(gè)意思。

一個(gè) TCP 連接（會(huì)話）用四元組來(lái)標(biāo)識(shí):

客戶端IP : 源端口 -＞ 服務(wù)器 IP : 目的端口

TCP 連接大概有這么幾種場(chǎng)景:

1，服務(wù)端需要監(jiān)聽(tīng)特定的端口（socket listen），比如 WEB 需要監(jiān)聽(tīng) 80 和 8080 端口，監(jiān)聽(tīng)的端口是獨(dú)占的，也就是說(shuō)同一 IP 的端口綁定數(shù)量上限是 65535;

2，客戶端連接服務(wù)器，系統(tǒng)會(huì)自動(dòng)分配本地空閑端口，本地端口也是獨(dú)占的，所以傳出連接數(shù)（Outgoing）上限是 65535;

3，當(dāng)服務(wù)端收到傳入的連接請(qǐng)求（socket accept）并建立連接，對(duì)于服務(wù)端而言，傳入連接并不會(huì)產(chǎn)生新的端口占用，連接數(shù)量不受端口限制，而是操作系統(tǒng)和系統(tǒng)資源限制。

這明顯是進(jìn)入了思維的誤區(qū)，65535是指可用的端口總數(shù)，并不代表服務(wù)器同時(shí)只能接受65535個(gè)并發(fā)連接。

舉個(gè)例子：

我們做了一個(gè)網(wǎng)站，綁定的是TCP的80端口，結(jié)果是所有訪問(wèn)這個(gè)網(wǎng)站的用戶都是通過(guò)服務(wù)器的80端口訪問(wèn)，而不是其他端口�？梢�(jiàn)端口是可以復(fù)用的。即使Linux服務(wù)器只在80端口偵聽(tīng)服務(wù)， 也允許有10萬(wàn)、100萬(wàn)個(gè)用戶連接服務(wù)器。Linux系統(tǒng)不會(huì)限制連接數(shù)至于服務(wù)器能不能承受住這么多的連接，取決于服務(wù)器的硬件配置、軟件架構(gòu)及優(yōu)化。

01

我們知道兩個(gè)進(jìn)程如果需要進(jìn)行通訊最基本的一個(gè)前提是：能夠唯一的標(biāo)示一個(gè)進(jìn)程。在本地進(jìn)程通訊中我們可以使用PID來(lái)唯一標(biāo)示一個(gè)進(jìn)程，但PID只在本地唯一，網(wǎng)絡(luò)中的兩個(gè)進(jìn)程PID沖突幾率很大。

這時(shí)候就需要另辟它徑了，IP地址可以唯一標(biāo)示主機(jī)，而TCP層協(xié)議和端口號(hào)可以唯一標(biāo)示主機(jī)的一個(gè)進(jìn)程，這樣可以利用IP地址＋協(xié)議＋端口號(hào)唯一標(biāo)示網(wǎng)絡(luò)中的一個(gè)進(jìn)程。

能夠唯一標(biāo)示網(wǎng)絡(luò)中的進(jìn)程后，它們就可以利用socket進(jìn)行通信了。socket（套接字）是在應(yīng)用層和傳輸層之間的一個(gè)抽象層，它把TCP/IP層復(fù)雜的操作抽象為幾個(gè)簡(jiǎn)單的接口供應(yīng)用層調(diào)用已實(shí)現(xiàn)進(jìn)程在網(wǎng)絡(luò)中通信。socket源自Unix，是一種"打開(kāi)—讀/寫(xiě)—關(guān)閉"模式的實(shí)現(xiàn)，服務(wù)器和客戶端各自維護(hù)一個(gè)"文件"，在建立連接打開(kāi)后，可以向自己文件寫(xiě)入內(nèi)容供對(duì)方讀取或者讀取對(duì)方內(nèi)容，通訊結(jié)束時(shí)關(guān)閉文件。

02

唯一能夠確定一個(gè)連接有4個(gè)東西：

1. 服務(wù)器的IP

2. 服務(wù)器的Port

3. 客戶端的IP

4. 客戶端的Port

服務(wù)器的IP和Port可以保持不變，只要客戶端的IP和Port彼此不同就可以確定一個(gè)連接數(shù)。一個(gè)socket是可以建立多個(gè)連接的，一個(gè)TCP連接的標(biāo)記為一個(gè)四元組(source_ip, source_port, destination_ip, destination_port)，即(源IP，源端口，目的IP，目的端口)四個(gè)元素的組合。只要四個(gè)元素的組合中有一個(gè)元素不一樣，那就可以區(qū)別不同的連接。

舉個(gè)例子：

->你的主機(jī)IP地址是1.1.1.1， 在8080端口監(jiān)聽(tīng)

->當(dāng)一個(gè)來(lái)自 2.2.2.2 發(fā)來(lái)一條連接請(qǐng)求，端口為5555。這條連接的四元組為(1.1.1.1, 8080, 2.2.2.2, 5555)

->這時(shí)2.2.2.2又發(fā)來(lái)第二條連接請(qǐng)求，端口為6666。新連接的四元組為(1.1.1.1, 8080, 2.2.2.2, 6666)

那么，你主機(jī)的8080端口建立了兩條連接；

->（2.2.2.2）發(fā)來(lái)的第三條連接請(qǐng)求,端口為5555(或6666)。第三條連接的請(qǐng)求就無(wú)法建立，因?yàn)闆](méi)有辦法區(qū)分于上面兩條連接。

同理，可以在同一個(gè)端口號(hào)和IP地址上綁定一個(gè)TCP socket和一個(gè)UDP socket

因?yàn)槎丝谔?hào)雖然一樣，但由于協(xié)議不一樣，所以端口是完全獨(dú)立的。

TCP/UDP一般采用五元組來(lái)定位一個(gè)連接:

source_ip, source_port, destination_ip, destination_port， protocol_type

即（源IP，源端口，目的IP，目的端口，協(xié)議號(hào)）

綜上所述，服務(wù)器的并發(fā)數(shù)并不是由TCP的65535個(gè)端口決定的。服務(wù)器同時(shí)能夠承受的并發(fā)數(shù)是由帶寬、硬件、程序設(shè)計(jì)等多方面因素決定的。

所以也就能理解淘寶、騰訊、頭條、百度、新浪、嗶嗶嗶嗶等為什么能夠承受住每秒種幾億次的并發(fā)訪問(wèn)，是因?yàn)樗麄儾捎玫氖欠��?wù)器集群。服務(wù)器集群分布在全國(guó)各地的大型機(jī)房，當(dāng)訪問(wèn)量小的時(shí)候會(huì)關(guān)閉一些服務(wù)器，當(dāng)訪問(wèn)量大的時(shí)候回不斷的開(kāi)啟新的服務(wù)器。

---

以上個(gè)人淺見(jiàn)，歡迎批評(píng)指正。

認(rèn)同我的看法，請(qǐng)點(diǎn)個(gè)贊再走，感謝！

喜歡我的，請(qǐng)關(guān)注我，再次感謝！

你的理解有誤。65535這個(gè)最大值指的是你作為客戶端去連別人，而你作為服務(wù)器，別人來(lái)連你，理論上是沒(méi)有限制的。注意，僅僅理論上。

65535是怎么來(lái)的？是TCP協(xié)議規(guī)定的端口字段的最大范圍，2個(gè)字節(jié)，16比特，每一比特有0和2種狀態(tài)，按照排列組合，2的16次方，一共就是65536，端口0預(yù)留不用，就是65535。

客戶端每發(fā)起一次TCP連接，要消耗一個(gè)端口，并獨(dú)占該端口，最大只能同時(shí)發(fā)起65535個(gè)TCP連接，實(shí)際上65535這個(gè)最大值只是TCP協(xié)議的規(guī)定，操作系統(tǒng)還有限制呢，發(fā)起主動(dòng)連接前1024個(gè)端口號(hào)（0-1023）都不給用，真實(shí)最大只有64512個(gè)。

說(shuō)完客戶端再說(shuō)服務(wù)端。服務(wù)端一般都監(jiān)聽(tīng)某一個(gè)端口，比如80的web端口，比如22的ssh端口，比如3306的mysql端口，都是在被動(dòng)等待別人來(lái)連，所以沒(méi)有限制。

你如果真要算最大值也能算。TCP連接的唯一性靠四元組，源目的IP，源目的端口，假設(shè)服務(wù)端只有一個(gè)IP，開(kāi)了一個(gè)端口，相當(dāng)于把兩個(gè)固定了，另兩個(gè)的范圍一個(gè)是0.0.0.0-255.255.255.255，一個(gè)是0-65535，一乘就是最大連接數(shù)。其實(shí)按照比特?cái)?shù)最好算，2的32次方乘上個(gè)2的16次方，作為服務(wù)端最大連接數(shù)就是2的48次方。有意義嗎？沒(méi)有意義！

前面為什么又說(shuō)是理論上無(wú)限制呢，因?yàn)樽畲蟮南拗撇辉赥CP連接數(shù)上，而在硬件上，主要是CPU和內(nèi)存，一個(gè)連接占幾k內(nèi)存。一個(gè)市面上現(xiàn)在普通的物理服務(wù)器，最大也就十幾萬(wàn)并發(fā)連接吧。

題主所述服務(wù)器如何應(yīng)對(duì)百萬(wàn)千萬(wàn)的并發(fā)，現(xiàn)在沒(méi)什么好辦法，其實(shí)就是堆服務(wù)器，一臺(tái)十萬(wàn)，十臺(tái)百萬(wàn)，百臺(tái)千萬(wàn)……我們給這一堆服務(wù)器一個(gè)高大上的名字，“集群”。

作為一個(gè)資深的Layer4-7層網(wǎng)絡(luò)測(cè)試人員，回答你的問(wèn)題：）

其實(shí)這個(gè)問(wèn)題，根源在于你不理解服務(wù)器是使用IP+端口號(hào)方式工作的，看我下面的解釋。

Linux的TCP連接數(shù)量最大不能超過(guò)65535個(gè)

首先，這個(gè)說(shuō)法是正確的，但是有限定。它指的是Linux系統(tǒng)作為client，從它自身發(fā)起的連接不能超過(guò)65535個(gè)，并且用的是源端口號(hào)。

而對(duì)于一臺(tái)電腦上來(lái)說(shuō)，一個(gè)端口號(hào)就表示一個(gè)進(jìn)程，所以一臺(tái)電腦的最大進(jìn)程個(gè)數(shù)為65535。

請(qǐng)看下圖：

這個(gè)就是TCP的報(bào)文格式，它的頭部一般為20字節(jié)，而用來(lái)表示源/目端口的字段都是2字節(jié)，即16bits，所以2的16次方，最大值為65535（從0開(kāi)始）。

其實(shí)不僅是Linux系統(tǒng)，現(xiàn)在存在的Windows、MAC、Android等系統(tǒng)，都是一樣的。

服務(wù)器如何應(yīng)對(duì)百萬(wàn)千萬(wàn)的并發(fā)？

看下面的兩張圖片，是否理解了呢？

第一張：三臺(tái)PC同時(shí)訪問(wèn)服務(wù)器，向服務(wù)器發(fā)送連接請(qǐng)求：

• 三臺(tái)PC發(fā)送報(bào)文時(shí)，他們的源IP地址都不相同
• 三臺(tái)PC發(fā)送報(bào)文時(shí)，他們的目的IP和目的端口號(hào)都相同
• 服務(wù)器只監(jiān)聽(tīng)一個(gè)端口號(hào)

第二張圖片：服務(wù)器回復(fù)3臺(tái)PC的連接請(qǐng)求：

• 服務(wù)器回復(fù)3臺(tái)PC時(shí)，源IP和源端口號(hào)都相同；
• 服務(wù)器回復(fù)3臺(tái)PC時(shí)，目的IP地址不同；

看到這里，各位小伙伴應(yīng)該明白為啥服務(wù)器能夠處理百萬(wàn)千萬(wàn)的并發(fā)了吧？

因?yàn)榉��?wù)器處理數(shù)據(jù)時(shí)，會(huì)同時(shí)使用 IP和端口號(hào)，而不是只單純的使用端口號(hào)；

IPv4地址理論上有4,294,967,296，在加上每一臺(tái)PC可以有65535個(gè)源端口，這樣它們的乘積完全是一個(gè)天文數(shù)字，完全沒(méi)有必要為服務(wù)器擔(dān)心。

服務(wù)器只使用一個(gè)IP+一個(gè)端口就可以實(shí)現(xiàn)百萬(wàn)千萬(wàn)的并發(fā)

看完上面的內(nèi)容，小伙伴只需要記住，服務(wù)器在實(shí)現(xiàn)連接時(shí)，并不只使用端口號(hào)，還需要使用IP地址，而IP地址理論是有43億左右的，這樣完全不用擔(dān)心不夠用的問(wèn)題。

歡迎關(guān)注我，一起學(xué)習(xí)和討論網(wǎng)絡(luò)知識(shí)，共同進(jìn)步，共同成長(zhǎng)！

問(wèn)題有一個(gè)概念上的誤解，錯(cuò)誤的把TCP端口號(hào)的上限65535理解成了TCP連接數(shù)的上限，進(jìn)而認(rèn)為L(zhǎng)inux無(wú)法實(shí)現(xiàn)超過(guò)65,535個(gè)的并發(fā)任務(wù)，實(shí)際上端口號(hào)數(shù)量和TCP連接數(shù)確實(shí)有關(guān)聯(lián)，但并非一一對(duì)應(yīng)的關(guān)系。

65,535從哪來(lái)的，干啥的？

要解釋好這個(gè)問(wèn)題，就要先說(shuō)清楚65,535的含義。

在Linux系統(tǒng)中，如果兩個(gè)機(jī)器要通信，那么相互之間需要建立TCP連接，為了讓雙方互相認(rèn)識(shí)，Linux系統(tǒng)用一個(gè)四元組來(lái)唯一標(biāo)識(shí)一個(gè)TCP連接： {local ip, local port, remote ip, remote port}，即本機(jī)IP、本機(jī)端口、遠(yuǎn)程IP、遠(yuǎn)程端口，IP和端口就相當(dāng)于小區(qū)地址和門牌號(hào)，只有拿到這些信息，通信的雙方才能互相認(rèn)知。

在Linux系統(tǒng)中，表示端口號(hào)（port）的變量占16位，這就決定了端口號(hào)最多有2的16次方個(gè)，即65,536個(gè)，另外端口0有特殊含義不給使用，這樣每個(gè)服務(wù)器最多就有65,535個(gè)端口可用。因此，65,535代表Linux系統(tǒng)支持的TCP端口號(hào)數(shù)量，在TCP建立連接時(shí)會(huì)使用。

TCP怎么建立連接，與端口號(hào)是什么關(guān)系？

Linux服務(wù)器在交互時(shí)，一般有兩種身份：客戶端或者服務(wù)器端。典型的交互場(chǎng)景是：

（1）服務(wù)器端主動(dòng)創(chuàng)建監(jiān)聽(tīng)的socket，并綁定對(duì)外服務(wù)端口port，然后開(kāi)始監(jiān)聽(tīng)

（2）客戶端想跟服務(wù)器端通信時(shí)，就開(kāi)始連接服務(wù)器的端口port

（3）服務(wù)端接受客戶端的請(qǐng)求，然后再生成新的socket

（4）服務(wù)器和客戶端在新的socket里進(jìn)行通信

可以看到，端口port主要用在服務(wù)器和客戶端的“握手認(rèn)識(shí)”過(guò)程，一旦互相認(rèn)識(shí)了，就會(huì)生成的的socket進(jìn)行通信，這時(shí)候port就不再需要了，可以給別的socket通信去使用，所以很明顯TCP連接的數(shù)量可以大于TCP端口號(hào)的數(shù)量65,535。

考慮一下兩個(gè)極端場(chǎng)景，即某臺(tái)Linux服務(wù)器只作為客戶端或者服務(wù)器端

（1）Linux服務(wù)器只作為客戶端

這時(shí)候每發(fā)起一個(gè)TCP請(qǐng)求，系統(tǒng)就會(huì)指定一個(gè)空間的本地端口給你用，而且是獨(dú)占式的，不會(huì)被別的TCP連接搶走，這樣最多可以建立65535個(gè)連接，每個(gè)連接都與不同的服務(wù)器進(jìn)行交互。這種場(chǎng)景，就是題主所描述的樣子，但是由于條件過(guò)于苛刻，屬于小概率事件，所以更多的還是理論上的可能，現(xiàn)實(shí)的環(huán)境中幾乎不會(huì)出現(xiàn)。

（2）Linux服務(wù)器只作為服務(wù)端

這種場(chǎng)景下，服務(wù)端就會(huì)固定的監(jiān)聽(tīng)本地端口port，等著客戶端來(lái)向它發(fā)起請(qǐng)求。為了計(jì)算簡(jiǎn)單，我們假設(shè)服務(wù)器端的IP跟端口是多對(duì)一的，這樣TCP四元組里面就有remote ip和remote port是可變的，因此最大支持創(chuàng)建TCP個(gè)數(shù)為2的32次方（IP地址是32位的）乘以2的16次方（port是16位的）等于2的48次方。

現(xiàn)實(shí)中單臺(tái)Linux服務(wù)器支持的TCP連接數(shù)量

通過(guò)前面的分析我們知道，在現(xiàn)實(shí)場(chǎng)景中，由于存在端口port復(fù)用的情況，服務(wù)器可同時(shí)支持的TCP連接數(shù)跟65,535沒(méi)有一一對(duì)應(yīng)關(guān)系，事實(shí)上，真正影響TCP連接數(shù)量的，是服務(wù)器的內(nèi)存以及允許單一進(jìn)程同時(shí)打開(kāi)文件的數(shù)量，因?yàn)槊縿?chuàng)建一個(gè)TCP連接都要?jiǎng)?chuàng)建一個(gè)socket句柄，每個(gè)socket句柄都占用一部分系統(tǒng)內(nèi)存，當(dāng)系統(tǒng)內(nèi)存被占用殆盡，允許的TCP并發(fā)連接數(shù)也就到了上限。

一般來(lái)講，通過(guò)增加服務(wù)器內(nèi)存、修改最大文件描述符個(gè)數(shù)等，可以做到單臺(tái)服務(wù)器支持10萬(wàn)+的TCP并發(fā)。

當(dāng)然，在真實(shí)的商用場(chǎng)景下，單臺(tái)服務(wù)器都會(huì)編入分布式集群，通過(guò)負(fù)載均衡算法動(dòng)態(tài)的調(diào)度不同用戶的請(qǐng)求給最空閑的服務(wù)器，如果服務(wù)器平均內(nèi)存使用超過(guò)80%的警戒線，那么就會(huì)及時(shí)采用限流或者擴(kuò)展集群的方式來(lái)保證服務(wù)，絕對(duì)不會(huì)出現(xiàn)服務(wù)器的內(nèi)存被耗盡的情況，那樣就算事故了。

總之，65,535只是Linux系統(tǒng)中可使用端口port數(shù)量的上限，端口port數(shù)量與TCP連接數(shù)量并非完全一一對(duì)應(yīng)的關(guān)系，服務(wù)器支持的TCP并發(fā)連接數(shù)量主要跟服務(wù)器的內(nèi)存以及允許單個(gè)進(jìn)程同時(shí)打開(kāi)的文件數(shù)量有關(guān)系，通過(guò)端口復(fù)用及調(diào)整服務(wù)器參數(shù)等手段，單臺(tái)服務(wù)器支持的TCP并發(fā)連接數(shù)是可以高于65,535的。

兩碼事，百萬(wàn)并發(fā)和tcp數(shù)量沒(méi)有直接關(guān)系，在說(shuō)明這個(gè)問(wèn)題之前，先理解C10K問(wèn)題可能幫助你理解這個(gè)問(wèn)題，c10k就是單機(jī)1w并發(fā)，一臺(tái)機(jī)器不超過(guò)6w，原因就在于很難達(dá)到6w，所以完全不需要考慮這個(gè)問(wèn)題，那么怎么達(dá)到百萬(wàn)并發(fā)的，堆機(jī)器，調(diào)優(yōu)，百萬(wàn)并發(fā)是需要多臺(tái)機(jī)器協(xié)作完成的。