引言

?斯坦福教授、Tcl 語言發(fā)明者 John Ousterhout 曾寫過一本書《軟件設(shè)計(jì)的哲學(xué)》，系統(tǒng)討論了軟件設(shè)計(jì)的通用原則和方法論，整書的核心觀點(diǎn)是：軟件設(shè)計(jì)的核心在于降低復(fù)雜性。

實(shí)際上，這個(gè)觀點(diǎn)也適用于涉及底層硬件適配的軟件設(shè)計(jì)。

以視覺模型開發(fā)為例，以往視覺模型開發(fā)過程中，人們一般會(huì)更加關(guān)注模型本身的優(yōu)化來提升速度與效果。而對(duì)于圖像前處理（預(yù)處理）和后處理階段，人們則很少關(guān)注。

當(dāng)模型計(jì)算即模型訓(xùn)練和推理主階段的效率越來越高時(shí)，圖像的前后處理階段愈發(fā)成為圖像處理任務(wù)的性能瓶頸。?

具體而言，在傳統(tǒng)的圖像處理流程中，前后處理部分通常都是用 CPU 進(jìn)行操作的，這會(huì)導(dǎo)致整個(gè)流程中 50% 到 90% 以上的工作負(fù)荷都和前后處理相關(guān)，從而它們會(huì)成為整個(gè)算法流程的性能瓶頸。

一、主流CV庫的局限性

上述問題是目前市面上的主流 CV 庫在應(yīng)用場景上的主要局限性，也就是說，對(duì)底層硬件依賴的不一致性導(dǎo)致了復(fù)雜性和性能瓶頸。正如 John Ousterhout 總結(jié)復(fù)雜性原因時(shí)所道：復(fù)雜性源于依賴性。

?主流的圖像處理庫 OpenCV，其應(yīng)用場景非常廣泛，但在實(shí)際使用的時(shí)候也會(huì)面臨一些問題。

比如用 OpenCV 的 CPU 版本先做訓(xùn)練再做推理的時(shí)候，在推理階段可能需要一個(gè)性能比較高的版本。

因?yàn)樵谟?xùn)練場景里，前后處理與模型推理可以在時(shí)間上進(jìn)行覆蓋，從而覆蓋前處理的時(shí)間。但推理流水線中，模型只包含前向推理，且經(jīng)過 Tensor RT 加速后耗時(shí)急劇減小，這時(shí)前處理的耗時(shí)占比會(huì)非常高，難以被模型推理所覆蓋。

要想減少推理場景的耗時(shí)，提高推理場景的性能，一般會(huì)用 OpenCV 的 GPU 版本進(jìn)行加速。

但是 OpenCV 的 CPU 版本和 GPU 版本之間可能會(huì)出現(xiàn)結(jié)果不一致的情況。典型的例子是 resize 算子，其在 CPU 版本和 GPU 版本上對(duì)于差值的計(jì)算方式是不一致的。

OpenCV 在訓(xùn)練和推理的時(shí)候會(huì)使用不同版本的算子，在訓(xùn)練的時(shí)候一般用 CPU，因?yàn)槠?CPU 算子覆蓋度比較高，在推理的時(shí)候一般用 GPU，因?yàn)樾阅鼙容^好。因此，這也會(huì)導(dǎo)致結(jié)果對(duì)齊的問題。也就是說，當(dāng)用 CPU 做模型訓(xùn)練，并用 GPU 做模型推理的時(shí)候，會(huì)導(dǎo)致最終的輸出結(jié)果無法對(duì)齊。

其次，部分 GPU 算子的性能會(huì)有所退化。在 OpenCV 中，部分 GPU 算子本身的耗時(shí)比較大，從而導(dǎo)致整個(gè)算子的性能回退，甚至差于 CPU 版本。

第三，OpenCV 的 GPU 算子覆蓋度是有限的，部分算子只有 CPU 版本。還有一些 GPU 算子在參數(shù)、數(shù)據(jù)類型等方面的覆蓋度也沒有 CPU 版本高，從而帶來使用上的限制。

最后，如果在使用中將 CPU 算子和 GPU 算子交互使用，就會(huì)帶來大量的 CPU 和 GPU 之間的數(shù)據(jù)拷貝和同步操作，進(jìn)而導(dǎo)致整體的加速性能不夠高。

另外一個(gè)常用的圖像處理庫是 TorchVision。?

?TorchVision 在做模型推理的時(shí)候，有些算子缺乏 C++ 接口，從而在調(diào)用的時(shí)候缺乏靈活性。如果要生成 C++ 版本，必須通過 TorchScript 生成。這會(huì)導(dǎo)致使用上的許多不便，因?yàn)樵诹鞒讨虚g插入其它庫的算子來交互使用會(huì)帶來額外開銷和工作量。TorchVision 還有一個(gè)缺點(diǎn)是算子的覆蓋度不高。

以上就是目前的主流 CV 庫的局限性。?

二、統(tǒng)一 CV 流水線

既然前后處理的性能瓶頸主要在于使用 CPU 計(jì)算，而模型計(jì)算階段使用 GPU 的技術(shù)已經(jīng)越來越成熟。

那么，一個(gè)很自然的解決方案是，用 GPU 對(duì)前后處理進(jìn)行加速，對(duì)整個(gè)算法流水線將會(huì)有非常大的性能提升。

?為此，NVIDIA英偉達(dá)攜手字節(jié)跳動(dòng)開源了圖像預(yù)處理算子庫 CV-CUDA。CV-CUDA 能高效地在 GPU 上運(yùn)行，算子速度能達(dá)到 OpenCV 的百倍左右。

2023 年 1 月 15 日，9:30-11:30，由 NVIDIA英偉達(dá) 主辦的『CV-CUDA 首次公開課』，邀請(qǐng)了來自 NVIDIA英偉達(dá)、字節(jié)跳動(dòng)、新浪微博的 3 位技術(shù)專家（張毅、盛一耀、龐鋒），就相關(guān)主題進(jìn)行深度分享，本文匯總了三位專家的演講精華。?

?采用 GPU 替換 CPU 有很多好處。首先，前后處理的算子遷移到 GPU 上以后，可以提高算子的計(jì)算效率。

其次，由于所有的流程都是在 GPU 上進(jìn)行的，可以減少 CPU 和 GPU 之間的數(shù)據(jù)拷貝。

最后，把 CPU 的負(fù)載遷移到 GPU 上后，可以降低 CPU 的負(fù)載，將 CPU 用于處理其它需要很復(fù)雜邏輯的任務(wù)。?

將整個(gè)流程遷移到 GPU 上后，對(duì)于整個(gè)流水線可以帶來近 30 倍的提升，從而節(jié)省計(jì)算開銷，降低運(yùn)營成本。

通過圖中數(shù)據(jù)對(duì)比可以看到，在相同的服務(wù)器和參數(shù)配置下，對(duì)于 30fps 1080p 視頻流，OpenCV 最多可以開 2-3 個(gè)并行流，PyTorch（CPU）最多可以開 1.5 個(gè)并行流，而 CV-CUDA 最多可以開 60 個(gè)并行流?？梢钥闯稣w性能提升程度非常大，涉及到的前處理算子有 resize、padding、normalize 等，后處理算子有 crop、resize、compose 等。

三、異步化

為什么 GPU 可以適配前后處理的加速需求？得益于模型計(jì)算與前后處理之間的異步化，并與 GPU 的并行計(jì)算能力相適應(yīng)。

我們以模型訓(xùn)練和模型推理的預(yù)處理異步化分別進(jìn)行說明。

1、模型訓(xùn)練的預(yù)處理異步化

模型訓(xùn)練可以分為兩部分，第一個(gè)是數(shù)據(jù)準(zhǔn)備，第二個(gè)是模型計(jì)算。

目前主流的機(jī)器學(xué)習(xí)框架，比如 PyTorch、TensorFlow，它們?cè)跀?shù)據(jù)準(zhǔn)備和模型計(jì)算之間是異步的。以 PyTorch 為例，其會(huì)開啟多個(gè)子進(jìn)程進(jìn)行數(shù)據(jù)的準(zhǔn)備。

如圖中所示，其包含兩個(gè)狀態(tài)，即模型計(jì)算和數(shù)據(jù)準(zhǔn)備，兩者存在時(shí)間先后關(guān)系，比如當(dāng) D0 完成之后，就可以進(jìn)行 B0，以此類推。

從性能角度看，我們期望數(shù)據(jù)準(zhǔn)備的速度能夠跟得上模型計(jì)算的速度。但實(shí)際情況中，一些數(shù)據(jù)讀取和數(shù)據(jù)預(yù)處理過程的耗時(shí)很長，導(dǎo)致相應(yīng)的模型計(jì)算在進(jìn)行前有一定的空窗期，從而導(dǎo)致 GPU 利用率下降。

數(shù)據(jù)準(zhǔn)備可以分成數(shù)據(jù)讀取和數(shù)據(jù)預(yù)處理，這兩個(gè)階段可以串行執(zhí)行，也可以并行執(zhí)行，比如在 PyTorch 的框架下是串行執(zhí)行的。

影響數(shù)據(jù)讀取的性能因素有很多，比如數(shù)據(jù)存儲(chǔ)介質(zhì)、存儲(chǔ)格式、并行度、執(zhí)行進(jìn)程數(shù)等。

相比之下，數(shù)據(jù)預(yù)處理的性能影響因素比較簡單，就是并行度。并行度越高，數(shù)據(jù)預(yù)處理的性能越好。也就是說，讓數(shù)據(jù)預(yù)處理與模型計(jì)算異步化，并提高數(shù)據(jù)預(yù)處理的并行度，可以提高數(shù)據(jù)預(yù)處理的性能。

2、模型推理的預(yù)處理異步化

?在模型推理階段，其性能有兩個(gè)指標(biāo)，第一個(gè)是吞吐，第二個(gè)是延時(shí)。一定程度上，這兩個(gè)指標(biāo)是彼此互斥的。

對(duì)于單個(gè) query 而言，當(dāng) server 接收到數(shù)據(jù)之后，會(huì)進(jìn)行數(shù)據(jù)的預(yù)處理，再進(jìn)行模型推理。所以對(duì)于單個(gè) query 而言，一定程度上它是一個(gè)串行的過程。

但這樣做在效率上是很低的，會(huì)浪費(fèi)很多計(jì)算資源。為了提高吞吐量，很多推理引擎會(huì)采用和訓(xùn)練階段一樣的策略，將數(shù)據(jù)準(zhǔn)備和模型計(jì)算異步化。在數(shù)據(jù)準(zhǔn)備階段，會(huì)積累一定量的 query，組合成一個(gè) batch，再進(jìn)行后續(xù)的計(jì)算，以提高整體的吞吐量。

從吞吐而言，模型推理和模型訓(xùn)練是比較類似的。把數(shù)據(jù)預(yù)處理階段從 CPU 搬到 GPU 上，可以得到吞吐上的收益。

同時(shí)，從延時(shí)的角度上看，對(duì)于每條 query 語句，如果能夠減少預(yù)處理過程所花費(fèi)的時(shí)間，對(duì)于每條 query 而言，其延時(shí)也會(huì)得到相應(yīng)的縮短。

模型推理還有一個(gè)特點(diǎn)是，其模型計(jì)算量比較小，因?yàn)橹簧婕扒跋蛴?jì)算，不涉及后向計(jì)算。這意味著模型推理對(duì)數(shù)據(jù)預(yù)處理的需求更高。?

3、核心問題：CPU 資源競爭

假設(shè)有足夠的 CPU 資源用于計(jì)算，理論上預(yù)處理不會(huì)成為性能瓶頸。因?yàn)橐坏┌l(fā)現(xiàn)性能跟不上，只需要增加進(jìn)程做預(yù)處理操作即?可。

因此，只有當(dāng) CPU 出現(xiàn)資源競爭的時(shí)候，數(shù)據(jù)預(yù)處理才可能成為性能瓶頸。

在實(shí)際業(yè)務(wù)中，CPU 資源競爭的情況是很常見的，這會(huì)導(dǎo)致后續(xù)訓(xùn)練和推理階段中 GPU 利用率降低，進(jìn)而訓(xùn)練速度降低。

隨著 GPU 算力不斷增加，可以預(yù)見，對(duì)數(shù)據(jù)準(zhǔn)備階段的速度要求會(huì)越來越高。

為此，將預(yù)處理部分搬上 GPU，來緩解 CPU 資源競爭問題，提高 GPU 利用率，就成了很自然的選擇。

總體而言，這種設(shè)計(jì)降低了系統(tǒng)的復(fù)雜性，將模型流水線的主體與 GPU 直接適配，對(duì)于提高 GPU 和 CPU 的利用率都能帶來很大的助益。同時(shí)，它也避免了不同版本之間的結(jié)果對(duì)齊問題，減少了依賴性，符合 John Ousterhout 提出的軟件設(shè)計(jì)原則。?

四、 CV-CUDA

把預(yù)處理以及后處理過程搬上 GPU 需要滿足多個(gè)條件。

第一是其性能至少要好于 CPU。這主要基于 GPU 的高并發(fā)計(jì)算能力。

第二是對(duì)預(yù)處理的加速，不能造成對(duì)其它流程比如模型推理的負(fù)面影響。對(duì)于第二個(gè)需求，CV-CUDA 的每個(gè)算子都留有 stream 和 CUDA 顯存的接口，從而可以更合理地配置GPU的資源，使得在 GPU 上運(yùn)行這些預(yù)處理算子的時(shí)候，不會(huì)過于影響到模型計(jì)算本身。

第三，互聯(lián)網(wǎng)企業(yè)中有非常多樣的業(yè)務(wù)需求，涉及的模型種類很多，相應(yīng)的預(yù)處理邏輯也是種類繁多，因此預(yù)處理算子需要開發(fā)成定制化的，從而有更大的靈活性來實(shí)現(xiàn)復(fù)雜的邏輯。

總體而言，CV-CUDA 從硬件、軟件、算法、語言等方面對(duì)模型流水線中的前后處理階段進(jìn)行了加速，以及整個(gè)流水線的統(tǒng)一。

1、硬件

?硬件方面，CV-CUDA 基于 GPU 的并行計(jì)算能力，能夠大幅提高前后處理的速度和吞吐，減少模型計(jì)算的等待時(shí)間，提高 GPU 的利用率。

CV-CUDA 支持 Batch 和 Variable Shape 模式。Batch模式支持批處理，可以充分發(fā)揮 GPU 的并行特性，而 OpenCV 不管是 CPU 還是 GPU 版本都只能對(duì)單張圖片進(jìn)行調(diào)用。

Variable Shape 模式是指在一個(gè)batch當(dāng)中，每張圖片的長和寬可以不一樣。網(wǎng)絡(luò)上的圖片一般長寬都是不一致的，主流框架的做法是把長和寬分別 resize 到同一個(gè)大小，再對(duì)同一長寬的圖片打包為一個(gè) batch，再對(duì) batch 進(jìn)行處理。CV-CUDA 可以直接把不同長和寬的圖像直接放在一個(gè) batch 中進(jìn)行處理，不僅能提升效率，使用上也很方便。

Variable Shape 的另外一層含義是在對(duì)圖像進(jìn)行處理的時(shí)候，可以指定每張圖片的某些參數(shù)，比如 rotate，對(duì)一個(gè)batch的圖像可以指定每張圖片的旋轉(zhuǎn)角度。?

2、軟件

軟件方面，CV-CUDA 開發(fā)了大量的軟件優(yōu)化方法來做進(jìn)一步的優(yōu)化，包括性能優(yōu)化（比如訪存優(yōu)化）和資源利用優(yōu)化（比如顯存預(yù)分配），從而可以高效地運(yùn)行在云端的訓(xùn)練和推理場景中。

首先是顯存預(yù)分配設(shè)置。OpenCV在 調(diào)用 GPU 版本的時(shí)候，部分算子會(huì)在內(nèi)部執(zhí)行 cudaMalloc，這會(huì)導(dǎo)致耗時(shí)大量增加。在 CV-CUDA 中，所有的顯存預(yù)分配都是在初始化階段執(zhí)行，而在訓(xùn)練和推理階段，不會(huì)進(jìn)行任何顯存分配操作，從而提高效率。

其次，所有的算子都是異步操作的。CV-CUDA 對(duì)大量kernel進(jìn)行了融合，從而減少 kernel 的數(shù)量，進(jìn)而減少 kernel 的啟動(dòng)時(shí)間以及數(shù)據(jù)拷貝擦做，提高整體運(yùn)行的效率。

第三，CV-CUDA 還對(duì)訪存進(jìn)行了優(yōu)化，比如合并訪存、向量化讀寫等，提高帶寬的利用率，還利用 shared memory 來提高訪存讀寫效率。

最后，CV-CUDA 在計(jì)算上也做了很多優(yōu)化，比如 fast math、warp reduce/block reduce 等。

3、算法

?算法方面，CV-CUDA 的算子都是獨(dú)立設(shè)計(jì)的、定制化的，從而可以支持非常復(fù)雜的邏輯實(shí)現(xiàn)，并且方便進(jìn)行使用和調(diào)試。

如何理解獨(dú)立設(shè)計(jì)？圖像處理庫的算子調(diào)用有兩種形式，一種是整體性的 pipeline 形式，只能獲取 pipeline 的結(jié)果，比如 DALI，另一種是模塊化的獨(dú)立算子的形式，可以獲取每一個(gè)算子的單獨(dú)結(jié)果，比如 OpenCV。CV-CUDA 采用了和 OpenCV 相同的調(diào)用形式，在使用和調(diào)試上會(huì)比較方便。?

4、語言

語言方面，CV-CUDA 支持豐富的 API，可以無縫將前后處理銜接訓(xùn)練和推理場景。

這些API包括常用的 C、C++、Python 的接口等，這使得我們可以同時(shí)支持訓(xùn)練和推理場景，它還支持 PyTorch、TensorRT 的接口，在未來，CV-CUDA 還將支持 Triton、TensorFlow、JAX 等接口。

推理階段，可以直接用 Python 或 C++ 的接口進(jìn)行推理，只要保證推理的時(shí)候?qū)⑶昂筇幚?、模型、GPU 放在一個(gè) stream 上即可。

五、應(yīng)用案例

通過展示 CV-CUDA 在 NVIDIA 英偉達(dá)、字節(jié)跳動(dòng)、新浪微博的應(yīng)用案例，我們可以體會(huì)到 CV-CUDA 帶來的性能提升有多顯著。

首先是 NVIDIA英偉達(dá)展示的圖片分類案例。

在圖片分類的流水線中，首先是 JPEG decode，其對(duì)圖片進(jìn)行解碼；綠色部分是前處理步驟，包含 resize、convert data type、normalize 和 reformat；藍(lán)色部分是使用 PyTorch 的前向推理過程，最后對(duì)分類的結(jié)果進(jìn)行打分和排序。

將 CV-CUDA 與 OpenCV 的 CPU 版本與 GPU 版本進(jìn)行性能對(duì)比可以發(fā)現(xiàn)，OpenCV 的 GPU 版本相比于 CPU 版本能得到較大的性能提升，而通過應(yīng)用 CV-CUDA，又能將性能翻倍。比如 OpenCV 的 CPU 算子每毫秒處理的圖片數(shù)是 22 張，GPU 算子每毫秒處理的圖片數(shù)是 200 多張，CV-CUDA 則每毫秒可以處理 500 多張圖片，其吞吐量是 OpenCV 的 CPU 版本的 20 多倍，是 GPU 版本的兩倍，性能提升很明顯。

其次是字節(jié)跳動(dòng)展示的 OCR1、OCR2、視頻多模態(tài)三個(gè)案例。

在模型訓(xùn)練上，可以看到在 OCR1、OCR2、視頻多模態(tài)三個(gè)任務(wù)上，使用了 CV-CUDA 后獲得了 50% 到 100% 的性能收益。

為什么有這么大的性能收益？實(shí)際上這三個(gè)任務(wù)比較大的一個(gè)共同點(diǎn)是，它們的圖片預(yù)處理邏輯非常復(fù)雜，比如 decode、resize、crop 等，而且這些還是大類，實(shí)際上每個(gè)算子類中還可能有很多小類或子類預(yù)處理。對(duì)于這三個(gè)任務(wù)而言，其涉及到預(yù)處理鏈路上的數(shù)據(jù)增強(qiáng)種類可能就有十幾種，所以其對(duì)于 CPU 的計(jì)算壓力非常大，如果能把這部分計(jì)算搬到 GPU上，CPU 的資源競爭就會(huì)明顯下降，整體吞吐也能提高很多。

最后是新浪微博展示的視頻處理案例。

對(duì)于視頻處理流程，傳統(tǒng)的做法是把視頻幀先在 CPU 環(huán)境中解碼，把原始的字節(jié)流解碼成圖片數(shù)據(jù)，再做一些常規(guī)操作，比如 resize、crop 等，再把數(shù)據(jù)上傳到 GPU 上做具體的模型計(jì)算。

而 CV-CUDA 的處理方式是將 CPU 解碼之后放在內(nèi)存中的字節(jié)流上傳到 GPU 上，并且預(yù)處理也位于 GPU 上，從而跟模型計(jì)算進(jìn)行無縫銜接，不需要從顯存和內(nèi)存之間的拷貝操作。

圖中給出了采用 OpenCV（奇數(shù)）和 CV-CUDA（偶數(shù)）各自的處理時(shí)間，藍(lán)色指的是模型的消耗時(shí)間，橙色指的是解碼的消耗時(shí)間，綠色指的是預(yù)處理的消耗時(shí)間。

OpenCV 可以分為 CPU 解碼和 GPU 解碼兩種模式，CV-CUDA 只采用 GPU 解碼模式。

可以看到，對(duì)于 CPU 解碼的 OpenCV，OpenCV 的解碼和預(yù)處理都比 CV-CUDA 的耗時(shí)高得多。

再看 OpenCV 采用 GPU 解碼的情況，可以看到，OpenCV 和 CV-CUDA 在模型和解碼部分的耗時(shí)是接近的，而預(yù)處理方面仍然差距很大。

在 pipeline 整體對(duì)比上，CV-CUDA 也有很明顯的優(yōu)勢，一方面 CV-CUDA 更節(jié)省 CPU 資源，也就是將 GPU 利用率打滿的情況下，CV-CUDA 只需要 OpenCV 的 10%CPU 配置；同時(shí)，CV-CUDA 也更節(jié)省 GPU 資源，在整體 pipeline 上，CV-CUDA 效率提升70%。

六、未來展望

?CV-CUDA 在模型訓(xùn)練和推理階段都能有效地解決 CPU 資源競爭的問題，從而能夠提高模型訓(xùn)練和推理的效率。

但如何正確理解 CV-CUDA 的優(yōu)勢？需要理解其發(fā)揮作用的根本前提，并且其優(yōu)勢相對(duì)于 CPU、OpenCV 并不是絕對(duì)的。

首先， CV-CUDA 實(shí)際上也不是萬靈藥。比如在模型訓(xùn)練階段，如果瓶頸不是在預(yù)處理上，而是在數(shù)據(jù)讀取、模型推理上。這時(shí)候，如果用 CV-CUDA 來替換原來的預(yù)處理方案，實(shí)際上也是沒有任何用處的。

此外，在使用 CV-CUDA 的過程中，如果對(duì)預(yù)處理邏輯合理分配 CPU 和 GPU 的工作量，實(shí)際上有時(shí)候能夠達(dá)到更好的性能效果。

比如，CPU 仍然可以進(jìn)行圖片解碼和 resize，resize 之后再放到 GPU 上進(jìn)行處理。

為什么把解碼和 resize 放到 CPU 上做？首先，對(duì)于圖片解碼而言，其實(shí) GPU 的硬解碼單元是有限的。其次，對(duì)于 resize 而言，通常情況下，resize 都會(huì)把一張較大的圖片，轉(zhuǎn)換成一張較小的圖片。

如果在 resize 之前，把數(shù)據(jù)拷貝到 GPU 上，可能會(huì)占用很多的顯存數(shù)據(jù)搬運(yùn)的帶寬。

當(dāng)然，CPU 和 GPU 之間的工作量具體怎么分配，還是需要結(jié)合實(shí)際情況來判斷的。

而最重要的原則是，不要將 CP?U 和 GPU 之間的計(jì)算交替穿插進(jìn)行，因?yàn)榭?device 傳輸數(shù)據(jù)都是有開銷的。如果交替過于頻繁，反而可能將計(jì)算本身帶來的收益抹平，進(jìn)而導(dǎo)致性能不增反降。

2022 年 12 月，CV-CUDA 發(fā)布了 alpha 版本，其中包含 20 多個(gè)算子，比如常用的 Flip、Rotate、Perspective、Resize 等。

目前 OpenCV 的算子更多，有數(shù)千個(gè)算子，CV-CUDA 目前只對(duì)比較常用的算子進(jìn)行加速，后續(xù)會(huì)不斷增加新的算子。

今年 3 月 CV-CUDA 還會(huì)發(fā)布 beta 版本，會(huì)增加 20 多的算子，達(dá)到 50 多個(gè)算子。beta 版本將包含一些非常用的算子，比如 ConvexHull、FindContours 等。

七、尾聲?

回過頭來看 CV-CUDA 的設(shè)計(jì)方案，可以發(fā)現(xiàn)，其背后并沒有太復(fù)雜的原理，甚至可以說一目了然。

從復(fù)雜性的角度，這可以說是 CV-CUDA 的優(yōu)點(diǎn)?！盾浖O(shè)計(jì)的哲學(xué)》提過一個(gè)判斷軟件復(fù)雜性的原則——如果一個(gè)軟件系統(tǒng)難以理解和修改，那就很復(fù)雜；如果很容易理解和修改，那就很簡單。

可以將 CV-CUDA 的有效性理解為，模型計(jì)算階段與 GPU 的適配性，帶動(dòng)了前后處理階段與 GPU 的適配性。而這個(gè)趨勢，其實(shí)才剛剛開始。