自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

什么? C 語言動態(tài)庫免費大放送了?

作者：Karminski-牙醫(yī)
開發(fā) 前端
今天給大家看一個魔法, 這個魔法可以讓你非常方便的在 luajit 里面使用高性能的 C/CPP 庫, 從而避免自己造輪子的痛苦.

看到有同學(xué)說 Lua 庫少, 需要自己造輪子. 其實不是這樣的, 今天給大家看一個魔法, 這個魔法可以讓你非常方便的在 luajit 里面使用高性能的 C/CPP 庫, 從而避免自己造輪子的痛苦.

[[360633]]

這個魔法是 FFI ( Foreign function interface ), 我并不打算仔細(xì)講 FFI 原理, 所以簡單來說, FFI 實現(xiàn)了跨語言的二進制接口. 它的優(yōu)點是高效方便. 直接調(diào)用 ABI, 缺點也很明顯, 出了問題直接會掛掉, 因此數(shù)據(jù)跨臨界區(qū)前仔細(xì)檢查就可以了.

我們今天直接找個 C 語言庫, 然后利用 FFI 在 luajit 里面調(diào)用這個函數(shù)庫作為個大家的演示.

什么? 這里竟然躺著一個高性能 base64 庫?

我們以這個 repo 為例: https:// github.com/aklomp/base6 4 . 這是一個 C 編寫的 Base64 編碼/解碼庫, 而且支持SIMD.

可以簡單運行下這個庫的 benchmark:

  1. karminski@router02:/data/works/base64$ make clean && SSSE3_CFLAGS=-mssse3 AVX2_CFLAGS=-mavx2 make && make -C test 
  2. ... 
  3. Testing with buffer size 100 KB, fastest of 10 * 100 
  4. AVX2    encode  12718.47 MB/sec 
  5. AVX2    decode  14542.81 MB/sec 
  6. plain   encode  3657.40 MB/sec 
  7. plain   decode  3433.23 MB/sec 
  8. SSSE3   encode  7269.55 MB/sec 
  9. SSSE3   decode  8173.10 MB/sec 
  10. ... 

我的 CPU 是 Intel(R) Xeon(R) CPU E3-1246 v3 @ 3.50GHz, 可以看到CPU如果支持 AVX2 的話, 可以達(dá)到 12GB/s 以上, 這個性能非常強悍, 甚至連普通的SSD都跟不上了.

我們需要的第一步是把這個 repo 編譯為動態(tài)庫. 但是這個 repo 并沒有提供動態(tài)庫的編譯選項, 所以我們魔改下這個項目的 Makefile.

  1. CFLAGS += -std=c99 -O3 -Wall -Wextra -pedantic 
  2.  
  3. # Set OBJCOPY if not defined by environment: 
  4. OBJCOPY ?= objcopy 
  5.  
  6. OBJS = \ 
  7.   lib/arch/avx2/codec.o \ 
  8.   lib/arch/generic/codec.o \ 
  9.   lib/arch/neon32/codec.o \ 
  10.   lib/arch/neon64/codec.o \ 
  11.   lib/arch/ssse3/codec.o \ 
  12.   lib/arch/sse41/codec.o \ 
  13.   lib/arch/sse42/codec.o \ 
  14.   lib/arch/avx/codec.o \ 
  15.   lib/lib.o \ 
  16.   lib/codec_choose.o \ 
  17.   lib/tables/tables.o 
  18.  
  19. SOOBJS = \ 
  20.   lib/arch/avx2/codec.so \ 
  21.   lib/arch/generic/codec.so \ 
  22.   lib/arch/neon32/codec.so \ 
  23.   lib/arch/neon64/codec.so \ 
  24.   lib/arch/ssse3/codec.so \ 
  25.   lib/arch/sse41/codec.so \ 
  26.   lib/arch/sse42/codec.so \ 
  27.   lib/arch/avx/codec.so \ 
  28.   lib/lib.so \ 
  29.   lib/codec_choose.so \ 
  30.   lib/tables/tables.so 
  31.  
  32. HAVE_AVX2   = 0 
  33. HAVE_NEON32 = 0 
  34. HAVE_NEON64 = 0 
  35. HAVE_SSSE3  = 0 
  36. HAVE_SSE41  = 0 
  37. HAVE_SSE42  = 0 
  38. HAVE_AVX    = 0 
  39.  
  40. # The user should supply compiler flags for the codecs they want to build. 
  41. # Check which codecs we're going to include: 
  42. ifdef AVX2_CFLAGS 
  43.   HAVE_AVX2 = 1 
  44. endif 
  45. ifdef NEON32_CFLAGS 
  46.   HAVE_NEON32 = 1 
  47. endif 
  48. ifdef NEON64_CFLAGS 
  49.   HAVE_NEON64 = 1 
  50. endif 
  51. ifdef SSSE3_CFLAGS 
  52.   HAVE_SSSE3 = 1 
  53. endif 
  54. ifdef SSE41_CFLAGS 
  55.   HAVE_SSE41 = 1 
  56. endif 
  57. ifdef SSE42_CFLAGS 
  58.   HAVE_SSE42 = 1 
  59. endif 
  60. ifdef AVX_CFLAGS 
  61.   HAVE_AVX = 1 
  62. endif 
  63. ifdef OPENMP 
  64.   CFLAGS += -fopenmp 
  65. endif 
  66.  
  67.  
  68. .PHONY: all analyze clean 
  69.  
  70. all: bin/base64 lib/libbase64.o lib/libbase64.so 
  71.  
  72. bin/base64: bin/base64.o lib/libbase64.o lib/libbase64.so 
  73.     $(CC) $(CFLAGS) -o $@ $^ 
  74.  
  75. lib/libbase64.o: $(OBJS) 
  76.     $(LD) -r -o $@ $^ 
  77.     $(OBJCOPY) --keep-global-symbols=lib/exports.txt $@ 
  78.  
  79. lib/libbase64.so: $(SOOBJS) 
  80.     $(LD) -shared -fPIC -o $@ $^ 
  81.     $(OBJCOPY) --keep-global-symbols=lib/exports.txt $@ 
  82.  
  83. lib/config.h: 
  84.     @echo "#define HAVE_AVX2   $(HAVE_AVX2)"    > $@ 
  85.     @echo "#define HAVE_NEON32 $(HAVE_NEON32)" >> $@ 
  86.     @echo "#define HAVE_NEON64 $(HAVE_NEON64)" >> $@ 
  87.     @echo "#define HAVE_SSSE3  $(HAVE_SSSE3)"  >> $@ 
  88.     @echo "#define HAVE_SSE41  $(HAVE_SSE41)"  >> $@ 
  89.     @echo "#define HAVE_SSE42  $(HAVE_SSE42)"  >> $@ 
  90.     @echo "#define HAVE_AVX    $(HAVE_AVX)"    >> $@ 
  91.  
  92. $(OBJS): lib/config.h 
  93.  
  94. $(SOOBJS): lib/config.h 
  95.  
  96. # o 
  97. lib/arch/avx2/codec.o:   CFLAGS += $(AVX2_CFLAGS) 
  98. lib/arch/neon32/codec.o: CFLAGS += $(NEON32_CFLAGS) 
  99. lib/arch/neon64/codec.o: CFLAGS += $(NEON64_CFLAGS) 
  100. lib/arch/ssse3/codec.o:  CFLAGS += $(SSSE3_CFLAGS) 
  101. lib/arch/sse41/codec.o:  CFLAGS += $(SSE41_CFLAGS) 
  102. lib/arch/sse42/codec.o:  CFLAGS += $(SSE42_CFLAGS) 
  103. lib/arch/avx/codec.o:    CFLAGS += $(AVX_CFLAGS) 
  104. # so 
  105. lib/arch/avx2/codec.so:   CFLAGS += $(AVX2_CFLAGS) 
  106. lib/arch/neon32/codec.so: CFLAGS += $(NEON32_CFLAGS) 
  107. lib/arch/neon64/codec.so: CFLAGS += $(NEON64_CFLAGS) 
  108. lib/arch/ssse3/codec.so:  CFLAGS += $(SSSE3_CFLAGS) 
  109. lib/arch/sse41/codec.so:  CFLAGS += $(SSE41_CFLAGS) 
  110. lib/arch/sse42/codec.so:  CFLAGS += $(SSE42_CFLAGS) 
  111. lib/arch/avx/codec.so:    CFLAGS += $(AVX_CFLAGS) 
  112.  
  113. %.o: %.c 
  114.     $(CC) $(CFLAGS) -o $@ -c $< 
  115.  
  116. %.so: %.c 
  117.     $(CC) $(CFLAGS) -shared -fPIC -o $@ -c $< 
  118.  
  119. analyze: clean 
  120.     scan-build --use-analyzer=`which clang` --status-bugs make 
  121.  
  122. clean: 
  123.     rm -f bin/base64 bin/base64.o lib/libbase64.o lib/libbase64.so lib/config.h $(OBJS) 

看不懂沒關(guān)系, Makefile 是如此的復(fù)雜, 我也看不懂, 僅僅是憑著感覺修改的, 然后他就恰好能運行了... 注意 Makefile 的縮進一定要用 "\t", 否則不符合語法會報錯.

然后我們進行編譯:

  1. AVX2_CFLAGS=-mavx2 SSSE3_CFLAGS=-mssse3 SSE41_CFLAGS=-msse4.1 SSE42_CFLAGS=-msse4.2 AVX_CFLAGS=-mavx make lib/libbase64.so 

這樣我們就得到了libbase64.so 動態(tài)庫 (在 lib 里面). 這里還順便開啟了各種 SIMD 選項. 如果不需要的話可以關(guān)閉.

魔改開始

當(dāng)然這只是魔法, 不是煉金術(shù), 所以是需要付出努力的, 我們要手動實現(xiàn)動態(tài)庫的橋接, 首先我們需要查看我們要調(diào)用的函數(shù)需要什么參數(shù). 這兩個定義很簡單, 我們需要傳入:

  1. const char *src 
  2. size_t srclen 
  3. char *out 
  4. size_t *outlen 
  5. int flags 
  1. void base64_encode(const char *src, size_t srclen, char *out, size_t *outlen, int flags); 
  2. int  base64_decode(const char *src, size_t srclen, char *out, size_t *outlen, int flags); 

然后我們就可以開始編寫 ffi 橋接程序了. 首先把需要的庫全都包含進來, 注意, 多用 local 沒壞處, 使用 local 可以有效從局部查詢, 避免低效的全局查詢. 甚至其他包中的函數(shù)都可以 local 一下來提升性能.

動態(tài)庫的話用專用的 ffi.load 來引用.

然后定義一個 _M 用來包裹我們的庫. 這里跟 JavaScript 很像, JavaScript 在瀏覽器里有 window, Lua 有 _G. 我們要盡可能避免封裝好的庫直接扔給全局, 因此封裝起來是個好辦法.

  1. -- init 
  2. local ffi        = require "ffi" 
  3. local floor      = math.floor 
  4. local ffi_new    = ffi.new 
  5. local ffi_str    = ffi.string 
  6. local ffi_typeof = ffi.typeof 
  7. local C          = ffi.C 
  8. local libbase64  = ffi.load("./libbase64.so") -- change this path when needed. 
  9.  
  10. local _M = { _VERSION = '0.0.1' } 

然后是用 ffi.cdef 聲明 ABI 接口, 這里更簡單, 直接把源代碼的頭文件中的函數(shù)聲明拷過來就完事了:

  1. -- cdef 
  2. ffi.cdef[[ 
  3. void base64_encode(const uint8_t *src, size_t srclen, uint8_t *out, size_t *outlen, size_t flags); 
  4. int  base64_decode(const uint8_t *src, size_t srclen, uint8_t *out, size_t *outlen, size_t flags); 
  5. ]] 

接下來是最重要的類型轉(zhuǎn)換:

  1. -- define types 
  2. local uint8t    = ffi_typeof("uint8_t[?]") -- uint8_t * 
  3. local psizet    = ffi_typeof("size_t[1]")  -- size_t * 
  4.  
  5. -- package function 
  6. function _M.base64_encode(src, flags) 
  7.     local dlen   = floor((#src * 8 + 4) / 6) 
  8.     local out    = ffi_new(uint8t, dlen) 
  9.     local outlen = ffi_new(psizet, 1) 
  10.     libbase64.base64_encode(src, #src, out, outlen, flags) 
  11.     return ffi_str(out, outlen[0]) 
  12.  
  13. end  
  14.  
  15. function _M.base64_decode(src, flags) 
  16.     local dlen   = floor((#src + 1) * 6 / 8) 
  17.     local out    = ffi_new(uint8t, dlen) 
  18.     local outlen = ffi_new(psizet, 1) 
  19.     libbase64.base64_decode(src, #src, out, outlen, flags) 
  20.     return ffi_str(out, outlen[0]) 
  21. end 

我們用 ffi_typeof 來定義需要映射的數(shù)據(jù)類型, 然后用 ffi_new 來將其實例化, 分配內(nèi)存空間. 具體來講:

我們定義了2種數(shù)據(jù)類型, 其中, local uint8t = ffi_typeof("uint8_t[?]") 類型用來傳輸字符串, 后面的問號是給 local out = ffi_new(uint8t, dlen) 中的 ffi_new 函數(shù)準(zhǔn)備的, 它的第二個參數(shù)可以指定實例化該數(shù)據(jù)類型時的長度. 這樣我們就得到了一個空的字符串?dāng)?shù)組, 用來裝 C 函數(shù)返回的結(jié)果. 這里的 dlen 計算出了源字符串 base64 encode 之后的長度, 分配該長度即可.

同樣, local psizet = ffi_typeof("size_t[1]") 指定了一個 size_t * 類型. C 語言里面數(shù)組就是指針, 即 size_t[0] 與 site_t* 是等價的. 因此我們分只有一個元素的 size_t 數(shù)組就得到了指向 size_t 類型的指針. 然后在 local outlen = ffi_new(psizet, 1) 的時候后面的參數(shù)寫的也是1, 不過這里寫什么已經(jīng)無所謂了, 它只是不支持傳進去空, 所以我們相當(dāng)于傳了個 placeholder.

在使用這個值的時候, 我們也是按照數(shù)組的模式去使用的: return ffi_str(out, outlen[0]) .

需要注意的是, 一定要將 require "ffi" 以及 ffi.load 放在代碼最底層, 否則會出現(xiàn) table overflow 的情況.

最后, 這個文件是這樣子的:

  1. --[[ 
  2.   
  3.     ffi-base64.lua 
  4.      
  5.     @version    20201228:1 
  6.     @author     karminski <code.karminski@outlook.com> 
  7.  
  8. ]]-- 
  9.  
  10. -- init 
  11. local ffi        = require "ffi" 
  12. local floor      = math.floor 
  13. local ffi_new    = ffi.new 
  14. local ffi_str    = ffi.string 
  15. local ffi_typeof = ffi.typeof 
  16. local C          = ffi.C 
  17. local libbase64  = ffi.load("./libbase64.so") -- change this path when needed. 
  18.  
  19. local _M = { _VERSION = '0.0.1' } 
  20.  
  21.  
  22. -- cdef 
  23. ffi.cdef[[ 
  24. void base64_encode(const uint8_t *src, size_t srclen, uint8_t *out, size_t *outlen, size_t flags); 
  25. int  base64_decode(const uint8_t *src, size_t srclen, uint8_t *out, size_t *outlen, size_t flags); 
  26. ]] 
  27.  
  28. -- define types 
  29. local uint8t    = ffi_typeof("uint8_t[?]") -- uint8_t * 
  30. local psizet    = ffi_typeof("size_t[1]")  -- size_t * 
  31.  
  32. -- package function 
  33. function _M.base64_encode(src, flags) 
  34.     local dlen   = floor((#src * 8 + 4) / 6) 
  35.     local out    = ffi_new(uint8t, dlen) 
  36.     local outlen = ffi_new(psizet, 1) 
  37.     libbase64.base64_encode(src, #src, out, outlen, flags) 
  38.     return ffi_str(out, outlen[0]) 
  39.  
  40. end  
  41.  
  42. function _M.base64_decode(src, flags) 
  43.     local dlen   = floor((#src + 1) * 6 / 8) 
  44.     local out    = ffi_new(uint8t, dlen) 
  45.     local outlen = ffi_new(psizet, 1) 
  46.     libbase64.base64_decode(src, #src, out, outlen, flags) 
  47.     return ffi_str(out, outlen[0]) 
  48. end  
  49.  
  50. return _M 

好了, 大功告成, 我們寫個 demo 調(diào)用一下試試:

  1. -- main.lua 
  2. local ffi_base64 = require "ffi-base64"  
  3.  
  4. local target = "https://example.com" 
  5.  
  6. local r = ffi_base64.base64_encode(target, 0) 
  7. print("base64 encode result: \n"..r) 
  8.  
  9. local r = ffi_base64.base64_decode(r, 0) 
  10. print("base64 decode result: \n"..r) 
  1. root@router02:/data/works/libbase64-ffi# luajit -v 
  2. LuaJIT 2.1.0-beta3 -- Copyright (C) 2005-2020 Mike Pall. https://luajit.org/ 
  3. root@router02:/data/works/libbase64-ffi# luajit ./main.lua  
  4. base64 encode result:  
  5. aHR0cHM6Ly9leGFtcGxlLmNvbQ== 
  6. base64 decode result:  
  7. https://example.com 

搞定! 是不是很簡單? 類似的 FFI 庫還有很多, 各個語言也有不同程度的支持. 大家都可以嘗試一下.

最后, 當(dāng)你遇到類似的問題的時候, 就可以回憶起來, 還有 FFI 這樣一件趁手的兵(魔)器(法)在你的武器庫里面.

責(zé)任編輯：張燕妮 來源： 知乎
開發(fā)C 語言編程
相關(guān)推薦

2010-11-02 15:36:30

jQuery

2009-03-25 16:54:10

Linux軟件免費

2010-07-22 10:28:59

Web開發(fā)IDE

2012-05-10 10:55:03

CSS

2018-10-25 12:01:37

機房搬遷要點

2020-10-29 10:43:24

網(wǎng)絡(luò)安全支付寶電子錢包

2014-01-10 14:08:57

WLAN速度優(yōu)化

2011-11-24 09:13:16

CSS

2016-11-11 19:51:35

2017-11-01 15:50:38

數(shù)據(jù)庫MySQL 8.0新特性

2021-05-11 10:30:34

數(shù)字化

2009-02-02 14:25:45

軟件 芮祥麟 SAP

2020-09-22 07:45:14

編碼語言網(wǎng)站博客

2012-01-09 16:43:13

點心通訊錄

2019-09-24 09:29:26

Python數(shù)據(jù)接口

2018-05-10 08:20:23

自然語言數(shù)據(jù)集數(shù)據(jù)

2014-08-25 14:40:22

百加域名

2016-10-20 16:19:51

云主機

2015-11-13 14:17:40

點贊
收藏

51CTO技術(shù)棧公眾號