面試官：你能聊聊String和[]byte的轉(zhuǎn)換嗎？
本文轉(zhuǎn)載自微信公眾號「Golang夢工廠」，作者Golang夢工廠。轉(zhuǎn)載本文請聯(lián)系Golang夢工廠公眾號。
前言
哈嘍，大家好，我是asong。為什么會有今天這篇文章呢?前天在一個群里看到了一份Go語言面試的八股文，其中有一道題就是"字符串轉(zhuǎn)成byte數(shù)組，會發(fā)生內(nèi)存拷貝嗎?";這道題挺有意思的，本質(zhì)就是在問你string和[]byte的轉(zhuǎn)換原理，考驗?zāi)愕幕竟Φ?。今天我們就來好好的探討一下兩者之間的轉(zhuǎn)換方式。
byte類型
我們看一下官方對byte的定義：
- // byte is an alias for uint8 and is equivalent to uint8 in all ways. It is
- // used, by convention, to distinguish byte values from 8-bit unsigned
- // integer values.
- type byte = uint8
我們可以看到byte就是uint8的別名，它是用來區(qū)分字節(jié)值和8位無符號整數(shù)值。
其實可以把byte當(dāng)作一個ASCII碼的一個字符。
示例：
- var ch byte = 65
- var ch byte = '\x41'
- var ch byte = 'A'
[]byte類型
[]byte就是一個byte類型的切片，切片本質(zhì)也是一個結(jié)構(gòu)體，定義如下：
- // src/runtime/slice.go
- type slice struct {
- array unsafe.Pointer
- len int
- cap int
- }
這里簡單說明一下這幾個字段，array代表底層數(shù)組的指針，len代表切片長度，cap代表容量。看一個簡單示例：
- func main() {
- sl := make([]byte,0,2)
- sl = append(sl, 'A')
- sl = append(sl,'B')
- fmt.Println(sl)
- }
根據(jù)這個例子我們可以畫一個圖：
string類型
先來看一下string的官方定義：
- // string is the set of all strings of 8-bit bytes, conventionally but not
- // necessarily representing UTF-8-encoded text. A string may be empty, but
- // not nil. Values of string type are immutable.
- type string string
string是一個8位字節(jié)的集合，通常但不一定代表UTF-8編碼的文本。string可以為空，但是不能為nil。string的值是不能改變的。
看一個簡單的例子：
- func main() {
- str := "asong"
- fmt.Println(str)
- }
string類型本質(zhì)也是一個結(jié)構(gòu)體，定義如下：
- type stringStruct struct {
- str unsafe.Pointer
- len int
- }
stringStruct和slice還是很相似的，str指針指向的是某個數(shù)組的首地址，len代表的就是數(shù)組長度。怎么和slice這么相似，底層指向的也是數(shù)組，是什么數(shù)組呢?我們看看他在實例化時調(diào)用的方法：
- //go:nosplit
- func gostringnocopy(str *byte) string {
- ss := stringStruct{str: unsafe.Pointer(str), len: findnull(str)}
- s := *(*string)(unsafe.Pointer(&ss))
- return s
- }
入?yún)⑹且粋€byte類型的指針，從這我們可以看出string類型底層是一個byte類型的數(shù)組，所以我們可以畫出這樣一個圖片：
string和[]byte有什么區(qū)別
上面我們一起分析了string類型，其實他底層本質(zhì)就是一個byte類型的數(shù)組，那么問題就來了，string類型為什么還要在數(shù)組的基礎(chǔ)上再進行一次封裝呢?
這是因為在Go語言中string類型被設(shè)計為不可變的，不僅是在Go語言，其他語言中string類型也是被設(shè)計為不可變的，這樣的好處就是：在并發(fā)場景下，我們可以在不加鎖的控制下，多次使用同一字符串，在保證高效共享的情況下而不用擔(dān)心安全問題。
string類型雖然是不能更改的，但是可以被替換，因為stringStruct中的str指針是可以改變的，只是指針指向的內(nèi)容是不可以改變的?？磦€例子：
- func main() {
- str := "song"
- fmt.Printf("%p\n",[]byte(str))
- str = "asong"
- fmt.Printf("%p\n",[]byte(str))
- }
- // 運行結(jié)果
- 0xc00001a090
- 0xc00001a098
我們可以看出來，指針指向的位置發(fā)生了變化，也就說每一個更改字符串，就需要重新分配一次內(nèi)存，之前分配的空間會被gc回收。
string和[]byte標準轉(zhuǎn)換
Go語言中提供了標準方式對string和[]byte進行轉(zhuǎn)換，先看一個例子：
- func main() {
- str := "asong"
- by := []byte(str)
- str1 := string(by)
- fmt.Println(str1)
標準轉(zhuǎn)換用起來還是比較簡單的，那你知道他們內(nèi)部是怎樣實現(xiàn)轉(zhuǎn)換的嗎?我們來分析一下：
- string類型轉(zhuǎn)換到[]byte類型
我們對上面的代碼執(zhí)行如下指令go tool compile -N -l -S ./string_to_byte/string.go，可以看到調(diào)用的是runtime.stringtoslicebyte：
- // runtime/string.go go 1.15.7
- const tmpStringBufSize = 32
- type tmpBuf [tmpStringBufSize]byte
- func stringtoslicebyte(buf *tmpBuf, s string) []byte {
- var b []byte
- if buf != nil && len(s) <= len(buf) {
- *buf = tmpBuf{}
- b = buf[:len(s)]
- } else {
- b = rawbyteslice(len(s))
- }
- copy(b, s)
- return b
- }
- // rawbyteslice allocates a new byte slice. The byte slice is not zeroed.
- func rawbyteslice(size int) (b []byte) {
- cap := roundupsize(uintptr(size))
- p := mallocgc(cap, nil, false)
- if cap != uintptr(size) {
- memclrNoHeapPointers(add(p, uintptr(size)), cap-uintptr(size))
- }
- *(*slice)(unsafe.Pointer(&b)) = slice{p, size, int(cap)}
- return
- }
這里分了兩種狀況，通過字符串長度來決定是否需要重新分配一塊內(nèi)存。也就是說預(yù)先定義了一個長度為32的數(shù)組，字符串的長度超過了這個數(shù)組的長度，就說明[]byte不夠用了，需要重新分配一塊內(nèi)存了。這也算是一種優(yōu)化吧，32是閾值，只有超過32才會進行內(nèi)存分配。
最后我們會通過調(diào)用copy方法實現(xiàn)string到[]byte的拷貝，具體實現(xiàn)在src/runtime/slice.go中的slicestringcopy方法，這里就不貼這段代碼了，這段代碼的核心思路就是：將string的底層數(shù)組從頭部復(fù)制n個到[]byte對應(yīng)的底層數(shù)組中去
- []byte類型轉(zhuǎn)換到string類型
[]byte類型轉(zhuǎn)換到string類型本質(zhì)調(diào)用的就是runtime.slicebytetostring：
- // 以下無關(guān)的代碼片段
- func slicebytetostring(buf *tmpBuf, ptr *byte, n int) (str string) {
- if n == 0 {
- return ""
- }
- if n == 1 {
- p := unsafe.Pointer(&staticuint64s[*ptr])
- if sys.BigEndian {
- p = add(p, 7)
- }
- stringStructOf(&str).str = p
- stringStructOf(&str).len = 1
- return
- }
- var p unsafe.Pointer
- if buf != nil && n <= len(buf) {
- p = unsafe.Pointer(buf)
- } else {
- p = mallocgc(uintptr(n), nil, false)
- }
- stringStructOf(&str).str = p
- stringStructOf(&str).len = n
- memmove(p, unsafe.Pointer(ptr), uintptr(n))
- return
- }
這段代碼我們可以看出會根據(jù)[]byte的長度來決定是否重新分配內(nèi)存，最后通過memove可以拷貝數(shù)組到字符串。
string和[]byte強轉(zhuǎn)換
標準的轉(zhuǎn)換方法都會發(fā)生內(nèi)存拷貝，所以為了減少內(nèi)存拷貝和內(nèi)存申請我們可以使用強轉(zhuǎn)換的方式對兩者進行轉(zhuǎn)換。在標準庫中有對這兩種方法實現(xiàn)：
- // runtime/string.go
- func slicebytetostringtmp(ptr *byte, n int) (str string) {
- stringStructOf(&str).str = unsafe.Pointer(ptr)
- stringStructOf(&str).len = n
- return
- }
- func stringtoslicebytetmp(s string) []byte {
- str := (*stringStruct)(unsafe.Pointer(&s))
- ret := slice{array: unsafe.Pointer(str.str), len: str.len, cap: str.len}
- return *(*[]byte)(unsafe.Pointer(&ret))
- }
通過這兩個方法我們可知道，主要使用的就是unsafe.Pointer進行指針替換，為什么這樣可以呢?因為string和slice的結(jié)構(gòu)字段是相似的：
- type stringStruct struct {
- str unsafe.Pointer
- len int
- }
- type slice struct {
- array unsafe.Pointer
- len int
- cap int
- }
唯一不同的就是cap字段，array和str是一致的，len是一致的，所以他們的內(nèi)存布局上是對齊的，這樣我們就可以直接通過unsafe.Pointer進行指針替換。
兩種轉(zhuǎn)換如何取舍
當(dāng)然是推薦大家使用標準轉(zhuǎn)換方式了，畢竟標準轉(zhuǎn)換方式是更安全的!但是如果你是在高性能場景下使用，是可以考慮使用強轉(zhuǎn)換的方式的，但是要注意強轉(zhuǎn)換的使用方式，他不是安全的，這里舉個例子：
- func stringtoslicebytetmp(s string) []byte {
- str := (*reflect.StringHeader)(unsafe.Pointer(&s))
- ret := reflect.SliceHeader{Data: str.Data, Len: str.Len, Cap: str.Len}
- return *(*[]byte)(unsafe.Pointer(&ret))
- }
- func main() {
- str := "hello"
- by := stringtoslicebytetmp(str)
- by[0] = 'H'
- }
運行結(jié)果：
- unexpected fault address 0x109d65f
- fatal error: fault
- [signal SIGBUS: bus error code=0x2 addr=0x109d65f pc=0x107eabc]
我們可以看到程序直接發(fā)生嚴重錯誤了，即使使用defer+recover也無法捕獲。原因是什么呢?
我們前面介紹過，string類型是不能改變的，也就是底層數(shù)據(jù)是不能更改的，這里因為我們使用的是強轉(zhuǎn)換的方式，那么by指向了str的底層數(shù)組，現(xiàn)在對這個數(shù)組中的元素進行更改，就會出現(xiàn)這個問題，導(dǎo)致整個程序down掉!
總結(jié)
本文我們一起分析byte和string類型的基本定義，也分析了[]byte和string的兩種轉(zhuǎn)換方式，應(yīng)該還差最后一環(huán)，也就是大家最關(guān)心的性能測試，這個我沒有做，我覺得沒有很大意義，通過前面的分析就可以得出結(jié)論，強轉(zhuǎn)換的方式性能肯定要比標準轉(zhuǎn)換要好。對于這兩種方式的使用，大家還是根據(jù)實際場景來選擇，脫離場景的談性能就是耍流氓!!!
