iOS10 SiriKit QQ 適配詳解
1. 概述
蘋果在iOS10開放了siriKit接口給第三方應(yīng)用。目前,QQ已經(jīng)率先適配了Siri的發(fā)消息和打電話功能。這意味著在iOS10中你可以直接告訴Siri讓它幫你發(fā)QQ消息和打QQ電話了,聽起來是不是很酷炫?
那么第三方應(yīng)用使用Siri的體驗究竟如何?哪些應(yīng)用可以接入SiriKit?接入SiriKit又需要做哪些工作呢?這篇文章會為你一一解答這些疑惑。
圖1 用Siri發(fā)QQ消息效果展示
2. SiriKit簡介
我們都知道Siri是iphone手機中的智能語音助手,那么什么是SiriKit呢?SiriKit是蘋果為第三方應(yīng)用支持Siri提供的開發(fā)框架。在官方文檔中,SiriKit將對不同場景的語音支持劃分為不同的domain,目前,SiriKit支持的domain包括:VoIP電話、發(fā)消息、轉(zhuǎn)賬、圖片搜索、網(wǎng)約車訂車、CarPlay和餐廳預(yù)定,也就是說如果你的應(yīng)用中包含有這些功能之一,就可以考慮將這些功能接入到SiriKit中啦。
實現(xiàn)SiriKit相關(guān)功能時,我們并不需要真正對語音進行識別,語音的識別工作會由Siri完成。Siri識別完語音后,會將語音要完成的功能抽象成Intent對象傳遞給我們,而我們的接入工作主要是與這些Intent對象打交道,并不會涉及到自然語言處理(NLP)的技術(shù)。
關(guān)于SiriKit的開發(fā)網(wǎng)上已有一些文章,也可參考蘋果的官方文檔SiriKit Programming Guide,本文著重介紹QQ的適配經(jīng)驗。
圖2 SiriKit原理
3. SiriKit接入
要實現(xiàn)SiriKit的功能需要在Xcode工程中添加Intents Extension的target,和其他extension一樣, Intents Extension是一個獨立于Containing App進程運行的插件,主要用于處理和確認來自siri的intent請求。如果想讓Siri在處理App相關(guān)intent時提供一些自定義的界面,那么你就需要再添加Intents UI Extension的target,Intents UI Extension也是一個獨立運行的插件(所以要完整的支持SiriKit其實是需要添加兩個target,有點蛋疼)。關(guān)于App Extension的開發(fā)可以參考蘋果的App Extension Programming Guide。
我們以QQ中的發(fā)消息功能為例說明一下SiriKit的接入方法:
首先,我們需要在Intents Extentsion的info.plist文件中配置我們需要支持的siri Intents,在IntentsSupported中加入INSendMessageIntent,如果需要在鎖屏時禁用某個功能,則再在IntentsRestrictedWhileLocked中加入相應(yīng)項的Intent,如圖3所示。
圖3 Intent Extentsion info.plist配置
SiriKit的接入主要分為Intents Extension和Intents UI Extension兩部分,下面分別進行介紹。
Intents Extension
當我們對siri說“用QQ發(fā)消息給王一然說你好”時,語音的識別將會由Siri自動完成,Siri會將識別好的內(nèi)容展示在Siri的界面。如圖4所示,我們可以看到一個完整的發(fā)消息語句主要由四部分組成:
應(yīng)用名:告訴Siri要使用哪個App,siri會根據(jù)app的bundle displayname自動識別app的名稱,無需額外注冊。
發(fā)消息Intent:告訴Siri要使用發(fā)消息的功能,我們實測發(fā)現(xiàn)說發(fā)信息也是能識別,具體還有哪些詞匯會識別為發(fā)消息的intent蘋果沒有在文檔中說明。
消息接收者:告訴siri消息的接收者是誰,“王一然”是我QQ好友的昵稱。
消息內(nèi)容:告訴Siri你要發(fā)的消息內(nèi)容是什么,這里的消息內(nèi)容為“我很生氣”。
圖4 確認發(fā)送消息界面
其中應(yīng)用名和Intent是必須的,不然Siri無法抽象出你的“Intent”。后兩項如果缺省的話,我們可以在實現(xiàn)中要求用戶進一步提供數(shù)據(jù)或者忽略。在識別完成后Siri會將消息內(nèi)容和接收者抽象成一個INSendMessageIntent傳遞給 QQ的Intent Extension。
我們從圖4還可以看到Siri準確從我的語音中識別出我QQ好友中昵稱為“王一然”的好友,然而“王一然”并不是一個通用的短語,那么這是怎么做到的呢?奧秘就在于在QQ運行時我們把所有QQ好友的昵稱同步到了Siri云端,這樣Siri就可以識別出特定用戶要使用的特定短語,詳細同步方法可參考INVocabulary的setVocabularyStrings:ofType:方法。
每個domain的功能在Siri中都有對應(yīng)的Intents,而每個intents都對應(yīng)一個特定的handler協(xié)議。對于發(fā)消息來講,對應(yīng)的Intent和handler協(xié)議分別為INSendMessageIntent和INSendMessageIntentHandling。只要實現(xiàn)INSendMessageIntentHandling協(xié)議中的相關(guān)方法,并在Siri解析出INSendMessageIntent請求時用我們的INSendMessageIntentHandling對象去處理相關(guān)的發(fā)消息請求。具體的流程如圖5:
圖5 Siri發(fā)QQ消息流程
1)ResolveRecipientsForSendMessage
對siri從Intent中傳遞過來的接收者名稱進行處理和確認,比如可以確認該名稱當前是否在QQ好友列表中,并將resolution result反饋給Siri。Resolution result代表了應(yīng)用對intent處理后的結(jié)果,對于發(fā)消息來說,表1列舉了幾種可能的resolution results。
表1 send resolution result
2)ResolveContent
與接收者的處理類似,在這個方法中可以對Siri識別出的消息內(nèi)容進行“修飾”,并且將resolution result反饋給Siri,比如QQ對一些消息里面的特殊詞匯如“生氣”做了emoji適配。
3)ConfirmSendMessage
這個方法的作用是確認是否要發(fā)送該消息,可以在這一步進行一些鑒權(quán)工作,鑒權(quán)通過后再確認發(fā)送,否則取消。確認可以發(fā)送后會調(diào)起確認發(fā)送界面,如圖4所示。如果需要從Containing App共享數(shù)據(jù),具體的實現(xiàn)方案參考App Group的Shared Container。
4)HandleSendMessage
如圖4,當用戶點擊了“發(fā)送”按鈕或者用語音給出了發(fā)送指令時會最終進入到這個方法,在這個方法里我們需要實現(xiàn)發(fā)消息的邏輯,發(fā)送成功后可以調(diào)起消息發(fā)送成功的界面,如圖6。
圖6 消息發(fā)送成功界面
Intents UI Extension
對于支持自定義界面的Intent類型,可以在Intents UI Extension中提供更美觀的自定義界面。 Custom UI的實現(xiàn)相對較簡單,和ios app的開發(fā)一樣,都是通過UIViewController的子類實現(xiàn)。我們需要在Intents UI Extension的info.plist文件中設(shè)置initial viewcontroller或者設(shè)置main storyboard,對于不同類型的Intent的界面展示通過Child Viewcontrollers的方式實現(xiàn)差異化界面展示。
如圖7所示,當接收到來自Intents Extension的response時,系統(tǒng)會喚起Intents UI Extension并加載initial viewcontroller,通過INUIHostedViewSiriProviding協(xié)議的configureWithInteraction:context:completion:方法可以獲取intent,比如在發(fā)消息功能中,在消息確認發(fā)送和發(fā)送成功后都會回調(diào)一次這個方法。根據(jù)Intent對象的類型和狀態(tài),在收到相關(guān)Intent的回調(diào)時present對應(yīng)的Child Viewcontroller即可實現(xiàn)定制化的界面展示。
這里需要注意的是,Intents UI Extension的進程并不會在界面銷毀后就退出,很可能只是在后臺處于休眠狀態(tài),下次response到來時再被喚醒。
圖7 Life cycle of an Intents UI extension
4. 總結(jié)
總的來說雖然蘋果這一次對SiriKit開放的場景有限,但是從我們的適配經(jīng)歷來看蘋果對Siri還是非常重視的。另外,這是SiriKit首次對第三方應(yīng)用開放接口,所以不可避免存在一些問題。我們在開發(fā)過程中也確實遇到了一些SiriKit本身的Bug,大部分bug在向蘋果反饋后都得到了解決,但是在語言識別方面Siri依然存在一些缺陷,比如對中英文混合的場景識別依舊不太好。期待以后Siri對中文的支持越來越好,也希望Siri能夠開放更多的場景給第三方應(yīng)用適配。
更多精彩內(nèi)容歡迎關(guān)注bugly的微信公眾賬號:
騰訊 Bugly是一款專為移動開發(fā)者打造的質(zhì)量監(jiān)控工具,幫助開發(fā)者快速,便捷的定位線上應(yīng)用崩潰的情況以及解決方案。智能合并功能幫助開發(fā)同學把每天上報的數(shù)千條 Crash 根據(jù)根因合并分類,每日日報會列出影響用戶數(shù)最多的崩潰,精準定位功能幫助開發(fā)同學定位到出問題的代碼行,實時上報可以在發(fā)布后快速的了解應(yīng)用的質(zhì)量情況,適配最新的 iOS, Android 官方操作系統(tǒng),鵝廠的工程師都在使用,快來加入我們吧!