[[418037]]

為什么需要 AI 人機(jī)交互指南

AI 系統(tǒng)可能會(huì)表現(xiàn)出不可預(yù)測(cè)的行為，這些行為可能具有破壞性、混淆性、冒犯性甚至危險(xiǎn)性。由于這些原因，AI 系統(tǒng)經(jīng)常違反傳統(tǒng)的人機(jī)交互設(shè)計(jì)原則。當(dāng)傳統(tǒng)應(yīng)用程序或產(chǎn)品的行為不一致時(shí)，將被判斷為存在設(shè)計(jì)缺陷或錯(cuò)誤。然而，不一致性和不確定性是 AI 系統(tǒng)天生就有的，因?yàn)樗鼈兙哂懈怕市再|(zhì)，并隨著時(shí)間的推移，它們會(huì)隨著新數(shù)據(jù)的學(xué)習(xí)而發(fā)生變化。AI 服務(wù)的屬性，包括其準(zhǔn)確性、故障處理模式和對(duì)用戶行為的理解能力，為產(chǎn)品設(shè)計(jì)、服務(wù)設(shè)計(jì)和程序開發(fā)人員帶來(lái)了新的挑戰(zhàn)和機(jī)遇。

微軟提出了 18 條普遍使用的 AI 人機(jī)交互設(shè)計(jì)指南。這些指南綜合了二十多年來(lái)關(guān)于如何使人工智能變得更加用戶友好的思考和研究。微軟團(tuán)隊(duì)對(duì)他們進(jìn)行了三輪驗(yàn)證，以確保它們是具體、可觀測(cè)且易于理解的。

這 18 條指南提供了有關(guān)如何創(chuàng)建有意義的人工智能產(chǎn)品體驗(yàn)的建議，讓用戶有掌控感并尊重它們的價(jià)值觀、目標(biāo)和注意力。這些指南依據(jù)其所處的具體交互階段分為四大類。

初始階段

在初次接觸 AI 系統(tǒng)時(shí)，應(yīng)該傳遞出明確的用戶預(yù)期。這個(gè)系統(tǒng)有什么能力？它具體的表現(xiàn)如何？設(shè)定不合理的高預(yù)期會(huì)導(dǎo)致用戶沮喪和放棄使用產(chǎn)品，因此誠(chéng)實(shí)地傳遞產(chǎn)品可以做什么以及做到何種程度是很重要的。因此，第一類指南是關(guān)于設(shè)定用戶預(yù)期的：

1. 明確傳遞系統(tǒng)可以做什么。幫助用戶了解 AI 系統(tǒng)能夠幫助自己解決什么問(wèn)題
2. 明確傳遞系統(tǒng)可以做到何種程度。幫助用戶了解 AI 系統(tǒng)出錯(cuò)的概率

交互過(guò)程中

這部分指南是關(guān)于場(chǎng)景的。無(wú)論是（讓 AI 系統(tǒng)考慮）更大的社會(huì)和文化背景，還是用戶的本地設(shè)置或當(dāng)前任務(wù)狀況，AI 系統(tǒng)都需要根據(jù)場(chǎng)景對(duì)用戶需求進(jìn)行推斷。

1. 基于具體場(chǎng)景和時(shí)間提供服務(wù)。根據(jù)用戶當(dāng)前的任務(wù)和環(huán)境判斷何時(shí)該觸發(fā)行為或中斷行為。
2. 顯示場(chǎng)景相關(guān)信息。顯示與用戶當(dāng)前任務(wù)和環(huán)境相關(guān)的信息。
3. 匹配相關(guān)的社會(huì)準(zhǔn)則?？紤]到用戶的社會(huì)和文化背景，確保以符合用戶預(yù)期的方式提供體驗(yàn)。
4. 減少社會(huì)偏見。確保 AI 系統(tǒng)的語(yǔ)言和行為不會(huì)傳遞不公平的刻板印象和偏見。

系統(tǒng)出錯(cuò)時(shí)

接入 AI 能力的系統(tǒng)不可避免地也會(huì)出錯(cuò)，因此必須要考慮到應(yīng)對(duì)邏輯。比如，系統(tǒng)可能不會(huì)在預(yù)期的時(shí)間觸發(fā)，或可能在錯(cuò)誤的時(shí)間觸發(fā)，所以 AI 算法應(yīng)該很容易被調(diào)用或者關(guān)閉。當(dāng)系統(tǒng)出現(xiàn)錯(cuò)誤時(shí)，應(yīng)該很容易被糾正；當(dāng)不明確用戶的意圖時(shí)，應(yīng)該能允許用戶自行完成任務(wù)。例如，AI 系統(tǒng)可以很自然淡出運(yùn)作或請(qǐng)求用戶確認(rèn)。

1. 支持高效調(diào)用。在需要時(shí)輕松調(diào)用或請(qǐng)求 AI 系統(tǒng)的服務(wù)。
2. 支持高效關(guān)閉。讓用戶輕松關(guān)閉或忽略不需要的 AI 服務(wù)。
3. 支持高效校正。當(dāng) AI 系統(tǒng)出錯(cuò)時(shí)，可以輕松地進(jìn)行編輯、改進(jìn)或恢復(fù)初始狀態(tài)。
4. 目標(biāo)不明確時(shí)審視服務(wù)內(nèi)容。當(dāng)不確定用戶的意圖時(shí)，提供消除歧義或降級(jí) AI 系統(tǒng)的服務(wù)。
5. 明確傳遞系統(tǒng)為什么這樣做。使用戶能夠觸達(dá) AI 系統(tǒng)之所以這樣做的原理。

隨著時(shí)間推移

由于 AI 系統(tǒng)會(huì)從用戶行為中進(jìn)行學(xué)習(xí)，因此會(huì)隨著時(shí)間的推移不斷升級(jí)。此部分指南鼓勵(lì)用戶通過(guò)提供細(xì)顆粒度的反饋來(lái)訓(xùn)練系統(tǒng)。當(dāng)用戶提供反饋時(shí)，至少要讓用戶知道反饋行為已被 AI 系統(tǒng)記錄，并表明用戶的反饋將如何影響未來(lái)的體驗(yàn)。

然而，隨著 AI 系統(tǒng)的學(xué)習(xí)和算法模型的改進(jìn)，在對(duì)用戶體驗(yàn)引入大的根本性變化時(shí)需要格外謹(jǐn)慎。需要提前規(guī)劃如何逐步退出這些更改并告知到用戶。

1. 記住用戶最近的互動(dòng)行為。保持短期記憶并允許用戶高效引用。
2. 從用戶行為中學(xué)習(xí)。通過(guò)從他們的行為中不斷學(xué)習(xí)來(lái)個(gè)性定制用戶體驗(yàn)（類似千人千面）。
3. 謹(jǐn)慎更新和調(diào)整。在更新和調(diào)整 AI 系統(tǒng)的行為時(shí)限制變化的幅度。
4. 鼓勵(lì)細(xì)顆粒度的反饋。使用戶能夠在與 AI 系統(tǒng)的定期交互期間提供可以反映用戶偏好的反饋。
5. 傳遞用戶行為的結(jié)果。及時(shí)反饋用戶行為將如何影響 AI 系統(tǒng)的未來(lái)行為。
6. 提供全局控制。允許用戶全局自定義 AI 系統(tǒng)監(jiān)控的內(nèi)容及其行為方式。
7. 通知用戶有關(guān)更新。當(dāng) AI 系統(tǒng)新增或更新功能時(shí)及時(shí)通知用戶。

資源鏈接

• Original human-AI interaction guidelines research paper
• Printable cards
• Blog post: Guidelines for Human-AI Interaction
• Blog post: AI Guidelines in the Creative Process
• Microsoft Research: Guidelines for human-AI interaction design