想法簡述

• 本文探討了 UX 設(shè)計師如何通過了解影響代理行為和用戶交互的四種關(guān)鍵能力類型來有效地與 AI 代理合作。
• 它強調(diào)在設(shè)計過程早期評估人工智能代理的感知、推理、行動和學(xué)習(xí)能力的重要性，以創(chuàng)造現(xiàn)實、合乎道德和以用戶為中心的體驗。
• 該作品提供了實用的框架和示例——從智能家居設(shè)備到醫(yī)療保健機器人——以幫助設(shè)計師提出正確的問題、跨職能協(xié)作以及負責(zé)任地使用人工智能。

隨著人工智能 (AI) 越來越深入地融入產(chǎn)品，設(shè)計師必須了解這些系統(tǒng)真正能做什么。本文介紹了一個圍繞感知、推理、記憶和代理四大核心能力構(gòu)建的實用框架，旨在幫助用戶體驗 (UX) 專業(yè)人士設(shè)計更智能、更值得信賴的 AI 體驗。本書包含真實案例和實用技巧，對于任何致力于塑造 AI 界面未來的人士來說，都是必讀之作。

許多人認為，人工智能代理已經(jīng)存在，只是分布不均。然而，目前很少有案例能夠展現(xiàn)與這種近未來人工智能的良好交互體驗。幸運的是，在最近的 AWS Re: Invent 大會上，我偶然發(fā)現(xiàn)了一個與人工智能代理交互的用戶體驗的絕佳示例，我迫不及待地想在本文中與大家分享這一愿景。但首先，人工智能代理究竟是什么？

什么是 AI 代理？

想象一下一個蟻群。在一個典型的蟻群中，有不同專長的螞蟻：工蟻、兵蟻、雄蟻、蟻后等等。蟻群中的每只螞蟻都有不同的工作——它們獨立運作，但又像一個緊密結(jié)合的整體。你可以“雇傭”一只螞蟻（代理）為你做一些簡單的半自主工作，這本身就很酷。然而，試想一下，你可以雇傭整個蟻丘去做一些更復(fù)雜或更有趣的事情：找出你的系統(tǒng)出了什么問題，預(yù)訂你的行程，或者……做幾乎所有人類在電腦前能做的事情。每只螞蟻本身并不非常聰明——它們高度專業(yè)化，專注于完成特定的工作。然而，不同專長的螞蟻組合在一起，呈現(xiàn)出一種我們將其與高級動物聯(lián)系起來的“集體智慧”。我們在博客中一直使用的“人工智能”（AI）與人工智能代理之間最顯著的區(qū)別在于自主性。您不需要向 AI 代理提供精確的指令或等待同步輸出 - 與一組 AI 代理的整個交互更加流暢和靈活，就像蟻丘解決問題一樣。

按 Enter 鍵或單擊即可查看完整尺寸的圖像

AI 代理如何工作？

代理型人工智能 (Agentic AI) 的工作方式多種多樣——這是一個內(nèi)容豐富的主題，值得專門寫一本書來探討（或許一兩年后）。在本文中，我們將以系統(tǒng)故障排除為例，闡述一個涉及主管代理（也稱為“推理代理”）和多個工作代理的復(fù)雜流程。該流程始于人類操作員收到問題警報。他們啟動調(diào)查，然后由主管代理領(lǐng)導(dǎo)的半自主 AI 代理團隊幫助他們找到根本原因，并提出解決問題的建議。讓我們用步驟圖來分解與 AI 代理交互的過程：

按 Enter 鍵或單擊即可查看完整尺寸的圖像

上圖所示的多階段代理工作流程包含以下步驟：

1. 人類操作員向主管 AI 代理發(fā)出一般請求。
2. 然后，主管 AI 代理啟動并向幾個專門的半自主工作者 AI 代理發(fā)出一般請求，這些代理開始調(diào)查系統(tǒng)的各個部分，尋找根本原因（數(shù)據(jù)庫）。
3. 工作代理將調(diào)查結(jié)果帶回主管代理，主管代理將其整理為對人類操作員的建議。
4. 人類操作員接受或拒絕各種建議，這會導(dǎo)致主管代理啟動更多工作人員進行調(diào)查（云）。
5. 經(jīng)過一段時間的反復(fù)，主管代理提出了關(guān)于根本原因的假設(shè)并將其交給人類操作員。

如同與典型的人類組織簽訂合同一樣，主管AI代理擁有一支由專業(yè)AI代理組成的團隊。主管可以將消息路由到其監(jiān)管下的任何AI工作代理，這些代理將執(zhí)行任務(wù)并反饋給主管。主管可以選擇將任務(wù)分配給特定代理，并在稍后獲得更多信息時發(fā)送附加指令。最后，任務(wù)完成后，輸出將反饋給用戶。然后，人類操作員可以選擇向主管AI代理提供反饋或附加任務(wù)，在這種情況下，整個流程將重新開始。

人類無需擔心任何內(nèi)部事務(wù)——所有事務(wù)都由“主管”以半自主的方式處理。人類所做的只是提出一個通用請求，然后審查并響應(yīng)這個代理“組織”的輸出。如果你能做到這一點，這正是你與蟻群溝通的方式：你將工作分配給蟻后，讓她管理所有工蟻、兵蟻、雄蟻等等。與蟻群類似，單個專業(yè)代理不需要特別聰明，也不需要直接與人類操作員溝通——它們只需要能夠半自主地解決它們被設(shè)計執(zhí)行的專業(yè)任務(wù)，并將精確的輸出反饋給“主管”代理，僅此而已。“主管”代理的工作就是完成所有的推理和溝通。這種人工智能模型更高效、更經(jīng)濟，并且在許多任務(wù)中都非常實用。讓我們來看看交互流程，以便更好地感受這種體驗在現(xiàn)實世界中的感受。

使用案例：使用 AI 代理進行 CloudWatch 調(diào)查

為簡單起見，我們將遵循本文前面的工作流程圖，流程中的每個步驟都與圖中的步驟相對應(yīng)。此示例來自AWS Re: Invent 2024 — 不要停滯不前：互聯(lián)遙測如何助您前進 (COP322)，由 YouTube 上的 AWS Events 主持，從 53 分鐘開始。

步驟 1

該流程始于用戶發(fā)現(xiàn)名為“bot-service”的服務(wù)（屏幕截圖左上角）故障急劇增加，并啟動新的調(diào)查。然后，用戶將所有相關(guān)信息以及一些額外的指令傳遞給主管代理。

按 Enter 鍵或單擊即可查看完整尺寸的圖像

第 2 步

現(xiàn)在，在步驟 2 中，主管代理接收請求并生成一組工作 AI 代理，這些代理將半自主地查看系統(tǒng)的不同部分。該過程是異步的，這意味著右側(cè)的建議初始狀態(tài)為空：調(diào)查啟動后不會立即顯示結(jié)果。

按 Enter 鍵或單擊即可查看完整尺寸的圖像

步驟3

現(xiàn)在，工作代理返回了一些“建議的觀察結(jié)果”，這些結(jié)果由主管處理并添加到屏幕右側(cè)的建議中。請注意，屏幕右側(cè)現(xiàn)在更寬了，以便于閱讀代理建議。在下面的屏幕中，不同的代理提出了兩個截然不同的觀察結(jié)果，第一個代理專門負責(zé)服務(wù)指標，第二個代理專門負責(zé)跟蹤。

按 Enter 鍵或單擊即可查看完整尺寸的圖像

這些“建議的觀察結(jié)果”構(gòu)成了調(diào)查中的“證據(jù)”，旨在找出問題的根本原因。為了找出根本原因，此流程中的人類操作員會提供幫助：他們會向主管代理反饋哪些觀察結(jié)果最相關(guān)。因此，主管代理和人類操作員并肩協(xié)作，找出問題的根本原因。

步驟4

人工操作員會點擊“接受”按鈕，確認他們認為相關(guān)的觀察結(jié)果，這些結(jié)果會被添加到屏幕左側(cè)的調(diào)查“案例檔案”中?，F(xiàn)在，人工操作員已經(jīng)添加了反饋，表明他們認為這些信息是相關(guān)的，代理流程將啟動調(diào)查的下一階段。主管代理收到用戶反饋后，將不再發(fā)送“更多相同的信息”，而是會進行更深入的挖掘，甚至可能調(diào)查系統(tǒng)的其他方面，以尋找根本原因。請注意，下圖中右側(cè)出現(xiàn)的新建議屬于另一種類型——它們現(xiàn)在正在查看日志以尋找根本原因。

按 Enter 鍵或單擊即可查看完整尺寸的圖像

步驟5

最后，主管代理掌握了足夠的信息，開始嘗試找出問題的根本原因。因此，它從證據(jù)收集轉(zhuǎn)向推理根本原因。在步驟3和4中，主管代理提供了“建議性觀察”?，F(xiàn)在，在步驟5中，它準備好進行重大揭秘（也可以稱之為“結(jié)局場景”），因此，就像文學(xué)偵探一樣，主管代理提出了它的“假設(shè)建議”。（這讓人想起游戲“線索”，玩家輪流提出“建議”，然后，當他們準備好發(fā)起攻擊時，他們就會提出“指控”。主管代理在這里也做了同樣的事情?。?/span>

按 Enter 鍵或單擊即可查看完整尺寸的圖像

建議的假設(shè)是正確的，當用戶點擊“接受”時，主管代理會提供后續(xù)步驟來解決問題，并防止將來再次出現(xiàn)類似問題。代理似乎在對人類指手畫腳，建議他們“實施適當?shù)淖兏芾沓绦?rdquo;——這是任何良好系統(tǒng)衛(wèi)生的基礎(chǔ)！

按 Enter 鍵或單擊即可查看完整尺寸的圖像

最后的想法

代理流如此引人注目，并成為當今眾多人工智能開發(fā)工作的焦點，原因有很多。代理引人注目、經(jīng)濟實惠，并且能夠?qū)崿F(xiàn)更加自然靈活的人機界面。代理能夠填補人類與機器之間溝通的空白，真正實現(xiàn)人機思維的融合，形成超越人類的“增強智能”，其價值遠超其各部分之和。然而，要從與代理的交互中獲得最大價值，也需要我們徹底改變對人工智能的理解方式，以及設(shè)計支持代理交互的用戶界面的方式：

• 靈活、可調(diào)節(jié)的用戶界面：代理與人類一起工作，為此，人工智能代理需要一個靈活的工作流程，以支持人與機器在多個階段的持續(xù)交互——開始調(diào)查、接受證據(jù)、形成假設(shè)、提供后續(xù)步驟等。這是一個跨越多個迭代的靈活循環(huán)流程。
• 自主性：雖然目前，人機交互似乎是代理工作流程的常態(tài)，但代理展現(xiàn)出非凡的能力，能夠提出假設(shè)、收集證據(jù)，并根據(jù)需要迭代假設(shè)，直至解決問題。它們不會感到疲倦，也不會窮盡所有選項而放棄。AI 代理還展現(xiàn)出能夠有效地“編寫代碼……讓工具自行構(gòu)建工具”的能力，從而探索解決問題的新方法——這很新穎。這種交互本質(zhì)上需要“積極主動”的 AI，例如，這些代理接受了最大召回率的訓(xùn)練，愿意嘗試所有可能性，以確保獲得最真實的積極結(jié)果（請參閱我們在此處的價值矩陣討論）。這意味著，有時代理會“只是為了嘗試”而采取行動，而不會“考慮”假陽性或假陰性結(jié)果的成本。例如，一個積極主動的 AI 代理“醫(yī)生”可能會開出侵入性腦癌活檢手術(shù)，而不會先考慮風(fēng)險較低的替代方案，甚至不會停下來征求患者的同意！所有這些都需要更深層次的人機分析，以及針對激進的人工智能“探索想法”的多個新的審批流程，這些想法可能會導(dǎo)致人類傷害，或者只是導(dǎo)致超出預(yù)算的成本膨脹。
• 需要新的控件：雖然大部分交互可以通過現(xiàn)有屏幕完成，但大多數(shù)代理操作都是異步的，這意味著大多數(shù)采用傳統(tǒng)事務(wù)型、同步請求/響應(yīng)模型的網(wǎng)頁都無法適應(yīng)這種新型交互。我們需要引入一些新的設(shè)計范式。例如，開始、停止和暫停按鈕是控制代理流程的良好起點，否則你很有可能最終陷入幻想曲中“魔法師的學(xué)徒”的境地（自我復(fù)制的掃帚不停地打水，造成巨大且昂貴的混亂）。
• 你“雇傭”AI來執(zhí)行任務(wù)：這與傳統(tǒng)的工具使用方式截然不同。它們不再是工具，而是具有推理能力的實體，各自擁有智能。AI服務(wù)目前已包含多個由主管監(jiān)控的專用代理。很快，我們將引入多級管理，由下級主管和“團隊負責(zé)人”向最終與人類打交道的“客戶經(jīng)理代理”匯報……就像今天的人類組織一樣。到目前為止，組織需要跟蹤產(chǎn)品、人員和流程。現(xiàn)在，我們?yōu)?ldquo;人”添加了新的定義——AI代理。這意味著需要開發(fā)可行的用戶界面來保護機密信息、基于角色的訪問控制 (RBAC) 和代理版本控制。保護代理數(shù)據(jù)將比與人類員工簽署保密協(xié)議更為重要。
• 持續(xù)學(xué)習(xí)系統(tǒng)：要充分發(fā)揮智能代理的價值，它們需要持續(xù)學(xué)習(xí)。智能代理會不斷學(xué)習(xí)，迅速成為其所用系統(tǒng)方面的專家。最初的智能代理就像新來的實習(xí)生一樣，知識儲備有限，但他們很快就會成為“房間里的成年人”，擁有比大多數(shù)人更豐富的訪問權(quán)限和經(jīng)驗。這將在職場上引發(fā)巨大的權(quán)力轉(zhuǎn)移。我們必須做好準備。

無論你對人工智能代理有何看法，它們無疑會與人類同行共同發(fā)展，并持續(xù)存在。因此，我們必須了解代理人工智能的工作原理，以及如何設(shè)計能夠讓我們安全高效地與它們協(xié)同工作的系統(tǒng)，充分發(fā)揮人類和機器各自的優(yōu)勢。

 

蘭亭妙微(www.bjlzjm.com.cn )是一家專注而深入的界面設(shè)計公司，為期望卓越的國內(nèi)外企業(yè)提供卓越的大數(shù)據(jù)可視化界面設(shè)計、B端界面設(shè)計、桌面端界面設(shè)計、APP界面設(shè)計、圖標定制、用戶體驗設(shè)計、交互設(shè)計、UI咨詢、高端網(wǎng)站設(shè)計、平面設(shè)計，以及相關(guān)的軟件開發(fā)服務(wù)，咨詢電話：01063334945。我們建立了一個微信群，每天分享國內(nèi)外優(yōu)秀的設(shè)計，有興趣請加入一起學(xué)習(xí)成長，咨詢及進群請加藍小助微信ben_lanlan。