Perplexity Decider V1.2 登上 Vercel:把客服訊息拆成分類、是非與評分
想讓 AI 穩定分派客服訊息、標記商品圖片,未必需要它寫一大段回答。Vercel 於 10 月 16 日加入 Perplexity Decider V1.2 與 Flash,可回傳結構化判斷和機率;一次合併多個問題很方便,但有適用條件。
本文導覽
一封客服訊息寫著商品送到時螢幕碎裂、無法開機。你真正需要的可能是「是否運送損壞」「交給哪個處理類別」「急迫程度如何」,而不是另一封長篇回信。Decider 的用途,就是依你事先定義的選項與尺度,把內容轉成應用程式能接續處理的判斷。
直接試用:Decider V1.2 27B 官方模型入口 · 直接試用:Decider Flash V1.2 4B 官方模型入口 · 官方展示:Vercel 公告與程式範例
Vercel 在 2026 年 10 月 16 日宣布,AI Gateway 已加入 Perplexity Decider V1.2 27B 與 Decider Flash V1.2 4B。可從本文前方的兩個官方模型入口查看價格與操作選項;官方公告也附上 AI SDK、Decisions API 與相容介面的請求範例。本文是官方資料整理,未實際呼叫付費 API。
圖說:綠豆原創流程解說圖,依 Vercel 公告與 Perplexity 模型卡繪製。圖中客服文字是示意情境,沒有填入虛構機率;不是產品畫面、官方效果圖或模型實測。未找到適合展示功能的官方效果圖,因此以資訊圖補充。
三種回答,分別接到三種工作流程
- Boolean:回答是非問題,附上機率,適合先判斷訊息是否提到損壞等明確條件
- Choice:從你定義的類別中選擇,例如分到維修、物流或一般諮詢
- Score:依有順序的評分規準評估,先寫清楚每一級的意思,比只說「幫我評分」更容易檢查
輸入可包含文字、結構化 JSON 與圖片。機率不等於保證正確:應用程式仍需設定不確定時的處理方式,例如送交人工確認。這些功能適合輔助分類與分流,不能把模型結果當作已驗證事實。
同一份資料問多題,有時合併更合適
V1.2 的聯合請求讓多個問題共用同一份輸入。官方建議,把同一項目的相關屬性一起問,例如一件商品的類別、顏色與是否有可見損傷。但若是彼此競爭的獨立候選,例如很多文件各自是否相關,合併可能影響判斷;應比較分開送出與分組的效果。
Flash 版本也不能單憑「更小、更快」就推定回答一樣。它的模型卡提醒,多問題合併時的準確度可能不如各題分開;如果你的任務是大量標記資料,先用自己已知答案的一小批案例測試,再決定怎麼組請求。
費用怎麼看?先分清楚輸入單價
- Decider V1.2 27B:官方模型頁列輸入每百萬 token US$0.02
- Decider Flash V1.2 4B:官方模型頁列輸入每百萬 token US$0.01
- 上述為查核時的美元 API 輸入牌價,不是訂閱月費;輸出欄未列數字,本文不把空白解讀成零費用
圖片及請求模板也會占用模型輸入。實際帳單應以使用時的供應商與帳號設定為準;本篇沒有替讀者建立金鑰、登入測試或產生費用,也未驗證台灣個別帳號的額度、速率限制及可用選項。
長內容與本機部署,要注意這些限制
模型卡列出的最大序列長度為 262,144,但訓練長度約到 32K;不要把支援長度當成長文件品質保證。官方參考實作預設將圖片限制在約 1.6 百萬像素,多張圖片也會占用長度額度。
若想本機跑,官方參考實作要求 Python 3.12 以上及 CUDA:27B 的 BF16 權重約需 52 GiB,Flash 約需 9 GiB,還要另留執行記憶體。這是特定的判斷模型讀取方式,不能假設丟進一般聊天推論引擎就能得到相同格式與結果。模型卡對下載存取的文字與頁面狀態有不一致處,本文不保證所有人可直接下載;想先理解功能可優先查看 Gateway 官方範例。
綠豆的建議是先挑一個範圍小、答案可核對的任務,例如客服問題分類。把選項、評分尺度及人工接手條件寫清楚,再比較兩個版本與合併問題的方式,才知道這種便宜的專用判斷模型,是否真的適合你的工作流程。