2026年9月15日,美國新創公司TypeSafe AI以早期使用方式發表了Jev——一個完全不生成文字的AI模型。你把程式狀態與帶型別的問題交給它,它只回傳型別確定的判斷與機率。公司由ChatGPT基礎論文InstructGPT的共同作者Diogo Almeida領軍。本文依據官方文件,整理Jev以及該公司提出的新分類System One模型。
Jev是什麼
Jev是TypeSafe AI作為「第一個System One模型」發表的判斷專用模型,目前版本為jev-1.13。它與傳統大型語言模型(LLM)最大的差異在於輸出形式。
- 大型語言模型: 生成供人閱讀的文字。即使你需要結構化資料,也得先讓它寫成文字,再由程式解析
- Jev: 不生成文字。它接收程式狀態(state)與帶型別的問題(questions),回傳型別確定的值、機率分布與信賴度
官方把這個設計解釋為修正一種錯配:把文字生成系統硬扭成輸出結構化判斷。使用Jev時不需解析、不需重試,回傳值可以直接用於條件分支、排序或路由。
System One模型的思路
名稱源自丹尼爾·康納曼的「快思慢想」。長鏈推理與寫作屬於System 2,也就是大型語言模型擅長的領域;一瞬間完成的判斷屬於System 1,而Jev專攻後者。可以這樣掌握它的定位:凡是該領域專家五秒內就能判斷的事,用它大量且低延遲地處理。
三種提問方式(基本原語)
Jev支援三種問題,並且可以在一次API呼叫中混用。多個問題會針對同一狀態並行且彼此獨立地評估;依官方文件說明,增加問題幾乎不會改變回應時間。
- Choice(選擇): 從給定選項中選一個。回傳所選選項、所有選項的機率分布與信賴度。適合工單分流、文件類型判定。當選項可能不完備時,官方建議加入「其他」
- Score(評分): 沿著有順序的級別(例如:平靜中立/略有不滿/非常憤怒)給出位置,也可能落在兩級之間。適合嚴重程度、滿意度、熟練度的判定
- Noul(真偽): 針對一個陳述回傳0到1之間的機率。接近1.0代表「是」,接近0.5代表無法判斷。適合「這是否為錯誤回報」「這是否為退款要求」這類判斷
每個答案還會附上信賴度(confidence),表示機率分布的集中程度。這正是「只把不確定的情況交給人或大型語言模型」這種設計的著力點。
速度與價格(廠商公布值)
- 端到端回應時間為70到500毫秒。官方稱在同等智能要求的這類任務上,比前沿模型快40到200倍
- 價格為每百萬輸入詞元0.042美元(每十億詞元42美元)。輸出免費,只按輸入計費
- 速率上限為每秒25萬詞元、每分鐘1200次請求,官方稱會隨需求動態調整
- 每次請求的上下文上限為6.4萬詞元;狀態加上最長的單一問題上限為3.2萬詞元
- 僅支援文字輸入(字串、JSON物件或文字陣列),不支援圖像、音訊、影片
據TechCrunch報導,Vercel在分類任務上測得比原方案快5到18倍且精度更高,Bryo AI在電子郵件分類上發現成本比Gemini低10到20倍。這些都是廠商與採用企業公布的數據,宜視為「值得用自家資料複測」的線索,而非可直接套用的結論。
如何正確理解「不會幻覺」
Jev的宣傳語包括「不會出現型別錯誤,也不會幻覺」。它保證的是輸出的形式:不會回傳選項以外的值,也不會回傳損壞的JSON,因此解析錯誤與重試邏輯本身就不再需要。
但這不表示判斷內容一定正確。回傳的是經過校準的機率,機率0.7的判斷按設計約有三成會出錯。官方文件本身也建議依信賴度分流處理。把「不編造事實」與「永遠判斷正確」區分開來,是評估這個模型時最關鍵的一點。
官方公布的弱點
TypeSafe AI在官方文件中公開了jev-1.13的弱項。對於是否採用的決策,這一頁的參考價值最高。
- 計算與計數不可靠: 字元數、出現次數、清單項目數都不可靠,輸入越大誤差越大。文件明確寫道「Jev不是計算機」
- 日期與時間的比較較弱: 哪個日期在前、是否落在某個區間、相隔多久,判斷都不穩定
- 多跳推理能力弱: 需要追溯「屬性的屬性」的問題,以及雙重否定的表述,精度都會下降
- 混入無關資訊會降低精度: 狀態中與判斷無關的內容越多,結果越差
- 無法生成文字: 想用連續選擇拼出文字,既慢且效果差
- 指令按字面理解: 它回答「你寫下的問題」,因此邊界情況必須明確寫進判定標準
- 不保證抵禦對抗性輸入: 嵌入在狀態中的指令可能影響輸出
- 英語優先: 官方表示中文、日文等CJK語言「可以處理,但不及英語」
以中文使用時,較務實的做法是把指令與選項說明寫成英語,只把待判斷的正文保留為中文,並在實測精度的基礎上設計。
適合的使用場景
- 意圖路由: 對來件分類,分派到相應部門或處理流程
- 優先級與嚴重度判定: 用分數表示緊急程度,決定處理順序
- 護欄與監控: 以毫秒級判斷代理的輸入輸出是否違反政策,也被用於偵測大型模型的越獄
- 模型路由: 簡單請求交給便宜的模型,困難請求交給高效能模型
- 重新排序與檢索輔助: 候選排序、相關性判定
- 代理的分支決策: 把「下一步做什麼」的選擇權留在程式碼裡
與大型語言模型搭配才是正解
由於Jev不會寫文字,它的定位不是取代大型語言模型,而是放在其前端或後端。
- 大量判斷由Jev快速處理,只把信賴度低的情況升級給大型語言模型或人工(信賴度閘門)
- 複雜判斷不要寫成一個大問題,而是拆成小問題並在程式碼中合成
- 寫作交給大型語言模型,判斷交給Jev
如何開始使用
- 目前以早期使用方式提供,在主控台(console.typesafe.ai)建立API金鑰後即可使用
- 提供Python SDK、JavaScript/TypeScript SDK與HTTP API。預設模型別名為jev-latest,目前指向jev-1.13.0
- 認證使用環境變數TYPESAFE_API_KEY。官方也發布了面向Claude Code與Codex的代理技能
- 官方文件僅有英語版。價格、速率上限與使用條件都可能變動,動手前請在官方頁面確認最新條件
總結
Jev不是「大型語言模型的下一代」,而是承擔大型語言模型不擅長領域的另一個零件。在不需要生成文字的判斷上——分類、分流、評分、護欄——以高並發低延遲運行時效益明顯;而在計算、日期處理、文字生成,以及以中文為主的細微語意判斷上,則需要謹慎驗證。務實的第一步:在現有流程中找出「只讓大型語言模型做分類」的環節,把它換成Jev,實測延遲、成本與精度。
來源: TypeSafe AI官方部落格、官方文件、TechCrunch(2026年9月18日)。本文內容基於2026年9月19日確認的公開資訊。