[AI 衝擊] Jev:專為自動化決策而生的高速 AI 模型
摘要 : Jev 以高速、低成本與低幻覺,重新定義 AI 自動化流程中的決策節點。
內容:
Jev 是近期 AI 圈備受關注的新模型。它不聊天、不寫文章,也不協助撰寫程式,而是專注於一件事:做決定。使用者提供資料、問題與預設選項後,Jev 便會直接回傳各選項的機率。
Jev 於 9 月 15 日發布,由 Typesafe AI 開發。創辦人 Diego Omiada 曾參與打造 ChatGPT,也是 RLHF 訓練方法的共同發明人之一。他在完成 ChatGPT 後,花費兩年研究新的訓練方法,最終推出這款完全不以對話為核心的模型。
Jev 發布後迅速引發關注。創辦人的 X 貼文累積接近 3,000 萬次觀看,當天在工程師論壇 Hacker News 獲得 1,679 分與超過 400 則留言;隔天,Vercel 也將 Jev 上架至自家平台。
根據官方資料,Jev 的速度比主流大型語言模型快 20 至 200 倍,價格便宜 40 至 400 倍,而且輸出完全免費。無論輸出結果長短,都不收取輸出費用,只按照輸入的文字量計費,每 100 萬個 token 收取 0.042 美元。
Jev 的名稱取自經濟學中的「傑文斯悖論」(Jevons paradox),意指當一項資源變得更便宜、效率更高時,人們反而會使用得更多。
傳統大型語言模型如 ChatGPT、Claude,會逐字生成答案,思考與輸出越多,等待時間也越長。Jev 則不自行撰寫答案,只需要三項資訊:一份資料、一個問題,以及事先設定好的選項,便能直接計算每個選項的機率。
例如,將一張發票交給 Jeff,詢問是否有問題,並提供「正常、詐騙、需要人工檢查」三個選項,它可能在不到 0.3 秒內回覆:正常機率為 88%,其餘機率則分配給另外兩個選項。
如果把一般大型語言模型比喻為回答申論題,Jev 就是在作答選擇題。申論題需要逐句生成,速度較慢,也可能離題;選擇題只會從指定答案中選擇,因此速度更快,結果也不會超出預設範圍。這也是 Jev 能降低幻覺的原因,因為它沒有機會編造選項以外的答案。
目前 Jev 主要能處理三種問題:
第一種是是非題。使用者可以詢問某件事是否成立,Jev 會回傳一個介於 0 到 1 的機率,數值越接近 1,代表它越肯定。
例如,詢問某張發票是否為詐騙,Jev 可能回傳 90%。如果再加入常見詐騙特徵作為判斷條件,它便能依據更多資訊調整信心水準。企業也能設定自動化門檻,例如詐騙機率超過九成便自動拒絕退款,其餘案件再轉交真人客服處理,藉此節省大量人工審查時間。
第二種是單選題。使用者可以預先列出多個選項,Jev 會選出最合適的答案,同時提供每個選項的機率。選項最多可設定 255 個,每個選項也能附上簡短說明,協助模型理解其定義。
例如,可將 Jev 應用於電子郵件整理,讓它判斷每封信應被歸類到哪一個資料夾。
第三種是程度評分。部分問題並非非黑即白,而是需要判斷程度。使用者可以建立一套由低至高的評分標準,最多分成 11 個級距,再由 Jev 判斷目前狀況位於哪一個位置。
例如,企業可用它篩選潛在客戶:0 分代表沒有預算的學生、1 分代表小型團隊、2 分代表有明確需求與時程的公司、3 分則代表預算充足的大型企業。
若有大型企業透過網站表單詢問,Jev 可能給出 2.9 分。企業便可設定規則,當分數高於 2.5 時,立即通知業務主管,確保團隊能在當天快速回覆並爭取訂單。
整體而言,Jev 專門回答三類問題:「是不是」、「哪一個」以及「到什麼程度」。許多自動化工作流中的判斷邏輯,基本上都離不開這三種類型。
Jev 並非要取代功能全面的大型語言模型,也不適合直接用來開發完整產品。它更適合被放入自動化工作流中,擔任快速、便宜且低幻覺的決策節點。
例如,判斷一封信是否需要回覆、客服案件應轉交哪個部門,或留言是否為詐騙廣告。這類任務通常只需要一個選項作為答案,若使用昂貴且速度較慢的大型模型處理,容易造成時間與成本浪費。
Jev 的核心價值,就是把資料送進去後,不進行多餘對話,迅速提供可供後續規則使用的判斷結果,如同自動化流程中一個小而精準的智慧開關。


