談 Jev 發佈——當年身在OpenAI，我感受到了什麼叫無力…

《Latent Space》訪談：TypeSafe CEO Diogo 談 Jev 發佈（中文全譯）

視頻來源：https://www.youtube.com/watch?v=cFx9Z3ZXca0（時長約 2 小時 22 分）

譯註：本譯文基於視頻機器字幕整理。

開場（0:00–1:32）

開場片段（片尾引用）

……大概要花上一兩年，人們才能真正跟上。說實話我不知道要多久。如果模型質量真的重要，那我們會在很長時間裏處於非常有利的位置。但這事兒已經成了——它改變了技術史的走向。

主持人：進入本期節目前，說幾句話。謝謝你們。如果沒有你們願意點進來，我們沒法持續做你們顯然想看的 AI 工程、科學與娛樂內容。幾乎每天都有贊助商找上門，但幸運的是，有足夠多的人訂閱我們，讓這一切在不接廣告的情況下也能維持下去，我們也想一直保持這樣。只求大家一件事：點一下訂閱按鈕——這是完全免費的，也是你能爲節目做的最有力量的一件事。這是我唯一一次開口求人，它對我和每週辛苦做節目的團隊意義重大。只要你們點了，我保證我們永遠不會停止把節目做得更好。好，進入正題。

一、Jev 發佈周與 AI 經濟革命（1:32）

主持人：我們到錄音棚了。今天是個特別的日子——這周，我的好哥們 Diogo 發佈了 Jev，整個時間線都被它刷屏了。感覺如何？當"此刻的你"是什麼滋味？

Diogo：情緒上，從沒這麼糟過（笑）。我現在就是一具行屍走肉，事情實在太多，而我是技術型 CEO，有一堆火要救。但心態上——這話我常掛嘴邊，這幾年在我的各種線下活動裏反覆說——我覺得整個 AI 領域就像一個嘉年華鏡子迷宮，所有人都瘋了，說着最奇怪、根本講不通的話。而僅僅這一週，我感覺自己終於和現實同頻了："哦，原來大家現在看到了：AI 可以遠超人們曾經的想象。"是的，"一場基於 AI 的經濟革命"重新回到了桌面上。這太棒了。開發者們懂了，我特別嗨。我想向開發者們表達由衷的感激，爲社區和這一切感到興奮。

主持人：你昨天說，你決定優先開開發者 Town Hall（見面會），而不是去見一堆 VIP 投資人，因爲你想把注意力留給工程師和開發者。

Diogo：有時候那種感覺是"哦，我在跟非常重要的人說話"——我不該點名——但把社區放在日程表之外的位置，對我來說有點"髒"。我可能對人對事過於真誠了。理想狀態裏，我的日程應該全是社區。我甚至在想要不要在走來你錄音棚的路上順手辦一場 Town Hall，轉念一想：那也太瘋了吧。（笑）

主持人：你們一直在 Discord 上辦 Town Hall。Discord 現在 10 萬人了。還有你的 Twitter 數據——

Diogo：（清嗓）天哪，我的 Twitter 炸了。特別搞笑的是，AI Engineer 大會（AIE）那會兒我還在喊"求關注"，結果連自己的賬號都沒報。我是個菜鳥。

主持人：但這反而是正面氣場——你連自我營銷都不會。有人抓到你發"天哪，我們佔了三個熱搜詞"，結果人家發現那是你的個人推薦流。

Diogo：對，熱搜是按你點過的內容算的。

二、什麼是 Jev？System One 模型與可編程 AI（4:19）

主持人：恭喜。先給活在石頭底下的人一個"權威定義"：Jev 到底是什麼？

Diogo：（嘆氣）這問題真難。……我第一件鬆口氣的事是：以後不用再跟爸媽解釋了，ChatGPT 就能講明白。我的看法是：我們需要一個新的模型品類。我們不執着於給它命名；目前能想到的最準確名字是 System One 模型。我們不叫它"決策模型"是有原因的——System One 超越"決策"本身，我能說的就這麼多。我們沒料到這會成爲我們的"大發布"，我們手裏還有存貨。

主持人：你該說是"低調的研究預覽版"。（笑）

Diogo：也確實是。有一類模型，我們描述爲：機器原生、System One、大型、可編程。這個品類的目標是：讓代碼成爲消費者。與之相對——預訓練大語言模型是給"互聯網自動補全"用的；RLHF 模型（聊天機器人、指令跟隨模型）是給"回覆文本"用的；RLVR 則處在一個介於兩者之間的奇怪灰區。而這一類，是讓輸出直接被代碼消費——我們公司的名字 TypeSafe（類型安全）正是由此而來。我們真正想要的是讓 AI 儘可能強大，而我們相信路徑是把它與軟件集成。從最深的內部開始，一切都是爲軟件設計的。所以第一：Jev 是我們的第一個大型可編程模型。Jev 爲"每美元智能"（intelligence per dollar）優化——名字 Jev 就來自 Jevons（傑文斯）悖論。Jev 這個名字將屬於整個站在"每美元智能"前沿上的模型系列。

主持人：我最愛和人們爭論可靠性、成本、校準、速度哪個最重要。而校準是大家之前談得較少的新維度。我們以前和 Hugging Face 的 Clémentine（音）做過一期，正好呼應你對 RLHF 的整套批評：模型在 RLHF 後發生"衆數坍縮"，向"你最想聽的/最大概率"的答案收斂，而不是保留模型自己的內在置信度。

三、RLHF、衆數坍縮、校準與 Yann LeCun（7:26）

Diogo：我能就這個上肥皂箱講兩分鐘嗎？聽說你的聽衆是最技術的，我想講點真東西。我們的發佈視頻裏每一個內容我都以極高的精度覈對過"準確且真實"——據說這非常罕見。其中一個沒人注意的點，是 RLHF 的缺點，特別是衆數丟失（mode dropping）。

主持人：衆數坍縮。

Diogo：一回事。我以後會寫篇博客，但我想讓儘可能多的人知道這個。辛辣觀點來了：我很信 Yann LeCun，我認爲他的觀點在所有主流聲音裏是最接近正確的。

主持人：比如這條？（笑）

Diogo：他那張著名/ infamous 的幻燈片："LLM 註定完蛋"——餅圖裏只有一小角，說隨着序列變長，出錯的概率不斷累乘，整體正確率趨近於零。

主持人：對，那張。

Diogo：我特別愛這張圖，因爲它屬於那種"數學上顯而易見、經驗上顯然不成立"的東西。這正是我最愛教大家思考"脫節到底在哪"的案例。那麼，講講衆數坍縮吧——

主持人：衆數坍縮和這個有關係嗎？

Diogo：有關係。脫節的機理是：如果你維持的是一個"覆蓋衆數"、經過校準的分佈，那麼出現離羣輸出時你不會被過度懲罰——你應該預期：有些時候在分佈內、有些時候在分佈外。這就是"覆蓋分佈"的行爲，比如 GAN 之前的生成模型，生成的圖像都是模糊的。而 GAN 是衆數丟失：丟掉少數類，只做最常見的那些。這就是爲什麼 LeCun 說的那個效應不會發生：模型爲了生成很長的、不犯錯的文本，會變得極端保守——因爲錯誤很容易被看見，而那種"看起來對的微妙錯誤"很難被看見。這種（被 RLHF 強化的）校準，對文本的概率分佈是徹底的毒藥。我認爲：這就是爲什麼"長序列錯誤累乘"在經驗上不成立，也是爲什麼字符串模型天生不適合做決策——把字符串模型硬當決策模型用，是很糟糕的事。

主持人：既然提到 LeCun：你同意他的解法嗎——世界模型，JEPA 那類聯合嵌入預測架構？他擔心的正是"在 token 輸出上推理、再循環回去，直到生成結束"，而他的解是 JEPA。那是正解嗎，你有何看法？

Diogo：（哼笑）哥們，我大概不該多談 ML 內部細節。但我的風格除了"放飛"就是"實用"，連這個觀點也是實用的。我是 scaling law 粉嗎？看情況。scaling law 告訴你：投入多少資源，能換來多少提升——通常是指數級資源換次線性收益，聽起來是筆糟糕的投資，除非那些收益真的極其值錢。對我而言一切歸結爲：用手頭有的東西，做出最大可能的改變。我可以罵髒話嗎？

主持人：可以，我們是成人節目。（笑）

Diogo：另外，JEPA 是很棒的早期研究，我超愛這類研究。它現在實用了嗎？我大概不該說。我只是覺得：當下的研究世界裏遍地都是沒被打磨的鑽石，因爲人們不知道怎麼找到"正確的任務"。我們這次發佈爲公司踢了開門，也會爲"可編程 AI"這個方向踢開門。軟件被超充之後，本就會有一場建在它之上的淘金熱；但我認爲還會有一場平行的淘金熱——關於"還能用哪些方式把智能暴露給軟件"，讓人們做出更酷的東西。然後我們就回到早期互聯網的那種能量。這就是爲什麼 Twitter 上全是"Jev、Jev"。這很鼓舞人，因爲它與我們習慣的一切——"抱歉，你不能這麼做；scaling laws 只有大實驗室玩得起"——完全不同。

四、可編程 AI、拒答與安全對齊（11:59）

主持人：我要跑個題，你可能會喜歡。（我們已跑了五個題了。）Discord 上大家反覆問你、你還沒來得及解釋的問題是：你爲什麼反對安全對齊（safety alignment）？爲什麼 Jev 不拒答？

Diogo：我不反對"安全"這個原則，但我認爲安全對齊通常與用戶是對齊錯位的。拒答就是一個明顯的類型錯誤（type error）。你是個人類，在跟一個瓶子聊天——比如你在 Claude Code 裏寫代碼，突然彈一句"對不起，我不能讀 DNA.py"——很煩。煩，但你能忍，你被迫忍，因爲你得了斯德哥爾摩綜合徵。但換個場景：你把模型作爲依賴放在後臺跑，它拒答了怎麼辦？別人在用這個依賴，人家根本不瞭解那個系統。你要讓軟件因爲某個用戶發了條奇怪的消息就隨機崩潰？這是徹頭徹尾的瘋狂。這種設計來自一羣不懂軟件、不懂編程的人；他們執着於"AI 同事"這種"無馬馬車"式的想象，而不是去挖掘 AI 的全部力量。

主持人：你想要的是一個隨處可用的核心內核。

Diogo：對，認知內核（cognitive core）。你要它足夠通用、足夠爲其用例優化，能在所有未來用例、所有人正在搞的怪東西上工作——我們顯然沒在那些數據上訓練過。它在這些沒見過的東西上好用，意外嗎？不意外，因爲我們訓練過更怪的，朋友。（笑）回到安全對齊：我認爲安全對齊對"第一方產品"是有意義的，比如 ChatGPT、Claude。能力對齊與安全對齊的區別是：能力對齊是"做用戶想做的事"——對軟件工程師來說，他們要自己的東西幹活，而且越可預測，他們需要做的測試和調弄越少。我們現在離那一步還遠——還要再多好多好多個"9"，好到像數據庫查詢：你根本不用想，需要智能時它就在那裏。而安全對齊是指令跟隨的反面：它是"去聽從別人的指令"，比如 OpenAI 的指令。

主持人：正是。

Diogo：對產品來說這說得通——ChatGPT 不想提供 NSFW 角色扮演，隨他們；也許他們的用戶（有老有小）就是需要這樣，沒問題。但在 API 裏，這是瘋了。人們要在你的 API 之上編程，強制他們繞過你的拒答——這太反用戶了。我是個容易憤怒的人，我該冷靜下來。

主持人：大家感受到你的熱情，這很好。我提一個反駁：如果有人拿它去殺人呢？這纔是真正要緊的問題。它是私人的、個人的無所謂，但戰爭用途——公司完全可以合理地不希望自己的 API 被這麼用。

Diogo：我承認存在一些務實的立場可以那樣主張。但我不認爲"通用技術的基礎層"是那個地方。我個人當然希望我們的東西不被用來殺人；希望它被用於世上各種美好的事。我會不會爲此施加影響？會。但會在技術層嗎？絕對不會。因爲那會割裂智能（fracture the intelligence）。每一次你讓模型過擬合到某個奇怪的東西，都是在把它割得更碎——而它們現在已經被割得不成樣子了。再者，在我看來，智能未來更像數據庫而不是同事。我不認爲該由數據庫來加檢查、判斷自己是否被用於壞事（比如 CIA 乾的某些事——其實我也不清楚 CIA 到底幹什麼，你可以想象）。那不是數據庫的責任。還有件事讓我覺得奇怪：有人在 Slack 上註冊了我們的服務，然後問"我們要部署這個，我們能部署嗎？"我說兄弟，我們是 API，你是開發者，這不關我的事。理想情況下，我們甚至不該知道下游用戶在幹什麼——因爲任務應該被分解成小片段。這是一個好邊界，它給軟件工程師最大的權力。理想情況他們用它做好事，我們也願意幫忙——開源、慈善這些我們都聊過，但現在真的一點時間都沒有。但只要我當家，技術層裏就不會摻進任何這種偏向。

五、爲什麼 TypeSafe 拒絕公開基準（18:50）

主持人：趁這個話題，簡單聊聊你們的隱私條款和使用條款——之前有一些誤解，我想 upfront 幫你澄清：你們對 API 的限制其實並不嚴。從意識形態上講，你顯然非常認真地對待自己作爲"平臺"的角色。

Diogo：我不確定你指什麼。我猜是說 benchmark 那事。我們當然不會阻止人們做性能測試——哦等等，我得小心措辭。（笑）

主持人：你公開說過那是預覽期的條款；正式發佈已經拿掉了，你現在要去把它拿掉。

Diogo：團隊做了我都不知道的改動，很好，說明團隊內部溝通過了。我讓他們去跟律師覈對。我們顯然不會阻止人們做這類事，我非常支持。但我極其反對公開基準測試；對"作爲代理指標的私有基準"持中立態度。

主持人：是怕飽和，還是怕別人在公開榜上訓練？

Diogo：公開榜的問題不只是容易作弊。設想兩年後有一個行業，一堆人在做和我們類似的事——"50 個 Jev 克隆"。我們賣的是"每美元/每秒智能"。人們癡迷於成本和速度，但那只是"你花錢買了什麼東西"；真正重要的是智能本身。而智能的問題在於，它有一種"難以言說的氣質"（je ne sais quoi）——"好模型的 smell"。發佈兩小時後發生的事，其實比視頻本身影響還大："天哪，這東西真的能用。"大家能真切感受到我們有多在乎這一點——我認爲這纔是長期的根本。而公開基準與它背道而馳：公開基準是一種"建立對智能的信任"的方式，但它們極其、極其容易被刷，就算你不想刷也會刷。早年間，每家實驗室都有一個團隊專門去收集"長得像 MMLU"的數據來讓分數好看——那就是"刷榜"加了個工序。所以我相信：長期來看只能靠"手感（vibes）+ 信任"，直到你把它接進你自己的工作流、爲那個工作流做評估、得到屬於你自己的、對"我關心的那個工作流"的真實體感。而我們的職責，就是不斷抬升可靠性的"9"——這是公司永遠的日常。我們本可以犯傻一點：Jev 一年半前就能發。我說的"最苦的教訓"——

六、最苦的教訓：數據、算力與正確的任務（22:12）

主持人：展開講講， hell yeah。

Diogo：Sutton 大意是說"算法勝過算力"。但顯然，數據比算力重要得多，而"做對的任務、有一個北極星"是最難也最重要的事。這在 LLM 領域已經發生過兩次，也許算 2.2 次：RLHF 把任務轉向了"指令跟隨"——當時沒人意識到這是可能的；RLVR 對方向做了一個小小的編輯；然後是我們——RLCD——一個新任務：把程序放進環裏（programs in the loop）。數據重要得難以言表。你可以把我們叫"數據實驗室"而不是"模型實驗室"。模型能力=數據。數據複雜得不可思議，"9"都是數據掙來的。我們在無限地招數據人才——真的是無限。（笑）

主持人：什麼算好的數據人？顯然是那種真的會去逐條讀對話記錄的人。你們的語料全是合成的——

Diogo：對，但那只是表層。"合成"不等於"隨便生成"：我們讓一羣有品味、極其用心的人盯着數據，articulating 出哪裏不對，回去重新生成。數據人的工作複雜到——我給數據團隊做的 onboarding 演講，估計比這期播客還長。我試着講高層版：第零，數據和合成數據取決於任務——任務的形狀決定數據的形狀。RLVR 的數據更像"環境"；RLHF 的數據是人類反饋；每個任務有自己獨特的數據形態，我們也有我們獨有的那種。第一，我們不想用用戶數據訓練——哪怕現在我們幾乎可以要任何條款，用戶也會答應。我們是真不想要。因爲真實世界的數據偏置太重：存在一種冪律——人們反覆問同樣的東西——你會過擬合上去，然後被它割裂。第二，我們瞄準的是多年後的科幻未來：這些模型會成爲通用基礎設施，一層又一層深入棧底，深入到人們無法想象的地方。我希望大家這樣理解我們的模型：LLM 之於 UDP，我們之於 TCP——上面可以蓋各種東西。要接住那些未來用例，軟件才造得出未來。而方法是：哪怕我們拿到全部"當下"的數據，也只會過擬合於當下，然後就不好用了。我們的數據團隊像藝術家一樣研究我們的認知內核——我們的認知內核比任何人的都更平滑——他們找到毛刺（jaggedness），然後以外科手術式的方式處理它，而且處理方式追求"在所有可能的維度上泛化"，而不是隻修那一個精確案例。每一次都需要巨大的智能。

七、RLCD vs. RLHF 與 RLVR（26:30）

主持人：你之前批評過我的思維太 RLVR 化——很公平。那我們正式聊聊 RLCD。據我所知，你們從沒就它發表過論文。怎麼讓大家相信這不是你們爲了裝酷發明的黑話？像校準這種概念我認爲已經足夠普及，但 RLCD 相對於大家熟悉的 RLHF，到底是什麼？

Diogo：好問題。反問一個：RLHF 是什麼？其實 RLHF 一詞指過好幾樣東西。最原始的是 Paul Christiano 他們"教機器人後空翻"那篇（2017 年）——用人類偏好教強化學習去做難以指定的輸出。嚴格說 PPO 不一定來自"人類反饋"，但那是一類開放的對齊工作，能教會很難指定的行爲。然後是"Learning to Summarize"——OpenAI 那篇，把 PPO 用在語言模型上做不太良定義的事；那批人後來也合著了 InstructGPT / 指令跟隨論文。這篇我沒參與。

主持人：哦，Dario 也在作者列表裏。

Diogo：還有 Alec Radford。向 Alec 和 Ryan（Lowe）致意，愛他們。而我口中的"RLHF"，指的是指令跟隨這個任務本身。重點不在 PPO——算法不重要；重要的是它立了一個北極星："這是一個有價值的方向。"這就是"最苦的教訓"式的北極星思維。對我們來說，RLCD 就是這個新北極星：支持可編程 AI，把"人"從環裏移出去——因爲 RLHF 是爲"人在環裏"調校的，而我們要的是全部自動化、讓程序來消費智能。

主持人：我漏了什麼嗎？

Diogo：就一個細微之處：要實用。要清楚語言模型/AI 現在真正擅長什麼。有些"可編程"用法可能酷爆了，但技術還沒準備好——那就是自大。

主持人：聽着挺自大的。（笑）

Diogo：不，我是真信。而且早在這家公司存在之前我就這麼想了——

主持人：我可以作證，他說這些說了三年了。

Diogo：我一直在說，因爲我曾以爲這會很容易。有句話是"他們做成某事，不是因爲容易，而是因爲他們以爲容易"——大概這意思。我以爲這個項目一週就能搞定，結果錯得離譜，所以我要向 OpenAI 的所有人道歉。（笑）悲劇在於過度承諾、低交付——AI 在這條軸上極其嚴重，RLVR 和 RLHF 都是重犯。但潛力是真的在那兒。AI 顯然聰明得嚇人。我喜歡在我的演講裏問：AI 怎麼能聰明到解千禧年大獎難題，卻連最基礎的、最枯燥、最沒成就感的工作都自動化不了？這些工作不需要絕頂聰明的人；還有更好的事等這些人去做，但因爲自動化不了，我們還得讓他們幹這些最基本的活。我們手裏有一臺超強自動化引擎，卻沒有合適的"插頭"插進這些有經濟價值的工作裏。整個 TypeSafe 公司明天消失的話，人們可能要一兩年才能真正追上——我不知道具體多久。但如果模型質量重要，我們就會長期處在非常有利的地位。總之：這事兒成了，它改變了技術史的走向。

主持人：完全同意。我替你 paraphrase 一下給大家聽：不要把 TypeSafe 和 Jev 的成功理解爲"好了，現在多了一種模型類型，收工回去幹活"。不是的——還有至少五種別的模型類型值得探索。百花齊放。

Diogo：絕對。早期互聯網的能量回來了，技術烏托邦回來了。不再是"唉，有時我的編程 agent 能用，但最好的那些都被鎖在大廠內部"。**創造重新回到了菜單上。**這會是一個狂野的世界，繫好安全帶，我爲此超級興奮。

主持人：你現在有資金和勢能去做任何想做的事——說了這麼多年，終於做給世界看了，很 gratifying。

Diogo：一直當 tease 的感覺挺奇妙。我的演講像懸疑片，因爲我從不說自動化將如何發生。Sean 看了我們的宣言說"這幾段有點含糊"——第一步是什麼？智能到底是什麼？

主持人：我當時只要求"模型"，你說"模型在路上"。我只是不太喜歡"可組合（composable）"這個詞，但"可編程（programmable）"這個說法太棒了。

Diogo：謝謝，我們後來都團結在這個詞周圍了。我們希望我們不像某些公司那麼邪教（笑），但我們確實爲自己做的事瘋狂。順便，這是"祕密大師計劃"——《機器原生可組合 AI 的形態》。搞"祕密大師計劃"是你的主意，這是 Elon 的招：他做 Tesla 時就說"這是我們要做的"。

主持人：官方 credit 歸你。但你早該告訴我你們要發模型——你只講了一半的故事。你那時還沒有 Doom 演示，也沒有數字可給。

Diogo：問題是我不信刷榜（benchmaxing）。（笑）

主持人：對，所以"這東西你得親身感受"。我認爲這是建立長期信任的方式，雖然代價很大——去年融資時沒人信我們，他們就要基準數字，我們說不給；我們有原則，我們不會去獎勵壞行爲，隨你們怎麼看。

Diogo：某種意義上，選難走的路，最終你會得到一家你自己也願意在裏面工作的公司。不然你賣掉了原則，就只是"換了我的人的 OpenAI"。（笑）

八、發佈之後：數字、候補名單與"neo-lab"標籤（35:37–41:27）

Diogo：我對這條路沒什麼後悔的——它成功得難以置信。昨晚我講起離開 OpenAI 的原因時情緒上來了，因爲發佈之後我不得不改措辭。我原來的說法是：如果 AI 寒冬真的來了，而我沒有用盡一切可能去阻止它，我會視自己爲負個人責任的人——既爲 RLHF 這個方向（我認爲它極度拉大了"過度承諾 vs. 低交付"的差距），也爲沒有 all in 這個方向（我認爲價值將在這裏被印出來）。很酷的是：我擔心的那個 AI 寒冬，被避免了。AI 會有用、會被用於自動化。發佈不到一週，數字已經不可否認：它正在被用於真實工作。狂野西部來了。

主持人：有什麼能分享的數字嗎？註冊量之類的。

Diogo：我其實不在一線盯這些，都是團隊告訴我，而且每天都在變。一個已跨過的里程碑是每日 token 量——不是曇花一現的那種：連夜裏都在持續滾動，是機器在調用它，不只是人類在試用。一天一萬億 token 是很大的量，跨過它很酷。註冊量在我看來不重要。坦白說，候補名單（waitlist）是我們犯的一個小錯誤。Twitter 上有人叫我們"營銷天才"——其實我們沒有營銷，還在招人。我們只是做自己：真誠、呆萌、不敬。我們的平臺團隊強得離譜——在史無前例的發佈壓力下，正常運行時間比 Anthropic 還多好幾個"9"，向他們致敬。我們沒意識到的是：對開發者平臺來說，候補名單人數真的不重要——其中很多根本不是開發者。他們進來試兩條查詢，很多人懵了，因爲他們不寫程序："這啥？我的 ChatGPT 在哪？"我有個粗略的估計：**全世界每個人都寫兩條查詢，加起來與一個 power user 的一個 for 循環創造的價值相比，只是舍入誤差。**候補名單真正的教訓是：把人放進來沒問題，嚇人的是限流（rate limit）。一旦人們開始從中獲得價值，他們就要海量的限額——軟件就是這樣：你前期花力氣指定好你的重複性任務，然後這個任務創造的回報大於投入；你把它放到後臺跑，變成其他東西的依賴，再往上蓋更高層的東西，你就在世界上創造了巨大價值。早期互聯網的人大概想象不到 2000 年代初互聯網的奇觀——雖然那也不算"早期"互聯網了。而正是因爲可組合性，所有瘋狂的東西纔會發生。我在宣言裏特別想強調：**我們要的是湧現（emergence），要做催化劑，要賦能人們。**爲此我們什麼都願意做——開 Discord、辦我穿着垃圾袋的 Town Hall、上播客——爲了長談，讓大家越過表面、深入理解使命，讓共鳴的人加入你或購買你——

主持人：你是說"成爲客戶"。（笑）

Diogo：對，作爲客戶，抱歉。（笑）

主持人：一個很討喜的版本是：你的發佈視頻 3600 萬播放了。

Diogo：現在 3800 萬了。Nova Stokes 7400 萬、Fable 5 5700 萬【譯註：兩個名字按字幕音記，或有出入】。作爲 2026 年新實驗室（neo-lab）的發佈，你們現在排第一，挺瘋狂的。

Diogo：我有件 T 恤寫着"你最愛的 neo-lab 最愛的 neo-lab"，但我根本不在乎當 neo-lab。我們有好多惡搞 neo-lab 的周邊——其中一件寫着"有產品的 neo-lab"（它其實根本不是 neo-lab）。我不在乎標籤；我在乎的是當一個可靠的開發者平臺。希望我們超越這個敘事，回到"開發者的革命性時刻"和"人們可以依賴、信任的穩定之物"。

九、可靠性、穩健性與確定性（41:27）

主持人：你們講"可靠性"，我原以爲主要是校準那套（RLCD 的論點），但其實也包括 uptime、可擴展性……全都是"9"。

Diogo：那只是其中一部分。還有"智能層面的可靠性"：它有多一致地做到你要的事。大型推理模型在我看來非常聰明，但依然缺可靠性。很多用例看起來它們聰明到足以自動化、也有經濟動機去自動化，卻還是不夠可靠——連個實習生都不如，因爲它們爲別的東西做了優化。所以既有"敢於信任輸出"的可靠性，也還有很多讓我們興奮的維度。我想先自動化簡單的工作，再自動化難的工作——這是常識。會不會有"足夠可靠"的那一天？我不知道；我想做到人們不用試模型就知道它行。那就像編程裏的心流狀態：我就是因爲這裏需要智能而寫一條查詢；非平凡的分支邏輯，我用一條 TypeSafe System One 查詢寫出來，結果出來，分支就準確發生。那是夢，也是一段長征。

主持人：說到這個——我注意到 API 裏沒有 seed。同樣輸入永遠得到同樣輸出嗎？如果不能，爲什麼？

Diogo：好問題，這是我們內部的常見爭論。可靠性是個大雜燴：AI 自動化不了什麼，歸根結底都是某種可靠性問題——類型安全也好、確定性也好，或者就是"坑坑窪窪"。確定性=同進同出。我認爲它對單元測試略有價值，但它是錯誤的北極星。我認爲人們真正想要的是穩健性（robustness）：相似輸入得到相似輸出。LLM 有多不穩？我們的一個測試：在 prompt 裏放 UUID、放無意義詞（nonsense tokens）——語義完全相同的問題的所有變體，你期望得到相似的輸出。那正是人們被"AI 做決策"坑慘的地方。所以穩健性極其重要。確定性我們也可以提供——就我對程序員的心智模型，某些用例確實有價值；請來評論區教育我。但一般來說，確定性是可以拿去換成本的東西。我們要隨時釘在"每美元智能"的帕累託前沿上，爲此我們做着絕對噁心的事——

主持人：說說嘛。

Diogo：我說了不該說的，也沒人攔我。（笑）比如"自己給自己的 PR 籤核"，在這家公司是不存在的。順便，本週我最想表揚我的幕僚長 Kay——她可能是科技界最有權力的人，這一切都是她安排的，她極其能幹。呃，她很糟，別來挖她。（笑）大家勸我別說"模型的弗蘭肯斯坦縫合怪"，因爲觀感不好。但弗蘭肯斯坦的怪物在原著裏纔是好人吧——它是無辜的。

主持人：我沒讀過原著。想看改編的話，某個版本還行。你現在沒時間讀書——你的優先級是：睡覺、開發者、開發者、開發者。

Diogo：對。總之：我們做着絕對噁心的事待在"每美元智能"的帕累託曲線上，還會繼續瘋狂。人們需要跳出框框思考——大家之所以驚訝，部分原因就是大家一直在框內思考。我們現在顯然是這條線上的最佳，而且想保持最佳。

主持人：等等——你從哪岔出來的？我問的是 seed 和確定性，你給我定義了可靠性。

Diogo：（補一個一分鐘穩健性例子，然後）再說一句：如果有人能說服我們"確定性是有價值的"，而且我們沒有巨大的 GPU 短缺，我們可以高高興興把模型做成確定性的——我們活着就是爲了服務大家。但確定性會讓你損失"每美元智能"。

主持人：鑑於 OpenAI 的軌跡，你會被用戶壓力推着做的。就算你告訴他們不需要，他們也想要。這就是 TLDR。

Diogo：好吧，也許哪天會發生。他們說我們品牌的一部分叫"不可動搖"——翻譯過來就是"固執"。我確實非常固執；不固執，我們也走不到今天。

主持人：我跟你爭論過，每次你對開發者的判斷都是對的。我服了。（笑）不過我的意思是：給我正確的證據，你是會扔掉先驗、說"嗯，這有道理"的那種人。

Diogo：我懷疑我們會長期受 GPU 約束。任何"每美元智能"更低的東西，都意味着同樣的智能燒更多 GPU。我們的目標不是讓公司來註冊——那有價值——我們的目標是讓人們實驗、搞怪，把智能交到儘可能多的手裏，掀起加州淘金熱。而且淘金熱現在已經在燃燒了。

主持人：一個提醒，因爲肯定有人在想：當你說"我們不承諾確定性""爲了每美元智能什麼都願意做""我們受 GPU 約束"，人們會想：你們可能量化（quantize）模型——把發佈時的模型悄悄降質去省顯存帶寬。也許該公開承諾"發佈時的模型質量不變"。

Diogo：發佈之後不改模型？！這想法太瘋了。我們在乎開發者。第一方產品可以隨便改——那是它們的產品體驗，隨它們；但 API 顯然不能這麼幹。不過我要說：我們的節奏會比大家習慣的模型提供商快得多，我們會比大家以爲的更快地發新模型，也不承諾舊模型的長期支持（LTS），因爲有太多改進要做。有一種可能：我們會暫時給現在的 Jev 1.13.0 做 LTS——太多人在用，我知道開發者恨斷依賴。替代方案是割裂我們的集羣——養 100 個不同版本的模型，對誰都是壞消息；迭代快的話版本會更多。我們想要一種真正優雅的 LTS 方案，有相關研究在醞釀，它會是最"親開發者"的東西。但我不會承諾永遠保持完全相同的模型——它們只會一次比一次聰明。而且我的感覺是：我們模型版本之間的差異，已經比字符串模型同一版本調用兩次的差異還小。真正的大 delta，發生在"從坑坑窪窪到 wow"的跨越上。

主持人：LTS 模型還有個美妙之處：可以移植到其他芯片上。想過嗎？

Diogo：無可奉告。（笑）

十、速度與"每美元智能"（49:45）

主持人：那速度呢？你說在乎"每美元智能"——那"每秒智能"呢？

Diogo：再說。這是過去一年爆發的整個推理技術樹——你可以搬到 Cerebras 或 Etched 上拿十萬倍加速。"每美元·每秒智能"這種複合指標我們都討論過。我對 Jev 系列的判斷——我在公司內部追着人強調的是：不管它多聰明，必須處於"次前沿"（pre-frontier）。這就是 Jev 的品牌：它是"每美元智能"的最佳，而不是"每秒智能"。很多行業強依賴實時性，"每秒智能"對它們意味着真金白銀。我願意兩個都做，讓市場來糾偏。

主持人：這不只是實時性的問題，還有規模：規模大了，每一微秒都乘以幾十億、幾萬億。後臺批處理類查詢（數據庫 MapReduce 類的）延遲不那麼敏感，成本更重要；但實時用戶側有 100 毫秒甚至 1 秒以內這種魔法預算線——哪怕你已經在 100 毫秒內，把時間再砍一半，意味着兩倍智能、或兩倍串行智能調用，體驗天差地別。

Diogo：對，這些都很酷。我愛"每秒智能"的用例，但我不認爲那會是 Jev 的生態位。另外注意行業慣例是"更快但更貴"，而 Jev 站住了"更快且更便宜"的象限——在智能大致不變的前提下。

主持人：這個前提很難。

Diogo："智能大致不變"是承重牆。（笑）我們不發公開基準，但內部當然有評測，而且要靠極高的自律不去刷它——"不刷自己的評測"是最高優先級。不然我們怎麼保證模型在"每美元智能"的前沿上？我們不是盲飛：把所有變體畫在同一張圖上，爲用戶找最優點。我不反測量；但當存在任何替代激勵時，測量就極度危險。這是我要鐵腕統治的少數幾件事之一：對自己模型的"有多聰明"不自欺，保持求真。

十一、Jev 的 API 與編程原語（55:35）

主持人：接下來過一遍 API 設計的細節，因爲只有這個播客會問你這些問題。你們有三個原語：choice、score、nool。先問：nool 這名字哪來的？文獻裏有嗎？

Diogo：現在有了（笑）。我們辯論了很久。它是"布爾型"的——true/false——但它是連續的。名字取自**伯努利（Bernoulli）**分佈——所以拼寫才那麼怪。我們想過叫 "pool"，想搞 "pool party"，沒人讓我。（笑）最後 nool 勝出。Jev 的名字同理：我們是一羣不敬的瘋子，而程序員不在乎——Jev 就是個字符串，我們沒指望它火，也沒指望出諧音梗。內部其實很多人恨這個名字，後來都道歉了，除了一個人——她堅持想讓 Jev 叫 "Meow"（喵）。

主持人：她當然會。（笑）

Diogo：我們不得不爲這些東西發明新概念：如果叫 bool，人們會困惑。三個原語都是編程裏不存在的新類型——這是故意的：它們貼近現有類型，但不完全一樣。Score 不是 int——如果你用 instructor 或 pydantic 之類把 int/float 映射成 score，會有點小慘。我們寧可犧牲"一眼看懂"，也要保清晰。Score 大致相當於"LM 評審打分"；nool 更像概率——不過對我們來說一切都是概率；choice 最接近函數調用——而函數調用是個極其噁心的東西【譯註：嘉賓此處提到"OpenAI 式的函數調用"，說稍後展開】。choice 就是把 switch/match 暴露出來的正確方式：它乾淨地映射到枚舉（enum），你想的話可以再水合成函數調用——enum-choice 纔是核心。這三個都映射到編程原語：**choice→枚舉上的 switch 語句；nool→if 語句；score→排序或大於/小於閾值判斷。**這就是一直以來的願景：未來會有更多類型，都映射到編程原語。

十二、如何用 Jev 構建：結構化、分解與小決策（1:00:00）

主持人：這一段是給決定 all-in Jev 的人的。你是專家——API 的選擇、confidence 的用法、測試的關鍵、給點 pro tips。

Diogo：謝謝，我沒想到有人問這個——大概幾個月沒人問了，上一次還是給 DevRel（開發者關係團隊）onboarding 的時候。我們的模型是爲"未來深入程序內部"設計的。我們真的（不開玩笑）相信：這會比人們今天能想到的一切都大得多。我們的模型也許還沒準備好，但我們在持續爲那個未來工作；我們不會一直堆"淺任務"的分——我們要深入軟件的內臟，因爲那纔是讓軟件強大的方式。輸入的部分——state、instructions、criteria——全都可以是結構化 JSON 對象，這樣程序能把它們插進正確的位置，不需要塞模板。很多人沒讀到位，以爲全是字符串。如果你還在把東西套進模板拼成 system message，那是舊思維的寫法。我們應該讓計算機更容易理解——那個結構是真實存在的。在編程語言裏，把所有數字轉成字符串再傳遞，通常只是爲了"打印給人看"；計算機內部應該到處傳遞語義化的嵌套結構。我們會持續把模型往這個方向優化——模型已經相當爲此優化了——雖然每一層嵌套都讓推理更難。這個方向值得大家繼續做，因爲它讓代碼更可讀、更漂亮、與實現細節解耦。把它想成 AI 函數：我的狀態（所有可用變量）的哪個子集應該傳進來？System message 就是噁心的全局變量——什麼都往裏塞、所有指令一次全給，然後祈禱每條都被執行，而不是把問題並行拆開問。

另外我真心建議（不是從"幫我賺錢"的角度）：多問、多拆，把問題變小——不管今天的模型能不能單步做到。我認爲這一週最大的紅利將是：大家的 AI 代碼庫會變得好非常多。把問題分解成簡單決策，每一條都極其可評估。以前的模式是：一個巨大的 system prompt，再加一個更大的 AI 去檢查"它有沒有照做"——瘋了，那是斯德哥爾摩綜合徵。你想要"別讀這個子目錄""別把 API key 傳給 DeepSeek"這類約束被程序化地基本保證。機器學習模型永遠沒有保證，但通過分解，你可以測量：可以驗證它真的被調用了。我們的接口本身高度可驗證——這應該讓你鬆一口氣，它會帶來好得多的工程。

主持人：過去大家不這麼做，是因爲以前調小模型又慢又貴。我自己就做過基準：一個大 system prompt 一次大輸出 vs. 拆成 100 個小問題——後者更慢、更貴、效果還更差。

Diogo：會發生，而且極其不方便、笨拙——爲什麼不一次搞定？問題之間還得重複一些上下文，顯得低效。但結果是一個很難依賴的東西。而軟件需要能在後臺跑——如果我們的東西不能在後臺跑，我會心碎。

主持人：那有沒有你們驗證過的"怎麼分解"的方法論？大家會拿你當參考："哦，原來 Jev 該這麼用。"

Diogo：我喜歡把事情拆到最小的語義單元——最低層的東西是什麼？我可能是調用這個模型最多的人。我的查詢寫得極其結構化、顯式；問題裏我喜歡用反引號（backticks）標明我指的是什麼——對所有模型都有用。我們要模型非常"字面"（literal），因爲編程要的就是指令跟隨極其到位。編程的藝術是指定指令；AI 的意義是擴展"可被遵循的指令"的種類。生產級的大東西，你要讓"加問題"變得極其容易，對每個拆分都精確，讓代碼擁有你想要的精確行爲。舉個關於拒答的小例子：你不該問"這裏我該拒答嗎"——那是 System One 兼容的任務，答案會不錯；但你遠不如去問一堆相互獨立的問題，覆蓋你想拒答的各種具體情形——這樣你可以精確指定你想要什麼。妙處在於：如果你發現"它沒拒答，因爲這個情形我沒指定"——太棒了，這就是軟件工程：把那個問題加進去、加上閾值、也許記住它作爲測試用例，然後就永遠解決了。軟件不會像 prompt 那樣因爲上下文腐爛（context rot）忘掉這件事；它就在那裏，你可以永遠測量下去。就算模型在有些事上不完美，你也可以基於真實樣本給每個因素選閾值——這就像"沒有 ML 的 ML"。當然有些事模型還不夠好——看到有人拿模型做自動交易我就有點慌：看起來很酷，但那是極高層的難任務，建議交給專業人士；就算模型夠好，有效市場也會讓它突然"不夠好"。你可以把它拆開、逐項評估，然後說"這個版本還不夠聰明，先不上"，或者權衡取捨、偏向安全，或者"模型檢測不出'VIP 客戶的諷刺語氣'這種怪組合——到這條線就升級人工"。這也是置信度估計的用途。

主持人：快速追問：你依然把"閾值"當用戶可拉的槓桿。但如果校準本身錯了呢？

Diogo：我沒說校準完美。

主持人：對——完美校準只意味着"概率高值高、低值低"，但它可能局部錯位，那我就想微調（fine-tune），而你們不提供。

Diogo：哦，你是問我們要不要提供微調。可以想象它在牌桌上。我有顧慮，屬於"人們需要的 vs. 人們想要的"那一類：通用模型的優勢在於通用性——把模型爲一百萬個其他任務調好，反而可能損害它在這個窄任務邊緣情況上的表現，我會有點怕。我的答案：可以想象。OpenAI、Claude 甚至 Gemini 都上過微調又下架——所以現在微調基本是開源模型的領域了。

主持人：是。

Diogo：我聽說過，那玩意兒確實挺爛，下架也許更好——它可能就是個 footgun；告訴人們"微調大概率是錯誤方向"是好事。另一個有趣的答案是：我們的模型如此不同——就像量化不適用於我們、輸出 token 不適用於我們——微調也許也不適用於我們？我對此持開放態度。聲明：這不是承諾，是願望，我喜歡保持誠實。隨着"每美元智能"越來越便宜，我們可以做很小、近似的、希望是智能代理物的東西。有沒有一個世界，人們不再寫正則表達式，因爲調用 AI 的每美元智能比維護一個正則的複雜度還便宜？那太酷了。有些窄用例可能確實需要微調才能過閾值，走着瞧。我希望校準能做到：校準 + 模型瀑布（cascade）——置信度超高就直接用小模型；居中的話，再鏈到下一個更大的模型。我不知道會怎樣，但可以想象。再想象一下：假設我們擁有整個"每美元智能"前沿——黑客也許願意麪對一組帕累託前沿的模型；企業可能想要更動態的：不同尺寸的模型，按你棧中不同部分需要的智能程度動態選擇。甚至因爲我們的東西如此簡單，可以想象在上面做自動微調。完全不是承諾，我在科幻。

主持人：但你會考慮不同尺寸的 Jev 模型？

Diogo：絕對會。我怎麼知道人們需要多少智能？需求是無限的。現在大家叫我們別發新東西——"已經夠好了"。但這有點 lame。我喜歡這句話，也希望你們拿它監督我（因爲很難收回）："文化，就是市場不獎勵你時你做的事。"我覺得我們代表着一些東西。也許未來我們代表的東西變得如此顯然，我們就成了無聊的 Visa——沒人多想的公用事業，我改穿非粉色西裝。但我想繼續召集世界：我想繼續做酷的東西，不是因爲需要，而是因爲我想讓人們意識到那只是開始。那甚至不是開場炮，只是"低調的研究預覽"。機器原生智能還有很多可做的。

主持人：所以不止一種尺寸，也可能不止一個模型？

Diogo：絕對。我想滿足一切我們能滿足的需求——但帶一個巨大警告：我不想成爲那種什麼都往牆上扔的產品團隊，一切要在一個統一願景之下。回到宣言：一切都要落在這三根軸上。這三根不是 checklist，是我們認爲構成"新一次技術革命"地基的軸。我們所有的賭注都要落在其中。模型方面我們會做一些非常怪異的事——因爲是機器原生：用戶不需要完全理解，只需要有價值。

主持人：給個提示？"怪"長什麼樣？

Diogo：有人在管它們叫"決策模型"。我們的原語確實是決策，但我不這麼叫——因爲還有不是決策的機器原生類型。就說到這。

主持人：很好玩的提示。有人說"我一年前就做過決策模型，Jev 不新不酷"。但你們建立了一個品類；而且就你們拿到的數字看，你們還在贏所有克隆品。

Diogo：先說清楚：我不在乎基準——贏或輸我都不想給你們彈藥。品類是我們立的；而"決策模型 vs. System One"這個區別正是關鍵：**我只是想讓軟件工程師被 AI 超充。**悲劇的是：AI 曾經如此強大卻被如此低度利用。這是讓我情緒化的點。我不想當純粹的科技樂觀主義者、說"什麼技術都是好的"——當下發生的一切是一種浪費（travesty）。我只想爲人們打開那些可能性。這幾天我哭太多了（笑），就不在節目裏哭了。

主持人：謝謝你的真誠，大家看得出你的熱忱。從"TypeSafe AI"這名字可看不出來，但一旦沉浸進來就知道：你真的想讓世界朝一個不同的方向走，而且你完成了 0 到 1 最難的部分——現在是大家一起往新方向走。

Diogo：我不確定"最難的部分已完成"——後面還有很多難的部分。如果各種東西都被自動化、GDP 增長終於出現、天天開 Jev 派對，那也許算完成。我不這麼認爲。我真的認爲大家過分關注速度和成本，對可靠性關注太少——可靠性才帶來愉悅，可靠性才讓你敢於信任。

主持人：你有句話："TFP 5 年增長 3%。"

Diogo：沒錯。我從沒見過哪家實驗室在乎 TFP（全要素生產率）增長。但經濟革命就是這個——這其實與 OpenAI 章程曾經代表的東西高度一致。他們後來試圖挪動定義，變成"1000 億利潤"什麼的。AGI 本來就缺乏良定義——"完成全世界大部分經濟價值工作"。他們應該回答：爲什麼它能解千禧年大獎難題，卻在"全球經濟價值工作"上的貢獻是零、是舍入誤差？我認爲現在所有模型在這一項上大致並列零。也許我們已經開始貢獻了，但我猜還沒到 1%。等它真的發生，會顯現在經濟統計裏，會很棒。**它不會造成大規模失業，但會帶來一堆很棒的轉變，世界會好很多。**而且我真的累了——AI 總是當"前臺主角"。世界應該只是變得更愉悅，AI 只是幫忙，然後隱入背景。

主持人：正是。

Diogo：我在演講裏問：2019 年的軟件——SaaS——多麼有價值；到現在 2026 年，除了一側多了個"有時好用"的聊天框，軟件幾乎一模一樣，爲什麼？而那個聊天框還不允許你做公司有利害關係的決策，因爲它們不被信任到能做決策——這很瘋。經濟激勵巨大。我認爲這會是一次"反向 SaaS 末日"（inverse SaaS-pocalypse）：SaaS 會被超充，因爲它們最清楚什麼東西值得自動化。會是個瘋狂的時代。

主持人：我也這麼想。你解鎖了很美的東西。還有個問題：什麼是 System One 問題、什麼不是？什麼是 System Two 問題？

Diogo：難倒我了，因爲大家現在在"萬物皆 Jev"（jev everything）——大概率會失敗（笑），但有些東西會很好。說實話，這是個經驗問題，就像 scaling laws 是經驗的。爲什麼機器人到現在還不行，錢花了那麼多？我不覺得是錢的問題——經驗結果可能就是不在那裏。我的經驗信念：預訓練出來的"智能超濃縮物"本質上是 System One 思考者——System One 最貼切地描述了 LLM 強在哪。RLVR 對 System Two 思考做了不可思議的事，我充滿敬畏，超級酷；我完全不認爲它會帶來 AI 末日——當然不等於 0%，說 0% 纔是不校準的。他們把它推到了極限——也許他們自己不覺得到極限了——但讓模型做這個很怪，它們非常脆弱。想想 ChatGPT 時代大家怎麼說 AI："很通用，很多事都能幹，但數學不行"——GSM8K 小學數學；再聽現在大家怎麼聊 RLVR："太脆了、太坑坑窪窪了，爲什麼它能做這件怪事卻做不了那件？"其實數學不只是尖峯狀，是分形的。因爲各家的北極星不同：RLHF 的北極星是"取悅人類"——人類反饋就是這個意思；RLVR 優化的是基準——所有能歸入 RLVR 的東西按定義都是基準，因爲基準=可程序化驗證的簡單輸出；RLCD 是"爲程序化使用而可靠"。

主持人：我補一個觀察，你來糾正：第一天拿到訪問權我就把 Jev 扔到一堆任務上。單跳（single-hop）推理 Fantastic、SOTA——單跳你永遠不該用別的；多跳（multi-hop）開始掉，且隨跳數單調惡化。

Diogo：對。回到經驗問題：取決於我們能從模型裏挖出什麼。我們想要一切——把智能儘可能多地挖出來，不加限定。我視我們的工作爲"解鎖、抹平、雕琢智能，同時添加新能力、填補缺口"。我們會隨時間填補越來越多缺口；但現實是：我們的生意是"挖掘性質（properties）"，而這些性質是這些濃縮內核所擁有的東西的函數——我們再把它們 frankenstein（縫合）到一起，湊齊一切性質。所以，凡是在這個範式裏管用的，就是 System One-ish 的。這也是我們不做"字符串裏推理"（顯式思維鏈文本）的原因——模型真正擅長的推理是模型內部的推理（連續推理）。它不完全、也不總是最好，但——

主持人：我以爲 latent reasoning 指"權重內部的推理"，大家以前叫它連續推理；叫 latent 是因爲當年思維鏈是保密的，對答案來說是隱變量。

Diogo：對，"隱祕的部分"移動了。對 OpenAI/Anthropic 來說思維鏈依然保密。Jev 沒有推理（no reasoning）——就我而論永遠不會有，因爲那違背 System One 的整個承諾。我承諾的是"爲機器原生做一切必要之事"。我可以想象存在一些不那麼慢、低效、脆弱的推理形式在牌桌上——務實的人不對方法做承諾，只對"每美元智能"這個 ROI 北極星做承諾，併爲它戰鬥——就像這次發佈沒發生過、我們仍對這個世界的位置飢渴。

主持人：視覺（vision）呢——又一個你沒有的大能力，也許它根本不屬於 System One。

Diogo：我的視覺挺好的。（笑）抱歉，開個玩笑。大家第一想要的當然是視覺（因爲 Doom 演示）；而且文本之外一切皆是視覺。**一切都在牌桌上。**這其實是個內部辯論：給人們"我們認爲他們想要的"（我們在 stealth 裏幹了兩年，因爲我們知道這顯然有價值），還是給人們"他們說他們想要的"？維度很多。上下文長度就是一個例子：包括我們在內的每一家——我認爲我們是長上下文不退化方面遙遙領先的最佳——而別家就是"用戶要什麼就給什麼"。我們需要找到平衡：把"給人們我們認爲他們想要的"推過頭，就會變成 Anthropic 保姆國家式的思維，非常反開發者；親開發者的路線是"給他們想要的"，但也不能把"辨別智能 je ne sais quoi"的負擔壓給開發者。我們在摸索：如何把握髮布節奏，同時維護信任品牌、把用戶當能做知情決定的成年人對待。說實話我們也不知道答案——接下來幾天這大概會是我最大的辯論之一。我們還有很多存貨，畢竟沒料到會爆。

主持人：沒料到？我看了你這兩個月的投入，從沒見你這狠（lock in）。你出現在我們的寫作工作坊，我心想"你怎麼在這"——但真有用。你對發佈非常有意圖，成果說明一切。

Diogo：那是因爲我的幕僚長逼我 lock in。我以爲我以前夠拼了。我會繼續拼。我們已跨過很多大過濾器，後面還有更多，而我超級興奮去打這場好仗。

主持人：在聊 TypeSafe 之外的話題前，還有什麼被低估或被誤解的點？

Diogo：我可以對每一項 rant。算了，真不該。去我們 Discord 看：Cookbook 裏被放了很多愛——有火的東西。我們曾考慮把這些塞進主發佈博客，但太長太 power-user 向。坦白說，發佈前這一切聽起來像個奇怪的外星工具："爲什麼有人需要這個？"我們非常擔心"教育"會成爲巨大瓶頸，花了很多心血。它顯然成功了——而且不再成問題，因爲大家做的事已經遠超我們能演示的範圍，用例比我們的還酷。比如 computer use，酷斃了。Cookbook 不是 AI 生成的垃圾：每個例子都來自真實客戶問題的解法，是真金白銀的乾貨（alpha）。

主持人：發佈前你們做了多少驗證？流程什麼樣？

Diogo：說實話，發佈前的反饋挺糟。非技術同事非常擔憂、充滿恐懼："沒人 get 到，也沒人想要。我們在賣維生素而不是止痛藥。要不要僱全職工程師去解決'這個'？"發佈前我們幾乎沒有收入。技術同事當然是信徒——計算性質在好多軸上爆表，我們覺得"這顯然會巨大"。我確實非常害怕，所以才拼成那樣。最常見的經歷：超過一半試玩的人就是 get 不到；get 到的人說"很酷，但這怎麼過我們公司的採購流程？"很艱難。我們當時就知道：目標市場是開發者，用例會被找到，然後所有人 FOMO 湧入。我不嘲諷人們"事實變了所以改主意"，但我想質疑"產品市場契合（PMF）"這個概念：產品存在，市場存在——"你想用嗎？""不知道哎，好像解決不了我們的問題。"然後它爆了，所有人喊"給我們最多的限額！我們 literally 可以送你 GPU 嗎——我們現在（自己）受限了"。當然營銷是一個因素，但我甚至覺得核心不是營銷，是熱情：開發者的靈魂跟我們共振在同一頻率，那個共振又點燃了所有人。我希望我們公司對那些開發者永遠永遠心懷感激——不是那種"從開發者起家再轉企業"的公司。我甚至在想怎麼發佈一些"對開發者比對對企業更好"的東西——怎麼賦能他們。我有大廚（在憋大招），但這是個很怪的做法，我不知道還能怎麼表達感謝與忠誠。這也是我昨天染頭髮的原因——在公司最重要的時刻不來跟他們說話，我覺得髒。請拿這句話監督我：我會講原則。引用我、掛我；如果我變了，你們就舉起草叉。

十三、Computer Use、暗數據與最大用例（1:34:53）

主持人：給大家放個片段。（播放演示：語音讓模型操作電腦——"把標題改成 hello""打開 Arc 瀏覽器，Google 搜 Norbert""打開 X.com""打開這張照片"；頁面刷新出"傳聞 Anthropic 工程師把 Claude 當神拜"——）

Diogo：（笑）好笑。而你正在建生產環境。（諷刺）

主持人：所以 Jev 作爲"決策模型"可以語音操作整臺電腦。

Diogo：我反刷榜，也反"演示片"。我要確保它可靠地工作。大家玩它、用它，我超愛；我想要我們的團隊玩、找到弱點、解決它。剛纔那段真的很酷，我想要——手腕痠痛時我就能全程語音流式輸入，那太爽了。

主持人：收尾用例側：哪些大公司找上門、想要做的什麼讓你驚訝？

Diogo：我完全脫節，但人們給我看的截圖——"是所有公司"。給在大公司工作的朋友們：去搜，去搜。幾個大類：demo 很酷；編程 agent 是巨大的用例，也超酷——Claude Code 現在全押 Jev。哦，我能跑題聊聊編程 agent 嗎？——先講最大的用例家族，發佈前我們從第一性原理就畫好了：第一，"暗數據（dark data）"：大家囤了大數據卻捨不得扔 LLM 去分析，因爲太貴。大公司愛死這個了——成堆想分析而沒分析的數據，這是數據科學家的美夢。我認爲這個+編程 agent 是最大的印鈔機，因爲量在那兒。第二，實時：需要在環裏要智能的場景。我猜那些公司的 CEO 甚至 CTO 都知道每省 10 毫秒產品好多少——尤其電商。還有各種 AI 助手類產品，就我所知他們非常愛。我對遊戲也超級興奮：想玩超酷的自動戰鬥類（auto battler）遊戲，你指揮你的隊伍——但別做得太好，趁我還沒失業。（笑）第三，"驗證一切"（verify everything）：驗證所有 LLM 調用，類似可觀測性。文檔方面說一句：並行提問很便宜——如果你有一個大狀態、想問很多問題，給每條消息打上 ID，對每個 ID 提一個問題。這樣那個狀態只付一次錢，對裏面每條消息問海量問題——省錢的好方法。順帶，"System One vs. System Two"這個框架的有趣推論是：你每做一次推理（reasoning）調用，就該配一次、十次或一百次 Jev 調用。

Diogo：（笑）也許吧。我希望大家少花錢：一半的推理調用+每個十次 Jev，或任何能解決問題、以前不存在的組合。第四類用例我稱爲"智能軟件"：天生可組合、能幹以前不可能的怪酷事的軟件。比如"把編程語言變成 Jev"那類項目你見過嗎？酷斃了。如果我們已經搞定發額度（credits）的機制——我們基礎設施還很早期——我想給這些項目都發額度。computer use 也算湧進了"實時"方向；如果它可靠我非常興奮——它有點出乎我們意料，我懷疑我們能把這個方向的模型做得更好得多。

十四、Jev 如何重塑編程 Agent（1:40:20）

Diogo：現在說編程 agent，正發生的、非常驚人的一件事：Claude Code 和 Codex 是第一第二——我不完全確定排名，大概如此。它們是圍繞"單一模型世界"構建的，很合理，因爲此前這是場"一個模型的遊戲"——你買的本質是同一個模型的不同智能檔。而所有開放的編程 agent 現在都嗨了，因爲拿到了自己的"Jevon"。我確定他們在試各種怪東西。但所有編程 agent 大致都在"近似平手"，因爲一個循環裏你能做的事就那麼多。可一旦有人找到某個"只有他家的 agent 能做"的殺手用例，所有人都會湧過去——他對那件事有壟斷。但所有開放 agent 都能抄走它。而 Claude Code 和 Codex 會怎麼辦，我不知道，因爲它們被"單模型世界"的結構鎖住了。這會讓編程 agent 的遊戲變得超級怪異，我很興奮。我個人想跟所有人集成；也許他們將來會做競品，我不知道——但作爲"推理基礎設施"，我的工作不是在這上面站隊，我只想服務世界。我已經讓我團隊審我寫的一份內部文檔：我認爲對編程 agent 有用的設計模式，希望我走回家的路上就能發佈。如果我沒這份工作，我現在真想自己玩編程 agent。

主持人：他們肯定也想跟你合作。Claude Code 與你們配合還有用例可挖。

十五、AI 安全、前沿節奏與 RLVR 的侷限（1:42:32）

主持人：把話題拉出 TypeSafe。給點空間聊對齊與安全。歐洲這邊的研究者圈在聊什麼？我最近去了一個研究者聚會，大家真心擔心"節奏（pacing）"——"我們該不該放慢？公衆顯然沒準備好"。你肯定有強烈的觀點。

Diogo：這是危險話題，但我爲危險而生（笑），我們公司的品牌是混亂和不敬。你在 OpenAI 時趕上了最早那批非常顯眼的事故之一——"the blip"【譯註：所指事故無法從字幕確認】——而現在每家前沿實驗室都聯名簽署了一份文件，說要對前沿"踩節奏"【譯註：原句在字幕中被截斷】。

這是個非常複雜、微妙的事，我想正式寫一篇回應，這裏先給短版：RLVR 其實並不真的關乎"可驗證獎勵"——這在推理革命之前就一直在失效。奇怪的恰恰是"任務"這件事。來點有趣的歷史：RLHF 崛起時，後來被統稱"後訓練（post-training）"的其實有三股不同的努力，而"指令跟隨"是其中最不受待見的崽子——大家不喜歡它、不想考慮它、嫌煩。我跟預訓練團隊說"這纔是魔法"，他們說"我們跑了那麼多模型 sweep，你要我們等人類評估來決定用哪個模型？"資源都堆給 codegen 團隊——他們確實有些成功，但他們在單元測試上硬做 RL，顯然不奏效——那需要推理。所以 RLVR 不純關於獎勵，而是關於"一切的形狀"，包括把推理——那個隱變量——包進來：在中間步驟放任模型自由發揮，讓它儘可能強大地回答最難的問題。

而"給前沿踩節奏"的整個討論聚焦太窄：它假設所有人都需要做更多 RLVR。我顯然不認爲我們的模型需要 RLVR——對我們的形狀來說，最優量是零。所以這有點像偷換概念的戲法：他們實際上想說"我們想繼續做那個看起來危險的事，因爲它確實做危險的事"。有人說"沙箱也許有問題"——顯然有問題，他們本可以輕鬆解決，但選擇不解決：因爲讓模型在"do anything"類別裏做得越多，模型就越強大。我認爲那是種責任稀釋：必須做 RLVR，不只必須做，還必須做得越來越多，還要在中間給模型"爲所欲爲"的權力——因爲那教會它們在外部也強大，而我們不想限制那些東西，因爲會讓模型在那些事上稍微弱一點。如果假設這一切，那當然"我們要進入一個危險世界了，大家小心"。**所有這些內部自洽，但起點是一個存在替代方案的前提。**想想"最苦的教訓"方向：真正找到"正確任務"（新北極星）的人極少——對 LLM 本身而言大概 2.2 次：RLHF 一次，RLCD（我們）一次，RLVR 在我看來算 0.2——已經很給面子了，0.5 或整 1 也行，我不在乎。但人們在這件事上思維太封閉。這裏唯一該負責的是研究者，絕不是公衆——公衆只是默認 OpenAI/Anthropic 已經盡了全力，而他們不是那個知道"真正的可選性"的專家。

主持人：公平。你也在做喚醒他們的事。

Diogo：我盡力而爲。但我的目標不是說服實驗室走別的方向，而是點燃軟件工程師的希望——去真正自動化他們一直想自動化的東西。我寫過一篇文章（團隊沒讓我發）講我想要的 AI 未來，裏面有很多小事，比如"do what I mean（按我的意思做，而不是照字面）"。想象一切都能 do what I mean——那個演示就是 do what I mean：計算機如此基礎、如此字面，所以一直做不到，而那個 computer use 演示就是它。世界上會發生"順滑程度"的階梯，人們還理解不了。到處都是智能的承諾——我不想過度承諾，不會馬上發生，但我們會竭盡所能。

主持人：後訓練的總體形狀還有什麼想說的？你在 mid-training（中期訓練）上也深度參與過，我們好像從沒聊過。

十六、爲什麼 Diogo 拿 10 億美元也不會去預訓練（1:49:38）

Diogo：一切都是光譜。mid-training 本質是更花哨的 curriculum（課程學習），也算省錢的把戲——不用重新預訓練。有意思的東西。我其實認爲智能在每一層都有 je ne sais quoi，永遠超級迷人。我是"形狀旋轉者"（shape rotator，ML 黑話：癡迷張量/矩陣運算的人），我不擅長髮現這些，但我愛別人發現並教給我；看數據這件事，我們數據團隊比我強太多。我喜歡思考能力是如何被放進模型的：短期是微調帶來的快速"對齊"；長期是反覆見到之後越烙越深、越來越 robust——那纔是浮出水面的北極星，而 System One 的東西就是最終變得 robust 的東西。所以 mid-training 很迷人。我擁護一切訓練形式、一切浮現新型智能的形式；我自己不都做，因爲貴。我私下說過——該不該公開說？（笑）我的哲學是：**能私下對投資人說的話，就該公開對大家說。**所以我之前說過：**給我 10 億美元，我也不會去預訓練。**我至今仍然相信。如果你是 AI 工程師，你可以切片切塊、縫合——"Frankensteining"不是最優雅漂亮的事，但它解決問題，寶貝。除了重訓，什麼都可以。

主持人：綜合你所有的評論，一個有趣的方向：我們會有一個包含一切能力的"超級模型"，還是繼續拆分？OpenAI 曾走向 omni 模型（4o 是其一），後來一段時間又變成"chat tune 一個、coding tune 一個"的主分支。

Diogo：多模態有點不同：有時其他模態有幫助，有時有害。人們似乎正在遠離語音（speech，區別於 audio），因爲它對其他東西泛化不好——這也許會被解決。我擁護這一切，但這些是真實的經驗問題。Scaling laws 不是"扔錢進去就變好"——scaling law 務實地回答"這個東西到底有多好"；存在無論怎麼 scale 都不夠好的世界。比如 computer use 目前沒被解決——我希望我們能出一份力——也許我們收集再多數據也解決不了，也許需要更好的方法。要非常務實。我是 omni 模型粉嗎？我擁護一切形式的智能，但我要直接切進一個不同點——後訓練，因爲我恨割裂智能。這是壞事。"chat 優先 + reasoning 模式"的整套做法迫使智能被割裂：優化 chat 基本就是純 RLHF，而 RLHF 內在地會做人們天然抱怨的那些事——

主持人：完全正確。諂媚（sycophancy——這詞怎麼念來着）、過度自信、幻覺，還有那種在 LMArena 上喫香的文風：粗體、斜體、emoji、不直接回答問題、先長篇大論再反問你一個跟進問題，顯得像真人。

Diogo：這些都源於"字符串"太怪了。你需要不校準、需要丟衆數、需要過度自信，纔不會脫軌——因爲獎勵模型會在錯誤明顯時狠罰你。這把概率空間整個扭曲了，而且和推理模型的空間互相作用——模型是簡單的線性外推器，傾向於作弊。我認爲那和"暴露智能"是非常不同的事；而智能的很大一部分藝術是研究這種微妙性——至少我在 OpenAI 時沒人真正研究它，大家滿腦子"chat、chat、chat"，就像現在大家圍着 Jev 轉。你給我一個目標，我就一門心思優化它；但如果你有兩個目標想同時優化——那 literally 就是"割裂"這個行爲本身。

主持人：某種意義上你也在把智能分裂成 System One / System Two，只是你不認同別人割裂的方式——

Diogo：不一樣（笑）。讓我爲 System Two 任務辯護一下：第一，我們並不丟棄 System Two 任務。你可以讓 Jev 處理它，而聰明的答案是"未知"——System Two 任務裏也有更好和更差的行爲：應該表現出非常低的置信度、大量不確定性，也許一些啓發式能有所幫助。我們在乎它們，只是那不是智能"原生"所在，所以我們不割裂任何東西。所有割裂都讓模型變蠢。比如人們想讓模型自稱"我是 OpenAI/Qwen/Claude"——我不知道現在模型會說什麼——我們不把"你是 TypeSafe 的 Jev"塞進模型，那會割裂它。我要它代表"互聯網認爲什麼"，要正確——那才能得到平滑、可預測的智能。身份這東西，第一方產品也許需要；對 API 我不覺得需要——用 ChatGPT 做聊天機器人的人想讓 bot 自稱"Chipotle"，而不是 ChatGPT。

主持人：所以你們用 skill 補——Jev skill，讓編碼 agent 與 Jev 協作。

十七、TypeSafe 背後的 OpenAI 故事（1:56:48）

主持人：收尾問題。回顧你兩年多的創業旅程——

Diogo：我覺得更像四年。

主持人：我還記得你感恩節前後的"英雄衝刺"：所有人放假，你說"我要把空閒 GPU 全佔了幹這件事"。

Diogo：好時光。那是 pre-TypeSafe 時刻。那是不是政變（coup）發生的時候？

主持人：好像正是。

Diogo：（笑）是。我現在沒時間倒政變的茶，但那確實很煩——是政變煩，不是衝刺煩。安全派接管了公司。總之，下次聊我再倒政變的茶。這個問題其實 ChatGPT 發佈前就在我腦子裏了："天哪，ChatGPT 團隊在幹正事。他們在做 AI 研究者不擅長、而成功的產品人擅長的事——極度在乎體驗。"這種人在 OpenAI 很少，他們幹得極好。順便，這就是 GPT-3 到 3.5 的整個旅程，包括 AI Dungeon——你聊過的、我們從未預測到的用例。哦還有，我曾爲部署 InstructGPT 做過極其艱難的鬥爭。它最早的版本甚至用的是我們自己沒發表的算法（我寫的，因爲清洗 PPO 數據太慢）。我覺得"這太好了，必須交到用戶手裏"——它基本立刻拿下了當時 LLM 市場 50% 的份額。我盡最大努力保證我們發佈視頻裏每句話是真的；我當時真的在想："這算 AGI 嗎？它在'指令進、指令出'上超越人類。"顯然不是，但我覺得每個人都該有個"爲什麼它不是 AGI"的答案，因爲它看起來非常聰明。我的答案是：它最終只被用於文案寫作——Jasper AI、Copy.ai——就是現在網頁上被稱爲 slop 的東西。我們擔心我們把互聯網變得更糟了。我回到畫板前想：缺了什麼？我們顯然聰明，創造價值卻缺了什麼？我當時在做更多哲學思考。答案是：機器。我問自己的問題是：從"一場基於 AI 的經濟革命"倒推——當它發生時，如果 AI 是 API，調用 AI 的會是人類還是代碼？我判斷絕大部分會是代碼。而當時所有的優化都砸在"人類"那一側。然後我悟了：**這就是北極星。**我寫了文檔，跟 Sam 聊，Sam 說"這太好了，你應該去做這個"。我說"好好好，Sam，我有工作呢"。

主持人：Sam 都說了去做，去做啊。（笑）

Diogo：我當時想：這也太明顯了，Anthropic 肯定已經在做了，我們完了。實際上 OpenAI 更擅長追趕而不是原創——ChatGPT 就是 Claude 的拷貝：他們內部有類似的東西，只是沒發佈。Claude 最早在 Slack 裏。推理嘛，OpenAI 算第一個——但作爲產品好不好有爭議；研究是極好的研究，只是我不確定人們當時有那個產品需求。Claude 也做了編程 agent。反正 Sam 說完我就回去幹活了。後來指令跟隨團隊宣佈"我們贏了，指令跟隨已解決，不用再做了"。我想接下來幹嘛，也許就把這個玩起來？我做更多哲學、設計、思考。開始訓模型時我以爲要一週，結果花了好幾年。某個時刻我看到"生命跡象"——它顯然沒成功，否則我們就部署了——但我想探索"如果 research 上徹底 all in 這個方向會怎樣"。因爲說過的話：如果 AI 寒冬來臨，我會覺得自己個人有責。我談了幾家公司："我想就這個方向開個實驗室。"有興趣；我問他們"哪個更快，這樣還是創業"，他們說創業。我說行，we ball，我們做點瘋狂的。然後你打電話給 Eric 和 Sasha——

Diogo：我先打的 Eric。Sasha 我其實沒想挖她——我想做好人："我是不是瘋了？是不是漏了什麼？我是不是在 OpenAI 信息繭房裏，沒想到這問題必有解？"然後 Sasha 說"我加入"。我說"Sasha，你在創業公司工作啊"。她說"我現在正在關掉它"。我說"你要不要想一下？"她說"哦對，讓我想想"（笑）。然後她加入了。兩週內我們拿到了融資，大家搬進我的公寓——糟透了，我是潔癖。我們持續 cook，最終得到了那個顯示生命跡象的研究。瘋狂的時期。所以問題是：你——一個此刻在前沿實驗室、爲拿不到 funding/資源/關注而沮喪的人——該怎麼做？你該學我嗎？

十八、爲什麼 Diogo 認爲大多數 Neo-Lab 都搞錯了（2:03:15）

Diogo：迷人的問題。怎麼回答纔不燒橋（笑）。我的感覺：除非存在某種我不理解的經濟學，大多數 neo-lab 是垃圾。我不想跟他們爲伍。我理解不了：第一，我不太"看重研究者"這個身份。看我的"最苦的教訓"：我們需要研究者，但需要他們極度在乎"正確的任務"——這纔是重要的。所以人們按"純研究血統"來估值其實是反的，因爲那通常不創造價值。第一，我相信北極星任務和做真正有用的酷東西。第二，正因爲我不看重研究血統，我不推薦"反正總有人能從中獲利/也許在這個環境裏可以"的路線。從純務實視角，創建 neo-lab 不創造價值，反而在毀滅價值：從零重做已有工作，而真正推動前沿的概率很低。據我聊過的大多數 neo-lab，他們沒有方向，只想拿錢做自己的實驗。如果他們有方向，我超級支持。所以我的建議取決於你爲什麼做這件事：如果你是想玩研究的研究者，實驗室大概就是最好的地方，說真的。我建議大家別做那樣的人：由"解決真實問題"驅動對世界更好——這些問題可以是探索性的，沒關係，但最好有原則。如果你真的認爲自己在做"正確的任務"，請務必做——請打破這種單一心智。"給前沿踩節奏"正是來自那一種 AI 觀：AI 超級天才卻極其坑坑窪窪——它是可解的、怪異的、與現實不匹配的。這是悲劇性的。真正挖掘出來的技術，我認爲就是好的。

主持人：替 OpenAI/Anthropic 的人說句公道話——順便我也聊過 SpaceX——這更多是政治問題，而非純技術問題。

Diogo：一旦他們告訴我"這是關於 2028 年選舉的"——

主持人：（笑）希望我沒聽到。這氛圍太糟了。

Diogo：不是整個公司，只是那個房間裏的討論。

主持人：那倒是說得通。這讓我對人性有點失望，也許我只是個天真的技術樂觀主義者。"政府裏誰在掌權"開始真的重要，將幫助監管這些新興事物。作爲實驗室，你大概該想清楚。

Diogo：完全同意，在這上面有立場很重要。我個人害怕誤導人們，因爲那會反噬。疫情（COVID）期間發生的事就是：人們過度依賴訴諸權威和過度自信，來讓別人按某種方式行事；而（當時的）應對顯然極不理想，漣漪般的下游後果現在對世界極壞。也許我天真，但哪怕爲了"更大的善"或他們以爲的更大的善，我也不喜歡誤導。"爲什麼是現在（why now）"這種敘事，在風險與目標之間就有誤導性——裏面潛藏着某種鬼祟，值得指出來、值得承認。當然，如果他們真想操縱，他們是不會承認的——那是壞策略。這對我來說只是爲世界感到悲哀。

主持人：希望我們永遠不捲入那種事。

Diogo：也許做大之後不可避免，但我想盡可能保持純技術主義者的底色。Jev 當總統算了——我信任 Jev 的判斷勝過信任我自己的。（笑）

主持人：少發帖。好——你選定了北極星：可靠性、可編程、可組合、便宜。那麼，有什麼第二、第三個方向，你想"扔骨頭"給別人——你希望別人去做、而你自己不會做的任務？

十九、掙脫 KV Cache 暴政的編程 Agent 與多智能體未來（2:09:29）

Diogo：天哪，這問題太好了。給一個好玩的和一個有價值也好玩的。好玩的：**如果遊戲有智能，可以酷斃。**看大家玩"AI 的 Doom 演示"，NPC 可以控制各種東西——那只是概念驗證，但真能做出很酷的東西。我是《星露穀物語》鐵粉，它那麼靜態還是那麼迷人——如果能長出好多酷故事呢？你不需要在遊戲主循環裏調 Jev——太貴了——哪怕給 NPC 簡單的狀態機都能造出迷人的世界。有點傷心我不能做這些了，我的人生軌跡已經定了。

主持人：你可以打電話讓別人做，你再給反饋。（笑）

Diogo：我真正想探索的是：把編程 agent 從"KV cache 的暴政"中解放出來。也許不如真·編程 agent 好，但有太多怪東西可以想。所以我寫了那篇《KV Cache Rules Everything Around Me》【譯註：戲仿 Wu-Tang Clan 的 C.R.E.A.M.（Cash Rules Everything Around Me）】。它解釋了很多東西：爲什麼路由很難、爲什麼子 agent 似乎不 work、爲什麼 compaction（上下文壓縮）這麼難。我準備再發一篇文檔——我團隊可能否了我，因爲信不信由你，這裏我說了不算——內容是我的思考，請大家玩、請大家想出"一旦從 KV cache 暴政中解放，編程 agent 能做的所有事"。KV cache 把你鎖進單一模型；爲了高效你還必須不斷 append——於是你就做不了最佳軟件實踐了：狀態管理、抽象、分解。爲什麼不能給子 agent 一個更簡單的任務？因爲你傳遞的狀態。爲什麼不能聰明點？我覺得這裏有大量真正酷的研究：不同的編程模式，像大家在玩的遞歸語言模型（RLM）。想想：顯式標註一切的狀態；編程 agent 按分解視角一次幹一個子任務，爲什麼要把全部狀態傳回父任務？爲什麼不能聰明地處理？如果你有一棵帶標註的子任務樹，爲什麼不能在需要時對那棵樹做搜索、取回相關上下文？如果上下文變得便宜，爲什麼不能便宜地回看你的歷史上下文？每次從零開始、然後需要解決一個叫"持續學習"的問題，這其實很怪——那本質是內存管理問題，因爲你沒有查內存的聰明方式。如果你隨時都能查呢？如果並行子 agent 能互相讀對方的狀態呢？一切都在計算機內存裏，聰明地決定誰讀誰寫，你的 agent 集羣帶着鎖、智能地協調——而不是"蠢鎖"：誰先寫？Jev 說了算。（笑）只讀進程也一樣：有人喜歡"agent 在幹什麼"的摘要——爲什麼只讀 agent 不能輕鬆共享狀態——它讀一部分上下文、判斷什麼值得說、探索不重要，或者給它子任務樹。如果有真正聰明的人花大力氣重新發明編程 agent 體驗，那會超級酷。

主持人：那是我的夢。沒看過的話推薦 Prime Agent，配合 RLM 方向；我們剛聊過 Alex——Allen 的朋友，坐你前面那把椅子（之前那期嘉賓）。是的，有人在做，只是還不流行。

Diogo：對，我希望大家都去玩怪東西。我不保證成功，但從技術視角極其有趣。等我們搞定發額度，我想給這類項目發額度。

二十、結尾：OpenAI 心結、招聘與"智能的 AWS"（2:15:56）

主持人：總之恭喜。你和我初見時相比走了很遠，整個團隊也是。你現在充滿能量——因爲你找到了自己的使命：多年抱怨問題之後，你終於把它 articulates 出來，還做成了。

Diogo：部分原因是我自稱"創業性 0%"。我不喜歡創業公司，我這輩子從沒想過當 CEO。無法想象有人幹兩次，看起來很可怕——幹一次就夠嗆。第一次融資時投資人問我"你最崇拜哪些 CEO"，我說"呃，我爲什麼要崇拜那些人？"（無意冒犯。）我見過很多真正的好人，但成名的那批人似乎衣櫃裏都有不少骷髏。在 OpenAI 時我確實感到無力——現在說真話容易些了，因爲至少有證據證明那個方向走得通。當時就像在瘋人院裏，所有人都是"ChatGPT、ChatGPT"。"我們把 ChatGPT 放哪？怎麼讓 ChatGPT 對開發者更好？"我心想你們在說什麼？**函數調用（function calling）接口太瘋了，你們爲什麼要部署它？**對開發者如此敵意——hack 之上的 hack 之上的 hack。我常說（這也是現在沒時間展開的茶）：我要退出一切涉及函數調用的項目，除非每個函數自帶一個合法的偏置——非常簡單的要求——類似置信度但沒校準、或一個概率。用戶需要控制能力：假設動作是"拒答/允許"，不同的應用需要不同的拒答閾值【譯註：字幕此處疑似人名"Disney"，無法確認】——而如今用函數調用控制它的唯一方法是在 prompt 裏說"拜託了（pretty please）"。那是給開發者的瘋子接口，人們已經忍了這麼多年。現在的編碼 agent 也一樣：它們對現有 harness 高度過擬合，所以對外部工具和 MCP 用得不太好；爲什麼大公司不允許一點點微調，讓模型"多調用這個工具，它真的有用"？而解決方案是在 system message 裏苦苦哀求。瘋了。

主持人：聊這些真爽。感謝做客。你會去做驚天動地的事，期待你的下一次大發布。

Diogo：等着吧，比你想象的還快。

主持人：（招什麼人？）基建的人吧。營銷嗎？

Diogo：看你怎麼問——按我說我是個不錯的創始營銷官；按我團隊說："閉嘴 Diogo，去幹 CEO 的活。"（笑）是的，創始營銷。不只是 spicy 的事——你有獨特天賦，但有時你只需要說"我懂營銷"。沒什麼比面對撲面而來的待辦更能教會你授權了。招數據人——我們叫他們"模型能力（model capabilities）"——但他們是數據人。"data"在行業裏近乎髒話，我們這裏非常 pro-data，而且我要他們的地位是最高的，和真正做模型的人平起平坐——好吧這話說出來有點怪：我要人人平等，但要把數據的價值擺正。（笑："至少我比別人更平等。"）我不喜歡奇怪的等級制。公司裏我最自豪的一件事：他們沒那麼尊重我——或者不表現出來——他們 troll 我、跟我開玩笑、有時"欺負"我。我覺得這是好文化的標誌。我們在招平臺工程師、把 Jev 鋪向各地的人。我們對部署位置更敏感，因爲光速更成了瓶頸。我爲歐洲用戶難過：因爲沒有當地服務器，他們只體驗到"3 倍快"而不是"100 倍快"。

主持人：瘋了吧。

Diogo：沒事，歐洲的生活節奏本來就慢。（笑）

主持人：我都不敢說這句。

Diogo：或者說"到處都要"：如果"每秒智能"成爲重要指標，我們就要無處不在。如果開發者基於我們構建，我在乎你。我們還在招人做"更多形狀的智能"——目標不是隻當"Jev 公司"，而是發佈更多形狀的智能。不想做"簡單模型"的一招鮮；我認爲會有一個"智能的 AWS"。

主持人：而那個人會是你。

Diogo：說"是我"太自大。但那是我想走的方向，我會竭盡所能促成它。那會非常非常酷。我們現在玩的是 System One 智能——想想分層：這是它的 TCP，上面還有七層要蓋，誰知道還有什麼。順便我還向 Temporal（工作流引擎）pitch 過——"Temporal 是七層之外的第 8 層"。（笑）好了，能聊到天荒地老，你得回去幹活或睡覺了。

主持人：謝謝你來。

Diogo：不客氣，很愉快，兄弟。超級興奮。超級興奮。我的第一次。（節目結束）