代理運行時大戰本週打響
代理程式運行時是新的瀏覽器層,您的網站將根據運行時而不是任何單獨的模型進行評估。
這是網路專業人士尚未做出的轉變。對話仍然圍繞著模型展開。哪個模型寫得更好?哪一個引用的比較準確?這個月哪個API比較便宜?模型的討論很響亮,因為新模型每隔幾週就會發布一次,而且每次發布都是戲劇性的。
有趣的故事就在它的下面。基礎正在重建。這週的情況不容忽視。
運行時堆疊於四月發布
4 月 15 日,Cloudflare 發布了 Project Think,這是一個新的 Agents SDK,圍繞著具有崩潰恢復和檢查點功能的持久執行、作為獨立子代理運行的子代理、具有樹結構消息的持久會話以及在 Dynamic Workers 上運行的沙盒代碼執行而構建。在同一天的幾個小時內,OpenAI 發布了其 Agents SDK 的下一代版本,具有本機沙箱執行和模型本機工具。網路上最大的兩家基礎設施營運商對同一問題給出了相互競爭的答案,問題是:長期運行的人工智慧代理實際上如何在生產中運作?
然後,在 4 月 16 日,Cloudflare 又增加了 5 件作品。 AI Platform:與供應商無關的推理層,為代理路由模型。 AI 搜尋:向量索引加分塊管道,作為專門用於代理檢索的託管產品提供,在代理端 RAG 層與 Pinecone 和 Algolia 競爭,而不是與 Google AI 模式競爭。電子郵件服務處於公開測試版,旨在讓代理商可以使用世界上最通用的介面作為管道。 Workers 內部的 PlanetScale Postgres 和 MySQL。以及直接在 Cloudflare 網路上託管 Kimi K2.5 等超大型開源 LLM 的工程基礎。
桑達爾·皮查伊(Sundar Pichai)一周前描述了同樣的轉變。在 4 月 7 日與 Stripe 聯合創始人 John Collison 合作的 Cheeky Pint 播客中,他將 Search 本身稱為“代理管理器”:“很多信息搜索查詢將在 Search 中成為代理。您將完成任務。您將有許多線程在運行。”每個查詢的許多線程是搜索的運行時描述。谷歌執行長指出 Cloudflare 和 OpenAI 本週出貨的同一基材。
如果 OpenClaw 是針對消費者的代理網絡(可玩的演示、有趣的原型、可以做手勢的東西),那麼這就是針對成年人的代理網絡。耐用的。沙盒化。可審核。您實際經營業務所依賴的基礎設施類型。
所有這些的模式都是一件事:運行時。不是型號。不是消費者聊天應用程式。不是主題幻燈片。運行時是在給定檔案系統存取、給定網路存取和給定記憶體的情況下,代理程式啟動、持續數小時和數天的層。運行時層決定代理程式的會話是否能在崩潰後倖存、是否可以推理其子代理、是否包含其程式碼執行。
錯誤的問題和新的問題
網路專業人士在過去 18 個月裡一直在問錯誤的問題。問題是:我們應該優化哪一種人工智慧模型? ChatGPT 或克勞德或雙子座或困惑。誰的引用比較重要?我們該讓誰的爬蟲通過?當模型直接閱讀您的網站時,這種對話就有意義了。
他們不再這樣做了。模型讀取運行時傳遞給它的內容。運行時獲取了您的頁面。運行時解析它。運行時執行(或未執行)您的 JavaScript。運行時解析了您的結構化資料。運行時協商身份驗證。當模型看到您網站上的任何內容時,它就會看到運行時對其的解釋。
如果你認真對待本週,新的問題是你的網站在哪個代理運行時是可讀的。下週之前要測試三件事:
- 您最重要的端點是否傳回機器可讀的結構化回應,或者它們僅在完整的瀏覽器工作階段中正確呈現?
- 您的身份驗證範圍是否允許代表使用者行事的代理可以跨多個呼叫保持會話,還是僅支援一次性人工登入?
- 如果未執行您的 JavaScript 的運行時嘗試讀取您的結構化數據,那麼您的結構化資料是否仍然具有相同的含義?
這些是運行時可讀性問題。該模型與他們無關。運行時決定您的答案是否在模型的上下文視窗中,並且模型從運行時移交的任何內容中進行選擇。
網路管道正在重建。未來兩年的每個模型都將透過其中一個運行時(而不是直接)看到您的網站。從現在開始,您的網站的工作就是在運行時清晰易讀。
模型對話將繼續在會議舞台和主題幻燈片中進行。運行時對話發生在基礎設施公司的產品變更日誌中。提供運行時的公司將決定人工智慧搜尋和人工智慧商務存取哪些網站。別再問哪個型號了。開始詢問哪個運行時。
更多資源:
這篇文章最初發表在 No Hacks 上。
特色圖片:Viktoriia_M/Shutterstock
