這就是 AWS 推出的 Strands Agent SDK 的邏輯基礎(chǔ)。Strands 采用模型驅(qū)動(dòng)的方法,讓大型語(yǔ)言模型(LLM)能夠自主處理 Agent 可能遇到的任何場(chǎng)景,省去了所有預(yù)設(shè)工作流程和復(fù)雜協(xié)調(diào)代碼,還提高了 Agent 的準(zhǔn)確性和代碼可維護(hù)性。

目前 Strands Agent SDK 已經(jīng)開(kāi)源,本次新增支持 TypeScript,同時(shí)支持邊緣設(shè)備,自五月份以來(lái)下載量已超過(guò) 500 萬(wàn)次。

下一個(gè)問(wèn)題是,如何讓 Agent 穩(wěn)定、安全、大規(guī)模地跑在生產(chǎn)環(huán)境?這就進(jìn)入亞馬遜云科技的另一個(gè)重要產(chǎn)品:Amazon Bedrock AgentCore。

企業(yè)使用 Agent 很容易遇到一個(gè)問(wèn)題:demo 很簡(jiǎn)單,生產(chǎn)很復(fù)雜。從 0 到數(shù)千并發(fā) Agent 的能力;會(huì)話上下文、長(zhǎng)期偏好、場(chǎng)景化語(yǔ)義都要保留;要能為 Agent 管控 API、用戶、數(shù)據(jù)的最小訪問(wèn)范圍;要與企業(yè)系統(tǒng)、數(shù)據(jù)庫(kù)、第三方應(yīng)用安全連接;還要有監(jiān)控與調(diào)試的可觀察性。

Amazon Bedrock AgentCore 能夠在安全前提下大規(guī)模構(gòu)建、部署和運(yùn)營(yíng) Agent。它就像一個(gè)工具箱,里面的每一件工具都為解決構(gòu)建與運(yùn)營(yíng) Agent 過(guò)程中遇到的真實(shí)問(wèn)題而設(shè)計(jì)。例如 AgentCore Identity,只需幾行代碼,就能實(shí)現(xiàn)亞馬遜云科技應(yīng)用與 Slack、Zoom 等第三方應(yīng)用之間的無(wú)縫身份訪問(wèn)管理。

本次 AgentCore Memory 中推出的 episodic 記憶新功能,讓 AI Agent 能夠記住并從過(guò)去的經(jīng)歷中學(xué)習(xí)。Agent 能夠真正理解用戶行為,通過(guò)識(shí)別相似場(chǎng)景中的模式自動(dòng)調(diào)整,并主動(dòng)提供有效的解決方案。它能將特定體驗(yàn)或交互作為獨(dú)立情景存儲(chǔ)和召回,就像人類記住特定事件一樣。Agent 的經(jīng)歷越豐富,就變得越智能。

Agent 離不開(kāi)模型,那么如何通過(guò)模型定制與訓(xùn)練技術(shù),構(gòu)建真正高效、可大規(guī)模部署的 AI Agent?

Bedrock 推出的 RFT(Reinforcement Fine-Tuning) 自動(dòng)化所有復(fù)雜的 RL 流程,讓開(kāi)發(fā)者無(wú)需理解獎(jiǎng)勵(lì)建模、策略優(yōu)化、分布式訓(xùn)練,就能直接使用 RLAIF。Amazon SageMaker AI 則推出了新的無(wú)服務(wù)器模型定制功能,不再需要繁瑣的基礎(chǔ)設(shè)施準(zhǔn)備。

更有意思的是,Nova Forge 首創(chuàng)了 “開(kāi)放訓(xùn)練模型” 計(jì)劃。有些行業(yè)仍需要深度嵌入領(lǐng)域知識(shí)的基礎(chǔ)模型,例如藥物研發(fā)、基因建模、物理仿真等。

以前企業(yè)要從零開(kāi)始訓(xùn)練基座模型,成本極高且成果不可控。Nova Forge 提供了新的思路:提供中間檢查點(diǎn)訪問(wèn),允許混合使用專有與基礎(chǔ)訓(xùn)練數(shù)據(jù),保留基礎(chǔ)模型安全性與通用能力,無(wú)需承擔(dān)完整訓(xùn)練周期成本——這讓訓(xùn)練行業(yè)專用基礎(chǔ)模型變得更可行。

此外,SageMaker HyperPod 推出的 Checkpointless Training 不再使用傳統(tǒng)檢查點(diǎn),可在分布式集群中實(shí)時(shí)保存模型狀態(tài),故障恢復(fù)從數(shù)小時(shí)縮短到數(shù)分鐘,節(jié)省高達(dá) 40% 的訓(xùn)練成本。這意味著可以在更短時(shí)間內(nèi)、更低成本下迭代模型。

“我們正從單個(gè)任務(wù)的自動(dòng)化,邁向推動(dòng)整個(gè)行業(yè)加速發(fā)展的協(xié)作模式。”Swami Sivasubramanian表示。(本文作者 | 張帥,編輯 | 蓋虹達(dá))

轉(zhuǎn)載請(qǐng)注明出處、作者和本文鏈接。
聲明:文章內(nèi)容僅供參考、交流、學(xué)習(xí)、不構(gòu)成投資建議。
想和千萬(wàn)鈦媒體用戶分享你的新奇觀點(diǎn)和發(fā)現(xiàn),點(diǎn)擊這里投稿 。創(chuàng)業(yè)或融資尋求報(bào)道,點(diǎn)擊這里。

敬原創(chuàng),有鈦度,得贊賞

贊賞支持
發(fā)表評(píng)論
0 / 300

根據(jù)《網(wǎng)絡(luò)安全法》實(shí)名制要求,請(qǐng)綁定手機(jī)號(hào)后發(fā)表評(píng)論

請(qǐng) 登錄后輸入評(píng)論內(nèi)容

快報(bào)

更多

12:28

摩根大通和高盛向?qū)_基金提供做空私募信貸的工具

12:26

OpenAI再出手:計(jì)劃收購(gòu)Python工具初創(chuàng)公司Astral

12:18

長(zhǎng)達(dá)一年看空后,摩根大通宣布:戰(zhàn)術(shù)性轉(zhuǎn)為看漲美元

12:13

消息人士:馬斯克團(tuán)隊(duì)采購(gòu)光伏設(shè)備預(yù)計(jì)將在5月第一周發(fā)貨

12:11

也門(mén)胡塞武裝稱可能封鎖曼德海峽

12:10

港股午評(píng):科指大跌1.71%,小米、阿里領(lǐng)跌,黃金股反彈

11:55

高盛:預(yù)計(jì)英國(guó)央行今年不降息,明年逐步降至3%

11:54

星網(wǎng)宇達(dá):因投資收益列報(bào)錯(cuò)誤收監(jiān)管函

11:53

港股黃金股反彈,靈寶黃金、紫金黃金國(guó)際漲超7%

11:48

工商銀行提醒做好貴金屬市場(chǎng)風(fēng)險(xiǎn)防控

11:46

港股光伏太陽(yáng)能板塊走強(qiáng),鈞達(dá)股份拉升漲超10%

11:45

特斯拉計(jì)劃采購(gòu)中國(guó)光伏設(shè)備?企業(yè)回應(yīng):確有此事

11:43

A股午評(píng):創(chuàng)業(yè)板指半日漲3.3%刷新年內(nèi)新高,光伏、CPO概念股爆發(fā)

11:31

島上供電能力超4倍增長(zhǎng),220千伏潿洲島跨海聯(lián)網(wǎng)工程投運(yùn)

11:30

創(chuàng)業(yè)板指刷新階段高點(diǎn)

11:23

儲(chǔ)能概念持續(xù)走強(qiáng),首航新能、德業(yè)股份漲停續(xù)創(chuàng)歷史新高

11:19

創(chuàng)業(yè)板指漲逾3%,寧德時(shí)代等權(quán)重股大幅走高

11:15

中國(guó)人均體育場(chǎng)地面積達(dá)3.11平方米

11:14

美國(guó)白宮據(jù)稱不會(huì)實(shí)施原油出口禁令

11:12

漲勢(shì)持續(xù),深圳華強(qiáng)北16G內(nèi)存半年多漲700元左右

掃描下載App