斑馬智行攜手阿里云：打造智能座艙大模型安全新標桿

閱(yue)讀次數：1468 編輯(ji)：系統管理員發布時間(jian)：2025-12-05 15:01

[字體：大中小]

想象(xiang)這(zhe)樣一個畫面，在一個普通的工(gong)作日(ri)，你坐進了心(xin)愛的座駕，隨口問到(dao)：“今日(ri)有(you)什么(me)新聞？”車(che)載(zai)AI立馬啟動，下一秒，它開(kai)始娓娓道來——上到(dao)事關國計民(min)生(sheng)(sheng)的政(zheng)策，下到(dao)市井俚俗的民(min)生(sheng)(sheng)八卦，流暢、自(zi)然、像朋友(you)聊天一樣貼心(xin)。但(dan)如(ru)果這(zhe)番(fan)溝通中暗含著什么(me)不該說(shuo)的內(nei)容(rong)？比如(ru)敏感話題、虛(xu)假信息、甚至來自(zi)釣魚網站的惡意廣(guang)告......

這不是科幻片的橋段，在智能座(zuo)艙加(jia)速(su)邁向“AI原生”的今(jin)天，每一輛搭載AI模型的智能座(zuo)駕都必須面對的現(xian)實(shi)考(kao)題。

作為智能座(zuo)艙領域的(de)先行者，斑馬智行聯合阿(a)里云共同打造面向智能座(zuo)艙場(chang)景的(de)AI安(an)(an)全(quan)(quan)審核方案(an)(an)，通過阿(a)里云AI安(an)(an)全(quan)(quan)護(hu)欄的(de)能力加持和(he)云基礎設施強(qiang)調的(de)彈性(xing)吞(tun)吐(tu)力，該(gai)方案(an)(an)已經(jing)成(cheng)功應(ying)用(yong)于多個頭部品牌車型(xing)(xing)中，日均支撐千萬級大(da)模型(xing)(xing)安(an)(an)全(quan)(quan)審核調用(yong)，為行業樹立了(le)大(da)模型(xing)(xing)內(nei)容安(an)(an)全(quan)(quan)與用(yong)戶(hu)體(ti)驗兼顧的(de)新(xin)標桿。

斑(ban)馬智行(xing)安(an)全(quan)負責人(ren)評(ping)價到：“我們與阿里云共(gong)同(tong)打造的這套(tao)安(an)全(quan)護欄方案(an)，不(bu)僅滿足了國家級(ji)合規要求，更(geng)在真實量產(chan)場景中驗證了其高(gao)性能、高(gao)可(ke)靠、可(ke)擴展的工程價值。這不(bu)僅是技術(shu)方案(an)的勝利(li)，更(geng)是AI安(an)全(quan)治理體(ti)(ti)系在汽(qi)車行(xing)業(ye)的成功落地。”

當大模型成(cheng)為汽(qi)車(che)標配

千(qian)人千(qian)面背后的安(an)全隱患(huan)

回(hui)到文(wen)章最初的場景(jing)，隨著大模型和(he)AI Agent的迅速發展，智能座(zuo)艙里的安(an)全助手，早已不(bu)再是(shi)只會(hui)導航、會(hui)放歌的“工具人”，在Multi-Agent技術的加持下，它(ta)不(bu)僅能聯網搜索，能多(duo)輪對話，還能一鍵幫(bang)你(ni)定(ding)制行程(cheng)、分析(xi)新聞......但每(mei)一次看似普通的交(jiao)互背后(hou)，都隱藏著不(bu)容忽視的安(an)全風險：

用戶隨口(kou)一句“講個刺激(ji)的歷史故事”，會不會觸發不當內容？
AI從網上抓取的信息(xi)，是否混進了賭(du)博(bo)、色情(qing)或釣魚鏈(lian)接？
聯(lian)網搜索(suo)功能(neng)加持下，用戶輸(shu)入是(shi)否會觸(chu)發(fa)對(dui)惡意網站的直接(jie)調用？

國家《信息安(an)全技(ji)術(shu) 生成式人工智能服務安(an)全基本要(yao)(yao)求(qiu)》（TC260-003）中明確要(yao)(yao)求(qiu)，需對風險進行識別(bie)與(yu)攔截。熟悉(xi)安(an)全的(de)朋友可能會疑惑，內容安(an)全審核技(ji)術(shu)已(yi)經發展了數十年，難道沒有直接可用的(de)成熟解(jie)決方(fang)案嗎？實際(ji)上：

一方(fang)面，為(wei)了保證用戶與(yu)模(mo)型交互過程的流暢(chang)性，一句(ju)話往往被拆成十(shi)幾段流式(shi)輸出，傳統(tong)基于關(guan)鍵詞和規(gui)則(ze)的專家模(mo)型，面對這類語(yu)義(yi)復雜(za)、上(shang)下文強(qiang)依賴的模(mo)型輸出時(shi)，最終結果往往是“看得見字(zi)，但不懂(dong)意(yi)”；
另一方面(mian)，如(ru)果全部依賴大(da)模型審核，雖然(ran)理(li)解(jie)能力強，但因推(tui)理(li)耗時長(chang)且成(cheng)本高，難以(yi)滿足車載場(chang)景對實時性的嚴(yan)苛要求(qiu)；

“既要快，又要準”——這正是斑馬智(zhi)行與阿里云(yun)聯合攻(gong)堅的(de)核心命題。

阿里云AI安(an)全護(hu)欄：

三大技術突破，重(zhong)新定義車載AI安全標準

阿里(li)云(yun)AI安全(quan)護(hu)欄（AI Guardrails）是云(yun)安全(quan)團隊為(wei)人工(gong)智(zhi)能系統設(she)計的安全(quan)防(fang)(fang)護(hu)產品，防(fang)(fang)護(hu)對象(xiang)覆蓋(gai)預訓練大(da)模型、AI服(fu)務和AI Agent等不(bu)同(tong)業務形態(tai)。在智(zhi)能座艙場景，AI安全(quan)護(hu)欄為(wei)斑馬智(zhi)行提供了精準的風險檢測與主動(dong)防(fang)(fang)御能力，同(tong)時滿足車載場景對效率和效果的要求。

1.雙引擎協同(tong)架構：毫(hao)秒級(ji)審核響應(ying)

不同于單一的審(shen)核策(ce)(ce)略，阿里云AI安全(quan)護欄(lan)采用(yong)“規則引擎+小(xiao)模型(xing)+大模型(xing)”協同審(shen)核策(ce)(ce)略：

所有輸(shu)入/輸(shu)出文本實時切片后(hou)，由輕(qing)量(liang)級專家(jia)模型并行執行毫秒級初(chu)篩，快速攔(lan)截明顯風險(xian)；

同時(shi)，重新(xin)編(bian)排大模(mo)型深度審核鏈(lian)路，利用多線程智(zhi)能(neng)化調度；

最終(zhong)融合雙(shuang)引擎結(jie)果(guo)，在不犧牲召回率的(de)前提(ti)下，有效降低了端到端審核延(yan)的(de)響應(ying)時間，完美(mei)適配車(che)載(zai)用(yong)戶實時交互的(de)流暢體驗，用(yong)戶感覺不到“檢查”的(de)存在，安全卻始終(zhong)在線。

2.流(liu)式上下文(wen)關聯(lian)審(shen)核：短文(wen)本不再“裸(luo)奔”

為了保障與客戶溝(gou)通的實(shi)時性，大模型內(nei)容生成大多采(cai)用(yong)(yong)“邊生成，邊輸入”的流式模式，一段回答可能(neng)會(hui)分為10次(ci)(ci)推送(song)，單次(ci)(ci)切片(pian)(pian)可能(neng)僅(jin)10-20字(zi)，傳統審核(he)模型因(yin)缺乏上下文，面對這種“碎片(pian)(pian)化表達”，極易漏(lou)判。阿(a)里(li)云AI安全護欄采(cai)用(yong)(yong)“大模型流式審核(he)方案”：

通過唯(wei)一標識關聯一次完整對話；
安全護欄自動聚合(he)同一會(hui)話中的所有切片(pian)，進行跨(kua)片(pian)段語(yu)義(yi)理解；
即使(shi)敏(min)感內容分散(san)在多輪輸出中，也(ye)能(neng)精準識(shi)別并攔(lan)截(jie)；

實測顯示，該方案將(jiang)短文本場(chang)景(jing)下的風險內容(rong)召回率(lv)提(ti)升(sheng)至(zhi)98%以上，遠超傳統方案。

3.聯網檢(jian)索風險(xian)實時攔(lan)截：堵住Agent的“后門”

在支持聯網(wang)搜索的Agent場景中(zhong)，用戶(hu)提問(wen)可能觸(chu)發(fa)對第三方網(wang)頁的抓取(qu)，例如：

用戶問一句(ju)：“幫我找附近評分最高的酒吧(ba)”，AI所搜(sou)索(suo)到的目標站(zhan)點可能是某個(ge)偽(wei)裝(zhuang)成酒吧(ba)推薦網頁的釣魚、賭博(bo)或色情網站(zhan)，將(jiang)直接污(wu)染大(da)模(mo)型的輸入。阿(a)里云AI安全(quan)所具有的“URL風險檢測”模(mo)塊(kuai)，則能快速應對：

對所(suo)有聯(lian)網請求(qiu)中(zhong)的(de)第三方鏈接進(jin)行實時掃描(miao)；
精(jing)準識別(bie)色情(qing)信息、非法賭博、釣魚網站、虛假(jia)營銷等(deng)風險類型：
一旦命中高風險標(biao)簽，立即終止(zhi)任務，防(fang)止(zhi)有(you)害信息流入大模型。

目(mu)前該(gai)能力已覆蓋智能搜索、資(zi)訊推薦等(deng)多個高頻場景。

云基礎(chu)設施彈性保(bao)障(zhang)：安全能(neng)力“隨需調(diao)用”

對于各大車企(qi)，定期的促銷、活動、新車上(shang)市(shi)......往(wang)往(wang)都伴隨著流量激增。尤其(qi)在智能駕駛、智能座艙等新興領域(yu)，首發熱度動輒帶來數倍于日常的調用(yong)量，這對任何產品都是一次“壓力測試”，如果安全(quan)審核(he)扛(kang)不(bu)住(zhu)，輕則(ze)延遲卡頓、重(zhong)則(ze)全(quan)面宕機。

阿里云AI安全護欄依托于阿里云強大的(de)(de)(de)基(ji)礎設施(shi)，為客(ke)戶提(ti)供可彈性拓展的(de)(de)(de)安全防護力，支(zhi)持客(ke)戶按需購(gou)買QPS彈性擴展包，最短(duan)7天(tian)起訂，已(yi)驗(yan)證(zheng)可支(zhi)持單(dan)項目峰值(zhi)600 QPS的(de)(de)(de)穩定運行。

無論(lun)是平日通(tong)勤，還(huan)是發(fa)布會后的(de)“搶車潮”，安全能力始(shi)終絲滑在線。(斑馬智(zhi)行(xing))

掃一掃在手(shou)機打開當(dang)前(qian)頁

上一條：哈工庫訊榮登畢馬威長三角高端裝備榜單，以...

下一條：普泛能源榮登國家專精特新“小巨人”企業名...

无码日韩级毛片,色综合aV在线怡红院院院首页,色多多成视频人在线观看,www.av天堂.com,天天干天天草,18成禁人视频免费,亚洲AV少妇熟女网站,亚洲爱爱视频,香蕉深夜福利视频二区,欧美日韩国产不片A级视频

斑馬智行攜手阿里云：打造智能座艙大模型安全新標桿