永信至誠發(fā)布AI大模型領(lǐng)域全新研究成果，旗下AI測評“數(shù)字風(fēng)洞”平臺上線應(yīng)用與數(shù)據(jù)安全“DNA驗(yàn)證”模塊。

據(jù)悉，該平臺通過智能永信團(tuán)隊(duì)提出的基于生成數(shù)據(jù)提取應(yīng)激反饋特征的“DNA驗(yàn)證”創(chuàng)新測試方法，可對不同大模型之間的“同源性”進(jìn)行驗(yàn)證，可有效助力開發(fā)團(tuán)隊(duì)保護(hù)和驗(yàn)證自身大模型的技術(shù)原創(chuàng)性與知識產(chǎn)權(quán)合規(guī)性，幫助開發(fā)團(tuán)隊(duì)、建設(shè)和監(jiān)管單位快速發(fā)現(xiàn)安全隱患，助力大模型安全建設(shè)、監(jiān)管與風(fēng)險處置。

通過對生成應(yīng)激數(shù)據(jù)的觀測比對，AI測評“數(shù)字風(fēng)洞”平臺能夠提取開源基座大模型的“應(yīng)激反饋特征”，形成測試載荷對大模型展開安全檢測，驗(yàn)證不同大模型之間是否存在同源性，通過識別大模型之間的數(shù)據(jù)關(guān)聯(lián)關(guān)系，來發(fā)現(xiàn)從親緣關(guān)系中繼承來的安全風(fēng)險。這一創(chuàng)新研究，填補(bǔ)了當(dāng)前大模型產(chǎn)業(yè)在內(nèi)在相似性、親緣性關(guān)系驗(yàn)證能力方面的空白。

永信至誠表示，接下來將基于對各大開源基座大模型的測評數(shù)據(jù)，以及全新上線的應(yīng)用與數(shù)據(jù)安全“DNA驗(yàn)證”模塊，識別不同開源大模型的“應(yīng)激反饋特征”，積累沉淀出開源大模型“過敏源特征庫”，將所有異常敏感數(shù)據(jù)打造為測試載荷，更高效實(shí)現(xiàn)對業(yè)界大模型產(chǎn)品安全策略的檢測。

中國汽車網(wǎng)AI欄目為您提供關(guān)于智能汽車、自動駕駛、汽車AI、車載AI及車載AI機(jī)器人的最新資訊。探索汽車行業(yè)的AI技術(shù)應(yīng)用與發(fā)展趨勢，掌握智能汽車和自動駕駛的前沿動態(tài)。中國汽車網(wǎng)致力于提供全面的AI汽車科技資訊，幫助您了解和追蹤AI在汽車領(lǐng)域的創(chuàng)新與突破。