91天天操,91在线高清,一本一道波多野结衣一区二区,深夜视频在线

“本源悟空”全球首次運(yùn)行十億參數(shù)級(jí)AI大模型微調(diào)任務(wù)

“本源悟空”全球首次運(yùn)行十億參數(shù)級(jí)AI大模型微調(diào)任務(wù)

  中新社合肥4月7日電 (記者 張俊)記者7日從安徽省量子計(jì)算工程研究中心獲悉,中國第三代自主超導(dǎo)量子計(jì)算機(jī)“本源悟空”近日完成全球首次運(yùn)行十億參數(shù)級(jí)AI大模型微調(diào)任務(wù)。

  本次任務(wù)由本源量子計(jì)算科技(合肥)股份有限公司(簡稱“本源量子”)、合肥綜合性國家科學(xué)中心人工智能研究院等聯(lián)合攻關(guān)完成的。實(shí)驗(yàn)結(jié)果顯示,在參數(shù)量減少76%的前提下,AI大模型訓(xùn)練效果反而提升8.4%。這一成果不僅驗(yàn)證了量子計(jì)算助力實(shí)現(xiàn)大模型輕量化的可行性,更為破解大模型“算力焦慮”開辟了新路徑。

  大模型微調(diào)是指在通用大模型的基礎(chǔ)上,通過進(jìn)一步訓(xùn)練特定領(lǐng)域數(shù)據(jù),使其適應(yīng)醫(yī)療診斷、金融風(fēng)控等專業(yè)場(chǎng)景。傳統(tǒng)低秩微調(diào)面臨性能瓶頸、泛化能力有限等問題,量子計(jì)算憑借其疊加態(tài)和糾纏態(tài)特性可同時(shí)探索海量參數(shù)組合,提升大模型微調(diào)的效率。

  本源量子副總裁竇猛漢介紹,團(tuán)隊(duì)創(chuàng)新設(shè)計(jì)了一種量子加權(quán)張量混合參數(shù)微調(diào)的方法,將模型權(quán)重轉(zhuǎn)化為量子神經(jīng)網(wǎng)絡(luò)與張量網(wǎng)絡(luò)混合架構(gòu),前者通過量子門操作提取高維非線性特征,張量網(wǎng)絡(luò)則壓縮參數(shù)規(guī)模。

  在“本源悟空”的量子芯片上,AI大模型單批次數(shù)據(jù)可生成數(shù)百個(gè)量子任務(wù)并行處理。實(shí)驗(yàn)數(shù)據(jù)顯示,優(yōu)化后的模型在心理咨詢對(duì)話數(shù)據(jù)集上訓(xùn)練損失降低15%,數(shù)學(xué)推理任務(wù)的嚴(yán)格準(zhǔn)確率從68%提升至82%。合肥綜合性國家科學(xué)中心人工智能研究院副研究員陳昭昀表示,這是量子計(jì)算首次“真機(jī)實(shí)戰(zhàn)”AI大模型任務(wù),證明現(xiàn)有硬件已能初步支撐大模型微調(diào)。

  截至目前,“本源悟空”超導(dǎo)量子計(jì)算機(jī)全球訪問已覆蓋139個(gè)國家和地區(qū),完成35萬個(gè)量子運(yùn)算任務(wù),涵蓋流體動(dòng)力學(xué)、金融、生物醫(yī)藥等多個(gè)行業(yè)領(lǐng)域。(完)

【編輯:胡寒笑】
發(fā)表評(píng)論 文明上網(wǎng)理性發(fā)言,請(qǐng)遵守新聞評(píng)論服務(wù)協(xié)議
收藏文章
表情删除后不可恢复,是否删除
取消
确定
图片正在上传,请稍后...
评论内容为空!
还没有评论,快来抢沙发吧!
本網(wǎng)站所刊載信息,不代表中新社和中新網(wǎng)觀點(diǎn)。 刊用本網(wǎng)站稿件,務(wù)經(jīng)書面授權(quán)。
未經(jīng)授權(quán)禁止轉(zhuǎn)載、摘編、復(fù)制及建立鏡像,違者將依法追究法律責(zé)任。
Copyright ©1999-2025 chinanews.com. All Rights Reserved

評(píng)論

頂部