免费观看已满十八岁电视剧国语_人妻 色综合网站_欧美大尺寸suv视频_成人免费高清在线观看_久久久成人毛片无码_老头解开奶罩吸奶头高潮视频_sm调教室论坛入口_欧美夫妻交换久久丫1000_一级黄色大片在线免费观看了

首頁 > 資訊 > 行業(yè)

中國電信發(fā)布全球首個單體稠密萬億參數(shù)語義模型Tele-FLM-1T

2024/06/19 14:05      IT之家


  中國電信人工智能研究院(TeleAI)和智源研究院聯(lián)合發(fā)布全球首個單體稠密萬億參數(shù)語義模型 Tele-FLM-1T,該模型與百億級的 52B 版本,千億級的 102B 版本共同構(gòu)成 Tele-FLM 系列模型。

  TeleAI 和智源研究院基于模型生長和損失預測等技術(shù),Tele-FLM 系列模型僅使用了業(yè)界普通訓練方案 9% 的算力資源,基于 112 臺 A800 服務器,用 4 個月完成 3 個模型總計 2.3T tokens 的訓練。模型訓練全程做到了零調(diào)整零重試,算力能效高且模型收斂性和穩(wěn)定性好,Tele-FLM-1T 版本即將開源。

  目前,TeleFLM 系列模型已經(jīng)全面開源了 52B 版本,核心技術(shù) (生長技術(shù)、最優(yōu)超參預測)、訓練細節(jié) (loss 曲線、最優(yōu)超參、數(shù)據(jù)配比和 Grad Norm 等) 均開源,開源模型下載量過萬,積累超 40 萬用戶。

  此外,中國電信在某市民生訴求場景項目上,通過引入 TeleChat-52B 模型能力,整體應用效果提升 40%,達到行業(yè)領(lǐng)先水平。

  榜單收錄、高管收錄、融資收錄、活動收錄可發(fā)送郵件至news#citmt.cn(把#換成@)。

海報生成中...

分享到微博

掃描二維碼分享到微信

分享到微信
一鍵復制
標題鏈接已成功復制

最新新聞

熱門新聞