风险提示:理性看待区块链,提高风险意识!
Nous Research 提出高效计算法 YaRN,可扩展大模型上下文窗口
首页 > 快讯 2023-09-05 21:43:09
币界网报道:据品玩 9 月 5 日报道,Nous Research 联手 EleutherAI 实验室以及瑞士日内瓦大学的研究者发表论文,公布了一项名为 YaRN 的方法,可扩展大模型上下文窗口。论文显示,和传统方法相比,YaRN 需要更少的标记和训练步骤。利用这种方法,LLaMA 模型可以有效地利用和外推到比其原始预训练所允许的上下文长度更长的上下文,同时超过了过去窗口扩展的最新技术水平。据 GitHub 页面显示,使用 YaRN 进行微调的 LLaMA 2 7B/13B 上下文窗口分别可达到 64k 和 128k。
上一篇: 上海交大发布大模型双语编程评估基准 CodeApex
下一篇: Connext空投申领环节疑似出现问题,可利用漏洞领取他人空投
推荐专栏
Boss Wallet Web3 Econom Pass
专注币圈最新资讯
通俗浅显地聊透Web3大事小情
读懂区块链生态与未来,尽在币界网!
热门币种
更多
币种
美元价格
24H涨跌幅
BTC比特币
63,033.80 USDT
¥449,878.53
+3.31%
ETH以太坊
3,032.86 USDT
¥21,645.82
+2.23%
BNB币安币
594.57 USDT
¥4,243.50
+0.52%
USDT泰达币
1.02 USDT
¥7.26
-0.18%
SOL
154.53 USDT
¥1,102.89
+8.21%
XRP瑞波币
0.51470 USDT
¥3.67
+0.68%
USDC
1.00 USDT
¥7.14
-0.08%
TON
6.93 USDT
¥49.44
+16.5%
DOGE狗狗币
0.15130 USDT
¥1.08
+4.92%
ADA艾达币
0.46240 USDT
¥3.30
+2.57%
热搜币种
更多
币种
美元价格
24H涨跌幅
比特币
63062.46 USDT
¥451,893.70
+3.36%
FTX Token
1.7992 USDT
¥12.89
-1.45%
Livepeer Token
17.7817 USDT
¥127.42
+18.04%
Solana
153.94 USDT
¥1,103.11
+8.98%
Arweave
44.7179 USDT
¥320.44
+16.31%
狗狗币
0.1511 USDT
¥1.08
+4.86%
Filecoin
5.9265 USDT
¥42.47
+3.74%
柚子
0.827 USDT
¥5.93
+4.37%
以太经典
27.6204 USDT
¥197.92
+2.64%
Yield Guild Games
0.8455 USDT
¥6.06
+5.06%
NEAR Protocol
7.5424 USDT
¥54.05
+7.61%
Shiba Inu
2.341E-5 USDT
¥0.00
+4.23%
最新快讯
更多
Cardano创始人CharlesHoskinson指责乔·拜登政府“协调努力扼杀加密货币”
2024-05-10 18:35:13
Holograph公布HLG代币经济学:最大供应量100亿枚
2024-05-10 18:35:06
埃隆·马斯克通过新公告吸引加密社区
2024-05-10 18:34:26
币安和KuCoin获得印度金融情报部门的注册
2024-05-10 18:34:10
新的纪念币值得观看:ShibaShootout推出预售,预售窗口现已打开
2024-05-10 18:33:31
Kraken要求法院驳回美国证券交易委员会最近提交的案件
2024-05-10 18:33:08
NFT销量下降,但又活又健康——以下是本周最畅销的10款NFT
2024-05-10 18:31:39
下载币界网APP