火星链 火星链
Ctrl+D收藏火星链

PIC:开卷!Anthropic Claude 模型升级到 10 万 token,可将《了不起的盖茨比》整本吞下

作者:

时间:1900/1/1 0:00:00

撰文:KyleWiggers

来源:TechCrunch

图片来源:由无界AI工具生成

从历史上看,甚至在今天,记忆力差一直是阻碍文本生成式人工智能发挥作用的一个因素。正如《大西洋》杂志最近发表的一篇文章?所说,即使是像ChatGPT这样复杂的生成式文本人工智能,其记忆力也像金鱼一样。每次模型生成响应时,它只考虑到非常有限的文本量,因此它也无法总结一本书或审查一个主要的编码项目。

交通银行香港子公司正与多家香港持牌加密公司合作:4月17日消息,据《华尔街日报》援引几家加密货币公司透露,中国交通银行股份有限公司香港子公司正与多家在香港获得牌照的加密货币公司合作,并正在与其他受监管的公司就为其开立账户进行磋商。

4月14日,HashKey Group旗下合规交易平台HashKey PRO已经与ZABank和交通银行(香港)建立了伙伴关系,作为结算银行,提供法币的存款和提款服务。[2023/4/17 14:08:26]

但Anthropic正试图改变这种状况。

以太坊投资者:NFT对新进艺术家的促进程度在大多数媒介中是闻所未闻的:金色财经报道,管理顾问和以太坊投资者DCinvestor.eth在社交媒体上称,NFT的文化价值的一个重要部分是艺术家与收藏家一起成功了。NFT对新进艺术家的促进程度在大多数媒介中是闻所未闻的。文化价值转化为经济价值,收藏家必须尊重这一点,否则它将消亡。[2022/12/12 21:37:44]

今天,这家人工智能研究初创公司宣布,它已将Claude的上下文窗口从9000个token扩展到了10万个token。上下文窗口指的是模型在生成额外文本之前考虑的文本,而token代表原始文本。

Bitcoin Archive:伊朗允许开采的比特币用于支付国际交易:金色财经消息,Bitcoin Archive发推特称,伊朗允许开采的比特币用于支付国际交易,但禁止交易比特币和用于国内支付。[2022/8/14 12:24:58]

那么,这意味着什么呢?正如前面所提到的,具有小上下文窗口的模型往往会“忘记”即使是最近的对话内容--导致它们偏离主题。在几千字左右之后,小模型也会忘记最初的指示,只根据上下文窗口中的最后的信息来进行响应。

鉴于大上下文窗口的好处,找出扩展的方法已成为OpenAI等AI实验室的主要关注点,要知道,OpenAI将整个团队都投入到了这个问题上了。OpenAI的GPT-4在上下文窗口的大小方面保持着之前的领先地位,其规模最高可达32,000个token,而改进后的ClaudeAPI已然超越了这一数字。

元宇宙基础设施平台Element Black与好莱坞公司Real Hype达成战略合作:7月9日消息,元宇宙基础设施平台 Element Black 宣布与好莱坞公司 Real Hype 达成战略合作,Real Hype 旗下明星和网红将入驻 Music-infinity 音乐创作生态,发布独家音乐内容。

Real Hype 是一家好莱坞创意媒体公司,通过创意短视频内容、明星创意商务代理、网红营销等内容矩阵,与数百个世界著名的好莱坞明星及网红达成深度合作,并参与 Web 3 及 NFT 品牌营销。旗下合作明星艺人包括 Maggie Q, Steve Aoki, Cheat Codes, TIJN 等。[2022/7/9 2:02:25]

有了更强的“记忆力”,Claude应该能够相对连贯地交谈几个小时——甚至几天——而不是几分钟。也许更重要的是,它应该也不太可能偏离轨道。

在博文中,Anthropic对Claude增加上下文窗口的其他好处进行了介绍,包括该模型消化和分析数百页材料的能力。Anthropic称,除了阅读长文本,升级后的Claude可以帮助从多个文件甚至一整本书中检索信息,回答哪些需要跨文本的“综合知识”问题。

Anthropic列出了一些可能的用例:

对财务报表或研究报告等文件进行消化、总结和解释

根据公司的年度报告,分析其风险和机会

评估一项立法的优点和缺点

识别风险、主题和跨法律文件的不同论证形式。

阅读数百页的开发者文档,呈现技术问题的答案

通过将整个代码库放入上下文中并智能地构建或修改它来快速制作原型

“普通人可以在5个小时左右阅读10万个token的文本,然后可能需要大量的时间来消化、记忆和分析这些信息,”Anthropic继续说道。“Claude现在可以在不到一分钟的时间内做到这一点。例如,我们把《了不起的盖茨比》的全部内容输入进了Claude......并修改了其中一行,说Mr.Carraway是‘一个在Anthropic从事机器学习工具的软件工程师’。当我们要求Claude发现有什么不同时,它在22秒内就给出了正确答案。”

此外,Anthropic的合作伙伴AssemblyAI也进行了相关测试。在视频演示中,该团队用Claude-100k将一个长播客转录成58K单词,然后使用Claude进行总结和问答。该团队给出的评价是:insane!太疯狂了!

目前,更长的上下文窗口并不能解决围绕大型语言模型的其他与记忆有关的挑战。Claude,像其同类的大多数模型一样,无法将信息从一个会话保留到下一个会话。而且与人脑不同的是,它把每一条信息都视为同等重要,这使得它并不能成为一个特别可靠的叙述者。一些专家认为,解决这些问题将需要全新的模型架构。

不过,就目前而言,Anthropic似乎走在了前列。

标签:AUDcLAPICANTAUDIOPolka ClassicPichiuMUTANT PEPE

币安app官方下载最新版热门资讯
DOR:Jack Dorsey称没有取关The Block创始人Mike Dudas

巴比特讯,12月24日,BigTechAlert信息显示,前推特首席执行官JackDorsey已关注Web3支持者、TheBlock创始人MikeDorsey.

1900/1/1 0:00:00
数字人:大连市税务局局长赵福增:用区块链打破部门间“信息孤岛”

12月19日,2020CCF区块链技术大会暨首届中国济南区块链产业发展高峰论坛在山东济南举行。国家税务总局大连市税务局党委书记、局长赵福增做了题为《区块链车辆信用平台经验分享》的主题演讲.

1900/1/1 0:00:00
WEB:Web3时代,创业和投资的10大范式变化

如果创业者和投资人仍以旧范式的思维逻辑来对待Web3.0,就会应了谶语:一个新时代的来临,必须以牺牲上一个时代的人为代价! PhotobyMichaelDonUnsplash来源:远望资本iVi.

1900/1/1 0:00:00
ION:合成资产协议Coinversation宣布参与波卡插槽拍卖!

本篇文章为Polkadot社区志愿者组织提供的第三篇文章。12月18号消息,波卡上第一个合成资产协议Coinversation正式宣布参与波卡插槽拍卖.

1900/1/1 0:00:00
INT:铸币疑云 —— Paid Network 被盗细节分析

据消息,以太坊DApp项目PaidNetwork遭受攻击。攻击者通过合约漏洞铸造近1.6亿美元的PAID代币,并获利2000ETH(约300万美元).

1900/1/1 0:00:00
NFT:金色Web3.0日报 | MakerDAO发布Endgame更新路线图

DeFi数据1、DeFi代币总市值:453.68亿美元 DeFi总市值及前十代币数据来源:coingecko2、过去24小时去中心化交易所的交易量18.

1900/1/1 0:00:00