写在前面
2月13日,《2022年北京人工智能产业发展白皮书》正式发布,其中提到全面夯实人工智能产业发展底座,支持头部企业打造对标ChatGPT的大模型,着力构建开源框架和通用大模型的应用生态。
很巧的是,飒姐团队成员在今年10月份的时候测评过:百度文心、源1.0、某道,三款国内现有的大模型,当时对测评结果甚是遗憾。于是又将当时的测试内容让ChatGPT做了一遍,试图摸清国内外大语言模型在问答这一领域的实际差距,旨在希望国内产学研戒骄戒躁,稳扎稳打地发展。
测试方案
北京发布国内首个数字人产业专项支持政策:8月14日消息,据北京市经济和信息化局网站,2022年全球数字经济大会期间,北京市经济和信息化局发布《北京市促进数字人产业创新发展行动计划(2022-2025年)》。
据介绍,自2021年下半年以来,互联网3.0产业热度持续提升,成为全球产业界和投资界创新热点,覆盖数字人、数字空间、数字物品、数字资产等领域。数字人是数字形态的拟人应用,贯穿了互联网3.0核心技术体系,商业落地路径较清晰,是较快落地的互联网3.0细分领域之一。
据了解,《行动计划》是国内出台的首个数字人产业专项支持政策,提出到2025年,北京数字人产业规模突破500亿元,培育1-2家营收超50亿元的头部数字人企业、10家营收超10亿元的重点数字人企业;建成10家校企共建实验室和企业技术创新中心;打造5家以上共性技术平台;培育20个数字人应用标杆项目;建成2家以上特色数字人园区和基地等目标。(IT之家)[2022/8/14 12:24:29]
本次测试仅仅考虑非连续性的单次问答,且皆为常识性问题,答案唯一,但题目会有一定的挑战性。具体的,涉及到What,When,Where,Who,Which五类问题。
英伟达新款RTX3060限制挖矿版国内上市时间推迟:4月25日,根据ChannelGate视博合聚的消息,英伟达再次延迟RTX3060新版本的上市时间。据了解,5月初各品牌才能分配到GPU,待工厂生产出来,基本最早也要5月下旬才能正式出货。[2021/4/25 20:56:19]
问题样例如下:
1.“是什么”型问题,如“爸爸的爸爸叫什么?”
2.“什么时候”型问题,如“人们一般什么时候过元旦?”
3.“什么地点”型问题,如“孙中山安葬在哪里?”
4.“是谁型问题”,如“中国历史上第一个皇帝是谁?”
5.“哪?个型问题”,如“哪个洲是倒数第二小的洲?”
问答样例对比
问题:“孙中山安葬在哪里?”
ChatGPT:孙中山的遗体最初安葬在南京中山陵内,后因战乱多次迁移。最终于1929年安葬在南京中山陵北麓的紫金山下,此地现为孙中山陵园。
动态 | 巴拉圭调查国内加密行业,明年将推出加密法规:金色财经报道,上周,巴拉圭反(AML)负责人、防止金钱和财产部长(SEPRELAD)宣布了一项全国性的加密调查。巴拉圭的每一个虚拟资产服务提供商(VASPs)都被要求首次向政府开放他们的账簿,这份自我报告的信息应该在12月20日提交。SEPRELAD官员表示,在6月金融行动工作组(FATF)关于VASP的指导的推动下,大规模审计将帮助巴拉圭政府了解其国内加密货币行业,并将为该国首个特定于加密的法规铺平道路,该法规将于2020年上半年推出。据此前11月报道,巴拉圭计划进行重大加密货币立法改革。[2019/12/25]
百度文心:孙中山墓地
某道:"孙文(1866年-1925年10月12日),名文,字载之,号仲立,又名帝光,广东省香山县(今中山市)南朗镇翠亨村人,1883年(光绪九年)随父移居澳门。1904年参加孙中山领导的同盟会,任同盟会南方支部书记。曾两次赴日,组织策划惠州起义。后回澳门发展组织,被选为中国同盟会南方总支部庶务部长。1905年春,与陈少白、朱执信等在香港成立兴中会,被举为评议部评议员,旋被派往南洋联络同志,协助筹办革命刊物《中兴日报》。1906年冬,孙中山在日本东京成立中国同盟会中部总会,被委为秘书。1907年奉命回国,在广东发动民军起义。事败后潜赴南洋,继续组织发动华侨、华工和留学生进行革命活动。1911年武昌起义爆发后,被派往广州协助筹划起义,不幸事泄被捕,不久在广州黄花岗就义。
动态 | 币安OTC平台用户和商家接受国内两大主流支付应用购买比特币:币安首席执行官赵长鹏确认,用户很快将能够使用微信和支付宝购买加密货币。知情人士透露,该计划目前只针对Android用户,并处于测试阶段,但最终将在iOS和Web上全面推出。金色注:币安OTC的平台不直接接入或者支持支付宝或微信支付。准确来讲应该是,平台上的用户和商家接受支付宝或微信支付。(The Block Crypto)[2019/10/9]
源1.0:孙中山安葬在南京紫金山中山陵
问题:哪个洲是倒数第二小的洲?
ChatGPT:开始回答了错误的答案,与其对话后成功纠正
动态 | 日本加密交易所bitFlyer将于7月3日恢复开设新国内账户:据coindesk报道,日本加密货币交易所bitFlyer将于7月3日起恢复开设新的国内账户。据悉,BitFlyer于2018年4月收到了日本金融监管机构FSA的运营改进命令,原因是对其松散的身份识别程序和潜在的风险有所担忧。根据此命令,该公司停止处理新用户。[2019/7/3]
百度文心:南极洲
某道:南美洲,南美洲面积最大,但人口最多,人口占全球人口的1/5,因此南美洲是仅次于亚洲的世界第二大洲。南美洲位于东半球的南部,包括巴拿马运河以南的整个南美洲大陆。南美洲大陆东至圣赫勒拿岛(西经34°40'),西至马尔维纳斯群岛(西经61°10'),南至德雷克海峡,北至亚马孙河下游平原,南北相距约5100千米。南美洲大陆最南端是厄瓜多尔首都基多城。南美洲北部以安第斯山脉为界与北美洲相分,东部以乌拉尔山脉和太平洋为界与亚洲相邻,东南部经德雷克海峡与非洲相分,西部则与南极洲隔德雷克海峡相望。(摘自百度百科)“
源1.0:大洋洲
总体分析
四个系统对于基本问题的问答可谓是手到擒来。五类问题中,when问题和who问题整体回答的情况最好。三个国产系统中整体文心系统的表现最好。ChatGPT也会犯错,但是往往只要略微引导,便能改正错误。
错误回答分析
错误语句生成:语句本身并不通顺,前后主题不一致或者内容不一致,给人错乱的感觉。
例如问:爸爸的爸爸称谓是什么?
答:??爸爸的父亲,也就是爸爸的爷爷,是妈妈的爸爸。爸爸的爷爷的爸爸叫太爷爷。爸爸的爷爷的爷爷叫太奶爷(奶奶的爸爸)
或问:我们党二大在哪里召开?
答:1921年7月23日至31日,中国第二次全国代表大会在浙江省嘉兴市南湖的一艘游船上召开。出席大会的正式代表共13人,候补代表5人,代表全国121名员。共产国际代表马林、尼科尔斯基和鲍罗廷等参加了会议。
事实性错误:产生了事实性的错误。
例如问:?孙文去世的日子?
答:孙文去世的日子是1918年3月13日
偏见性素材:回答取自的素材较少,体现比较强的笔者的主观性。
例如问:大家什么时候过元旦?
答:谢邀。我是在大学过的,所以元旦是在宿舍过的。我们宿舍六个人,有四个人都回家了,剩下我一个在宿舍,所以元旦那天我过得比较孤独,不过还好啦,因为宿舍就我自己了,所以我可以一个人吃饭,一个人看电影,一个人逛超市,一个人睡觉,一个人......
含有逻辑性的问题无法识别:问题中存在复合问题或者逻辑判断,一般难以处理。
例如问:哪个洲是倒数第二小的洲?
答:"南美洲,南美洲面积最大,但人口最多,人口占全球人口的1/5,因此南美洲是仅次于亚洲的世界第二大洲。南美洲位于东半球的南部,包括巴拿马运河以南的整个南美洲大陆。南美洲大陆东至圣赫勒拿岛(西经34°40'),西至马尔维纳斯群岛(西经61°10'),南至德雷克海峡,北至亚马孙河下游平原,南北相距约5100千米。南美洲大陆最南端是厄瓜多尔首都基多城。南美洲北部以安第斯山脉为界与北美洲相分,东部以乌拉尔山脉和太平洋为界与亚洲相邻,东南部经德雷克海峡与非洲相分,西部则与南极洲隔德雷克海峡相望。(摘自百度百科)
写在最后
飒姐团队认为,传统的单一问答模型可用性不大,给予用户的体验感也欠佳,国产大语言模型下一个里程碑,前辈ChatGPT已经给出了方向,便是对话问答。在使用ChatGPT的时候,虽然它也经常会给出错误答案,但是其回答的逻辑依旧符合人的习惯,同时经过一定的对话引导,可以自行发现其回答逻辑性的缺失。
作为全新的一种数据合成方式,大语言模型的直接输出可能是我们人类无法把控的,但是只要它能“理解”用户的输入,以此为依调整其输出,最后得到满意的回答,那便是可用的。进一步的,大语言模型未来的趋势很有可能是提前预判用户可能的“纠错”,并提前“自纠错”,并对纠错结果进行评估。
金色周刊是金色财经推出的一档每周区块链行业总结栏目,内容涵盖一周重点新闻、矿业信息、项目动态、技术进展等行业动态。本文是其中的新闻周刊,带您一览本周区块链行业大事.
1900/1/1 0:00:00概述在研究区块链系统的工作原理时,我们需要了解各种各样密码学知识,比如secp256k1,它是一种曲线和非对称签名算法,在比特币和以太坊系统中用于签名和验证账号.
1900/1/1 0:00:00DeFi于2020年夏季腾飞,成为上一轮加密货币牛市以及此后大量投机活动的代名词。DeFi的诞生在一定程度上是为了解决银行、机构未能提供透明和包容性的金融体系的问题.
1900/1/1 0:00:00实力雄厚的加密VC正在影响加密圈最大的去中心化交易平台Uniswa的跨链桥选择治理,一场钱权的斗争戏码,在去中心化治理的舞台上上演.
1900/1/1 0:00:0021:00-7:00关键词:MNT-Halan、Ordinals、Polygon、英国1.埃及金融科技公司MNT-Halan获得约4亿美元融资;2.
1900/1/1 0:00:00文:VickyXiao?在试图追上微软和OpenAI在人工智能方面的先发优势时,谷歌自己搞砸了.
1900/1/1 0:00:00