ETH:ChatGPT类产品安全隐患解决？英伟达发布开源工具包

随着ChatGPT等AI聊天机器人自去年底以来迅速走红，对于它们安全问题的相关警告也层出不穷。尽管背后的开发者也在竭尽全力地想办法解决这些问题，比如实施资讯过滤和人类纠正那些被标记的问题，但效果都不尽人意。

有鉴于此，英伟达公司（Nvidia Corp.）周二正式发布了一个名为NeMo Guardrails的开源工具包，可以禁止AI聊天机器人提供那些受限的信息，使人工智能驱动的应用程序更加准确、适当、符合主题和安全。

BNB Chain攻击者转移约7400万美元的资产至0x531开头钱包地址:2月3日消息，据派盾预警监测，BNB Chain 攻击者转移了价值约 7400 万美元的资产至 0x531 开头钱包地址，包括43228枚stETH（价值约7000万美元）、771枚以太坊（价值约127万美元）以及1679枚 rETH（价值约290万美元）。[2023/2/4 11:46:42]

每个人都意识到了大型生成语言模型的力量，英伟达应用研究副总裁Jonathan Cohen说，以一种安全可靠的方式部署它们非常重要。

BNB Chain攻击者成为rETH第四大巨鲸，持有超5670枚rETH:2月3日消息，据派盾监测数据显示，BNB Chain 攻击者将约 620 万枚 USDC 以及 402 枚 ETH 兑换为为 rETH（Rocket Pool）后，目前该地址共持有约 5670.46 枚 rETH（约合 1000 万美元），成为 rETH 第四大巨鲸。

在此之前，BNB Chain 攻击者向 0x531 开头地址转移了价值约 7400 万美元的资产，其中包括 43,228 枚 stETH（约合 7000 万美元）、771 枚以太坊（约合 127 万美元）和 1679 枚 rETH（约合 290 万美元）。[2023/2/4 11:46:38]

英伟达表示，NeMo Guardrails将作为终端用户和人工智能程序之间的一层防护墙。将其与传统软件混合，该系统将能够识别用户提出的事实问题，并检查机器人是否能够和应该回答这个问题。系统还将确定生成的答案是否基于事实，并控制聊天机器人给出回答的方式。

Charlie Lee加入DMG区块链公司 DMG将LTC采矿添加到公司运营中:据GlobeNewswire消息，LTC创始人Charlie Lee已加入DMG公司，DMG将LTC采矿添加到该公司采矿服务运营中，并将雷电协议，用BTC和LTC等区块链之间的交叉链式原子进行交换。DMG是一家全球区块链和加密货币服务公司。[2018/4/24]

例如，假设一名员工询问人力资源聊天机器人，公司是否为想要领养孩子的员工提供支持。这将通过NeMo Guardrails并返回包含公司相关利益的文本。询问同一个机器人有多少员工利用了这一福利，可能会引发拒绝指令，因为这些数据是保密的。Cohen还表示，英伟达已经在Guardrails的底层系统上工作了"多年"，但就在大约一年前意识到它很适合GPT-4和ChatGPT这样的模型。"从那时起，我们一直在朝着NeMo Guardrails的这个版本发展，"他说，"人工智能模型安全工具对于那些为企业用途部署的模型至关重要。"

财联社

媒体专栏

阅读更多

金色荐读

金色财经 善欧巴

Chainlink预言机

白话区块链

金色早8点

Odaily星球日报

欧科云链

深潮TechFlow

MarsBit

Arcane Labs

标签：CHAETHRETRETHinfinitychainETHV价格PARETO价格Champignons of Arborethia

瑞波币热门资讯