PEN:ChatGPT类产品安全隐患解决？英伟达发布开源工具包_HAI

随着ChatGPT等AI聊天机器人自去年底以来迅速走红，对于它们安全问题的相关警告也层出不穷。尽管背后的开发者也在竭尽全力地想办法解决这些问题，比如实施资讯过滤和人类纠正那些被标记的问题，但效果都不尽人意。

有鉴于此，英伟达公司（Nvidia Corp.）周二正式发布了一个名为NeMo Guardrails的开源工具包，可以禁止AI聊天机器人提供那些受限的信息，使人工智能驱动的应用程序更加准确、适当、符合主题和安全。

Blockchain.com推出资产管理服务:4月6日消息，Blockchain.com推出资产管理品牌BCAM，该服务将迎合机构投资者、家族办公室和高净值个人的需求，由Blockchain.com与管理期货投资组合的投资公司Altis Partners合作创建。Blockchain.com为BCAM提供支持，Altis提供投资管理。（彭博社）[2022/4/6 14:08:03]

每个人都意识到了大型生成语言模型的力量，英伟达应用研究副总裁Jonathan Cohen说，以一种安全可靠的方式部署它们非常重要。

Sense Chat推出加密货币奖励功能:金色财经报道，由风险投资家Tim Draper支持的去中心化应用程序公司Make Sense已允许其用户获得加密货币奖励。根据声明，该公司于周一在其2018年首次开发的Sense Chat应用上推出了加密奖励功能。据报道，该应用允许用户通过在线互动、订阅不同的频道、邀请新用户和创建消息线程来获得该公司的SENSE代币。[2021/4/7 19:52:44]

英伟达表示，NeMo Guardrails将作为终端用户和人工智能程序之间的一层防护墙。将其与传统软件混合，该系统将能够识别用户提出的事实问题，并检查机器人是否能够和应该回答这个问题。系统还将确定生成的答案是否基于事实，并控制聊天机器人给出回答的方式。

链上ChainUP荣获“2020年度最佳技术服务机构”:2020年11月24日，由猎云网、猎云财经主办的“BEYOND-2020区块链产业大会暨年度颁奖盛典”在深圳湾万丽酒店隆重举行。在活动现场，链上ChainUP凭借在区块链技术服务赛道的突出贡献，荣获“2020年度最佳技术服务机构”奖项。

2020年，链上ChainUP陆续推出了合约体验金、混合合约、合约跟单、合约流动性、流动性挖矿、自定义杠杆倍数ETF等功能，同时紧跟行业热点，第一时间上线DeFi、波卡等热门币种交易区。此外，链上ChainUP推出了一条独立的产品线：链上ChainUP WaaS联盟，依托集团3年时间所服务的300多家交易所经验，将底层资产托管和钱包封装成一套完整的服务，包含资产托管、节点服务、主链币种开发、热门币种一键接入、共管钱包、借贷理财等多种功能服务，目前，已有超过500家企业加入ChainUP WaaS联盟。[2020/11/24 21:56:16]

例如，假设一名员工询问人力资源聊天机器人，公司是否为想要领养孩子的员工提供支持。这将通过NeMo Guardrails并返回包含公司相关利益的文本。询问同一个机器人有多少员工利用了这一福利，可能会引发拒绝指令，因为这些数据是保密的。Cohen还表示，英伟达已经在Guardrails的底层系统上工作了"多年"，但就在大约一年前意识到它很适合GPT-4和ChatGPT这样的模型。"从那时起，我们一直在朝着NeMo Guardrails的这个版本发展，"他说，"人工智能模型安全工具对于那些为企业用途部署的模型至关重要。"

财联社

媒体专栏

阅读更多

金色荐读

金色财经 善欧巴

Chainlink预言机

白话区块链

金色早8点

Odaily星球日报

欧科云链

深潮TechFlow

MarsBit

Arcane Labs

标签：PENCHAAINHAIPENDLEOrigin Fountainhead ChainlifechainChain Wars Essence

波场热门资讯