链资讯 链资讯
Ctrl+D收藏链资讯

TOKE:OpenAI 创始人 Sam Altman 发文:让通用人工智能(AGI)成为人类的放大器_TOK

作者:

时间:

前言:OpenAI创始人SamAltman近日发文阐述了通用人工智能的短期和长期愿景。他认为通用人工智能将造福全人类,赋予每个人不可思议的新能力,但同时也伴随着风险。我们的使命是确保通用人工智能——通常比人类更聪明的人工智能系统——造福全人类。

如果AGI成功创建,这项技术可以通过增加丰富度、推动全球经济发展以及帮助发现改变可能性极限的新科学知识来帮助我们提升人类。

AGI有潜力赋予每个人不可思议的新能力;我们可以想象这样一个世界,在这个世界中,我们所有人都可以获得几乎所有认知任务的帮助,为人类的聪明才智和创造力提供巨大的力量倍增器。

另一方面,AGI也会带来严重的滥用、严重事故和社会混乱的风险。由于AGI的优势如此之大,我们不认为社会能够永远阻止其发展,同时这样做也是不可取的;相反,整个社会和AGI的开发者必须想办法把它做好。

0x Swap API上线Base:金色财经报道,0x Swap API宣布上线Base,通过在 Base 主网上启动 Swap API,0x 将使 Web3 团队能够快速利用深度流动性并解锁对 Base 上代币交换的访问权限。该团队表示,首先聚合 Uniswap、Balancer 和 Baseswap 之间的流动性,将在额外的流动性来源上线后对其进行整合。[2023/8/11 16:19:16]

虽然我们无法准确预测会发生什么,当然我们目前的进展可能会碰壁,但我们可以阐明我们最关心的原则:

我们希望AGI能够赋予人类在宇宙中最大程度地繁荣发展的能力。我们不希望未来成为一个不合格的乌托邦,但我们希望将好的一面最大化,将坏的一面最小化,让AGI成为人类的放大器。我们希望AGI的好处、获取和治理得到广泛和公平的分享。我们希望成功应对巨大风险。在面对这些风险时,我们承认理论上似乎正确的事情在实践中往往比预期的更奇怪。我们认为,我们必须通过部署功能较弱的技术版本来不断学习和适应,以最大程度地减少“一次就可以搞定”的情况。短期愿景

朱嘉明:Web 3.0将创造全新的娱乐产业新生态:金色财经报道,7月29日由汉威信恒、新火科技与D11 Labs联合主办的“ChinaJoy Web3 2023”大会在上海顺利召开。著名经济学家、横琴数链数字金融研究院学术与技术委员会主席朱嘉明教授远程进行了视频致辞,朱教授认为大数据、AIGC、虚拟现实技术,包括元宇宙、Web3都将为娱乐产业、娱乐产业群提供重要的技术基础和技术支持,其中因为Web 3.0、AI的支持而形成的价值互联网和智能互联网,将创造全新的娱乐产业的新生态。[2023/7/29 16:05:59]

我们认为现在有几件事很重要,可以为AGI做准备。

首先,随着我们不断创建更强大的系统,我们希望部署它们并获得在现实世界中操作它们的经验。我们相信这是谨慎管理AGI存在的最佳方式——逐渐过渡到AGI世界比突然过渡要好。我们期望强大的AI能够加快世界进步的速度,我们认为最好是逐步适应这一点。

联合国报告:朝鲜黑客2022年盗取的加密货币为历年最多:2月7日消息,联合国一份机密报告显示,到目前为止,朝鲜黑客在2022年盗取的加密资产比以往任何一年都多。据路透社报道,这份联合国报告已于上周提交给由15名成员组成的朝鲜制裁委员会。

调查发现,去年与朝鲜有关联的黑客盗取了6.3亿美元至10亿多美元的加密资产,并将外国航空航天和国防公司的网络作为攻击目标。

这份联合国报告还指出,网络攻击比前几年更加复杂,使得追踪被盗资金比以往任何时候都更加困难。

独立制裁监督机构在提交给联合国安理会委员会的报告中表示:“(朝鲜)利用日益复杂的网络技术,进入涉及网络金融的数字网络,并窃取有潜在价值的信息,包括对其武器计划的信息。”

此前消息,据区块链分析公司Chainalysis最新报告表示,整体加密货币损失从2021年的33亿美元增至2022年的38亿美元,2022年为有史以来加密货币被盗损失规模最大的一年。其中,DeFi协议损失占黑客窃取的所有加密货币的82.1%(约31亿美元),远高于2021年的73.3%。在这31亿美元中,64%来自跨链桥接协议。此外,朝鲜网络犯罪集团Lazarus Group于2022年共窃取价值约17亿美元的加密货币,创历史纪录。(Cointelegraph)[2023/2/7 11:51:56]

渐进的过渡让民众、政策制定者和机构有时间了解正在发生的事情,亲身体验这些系统的好处和缺点,调整我们的经济,并实施监管。它还允许社会和AI共同进化,并允许人们在风险相对较低的情况下共同弄清楚他们想要什么。

多个主流DeFi项目发布一对一社会协同试验公告:2月6日消息,多个主流DeFi项目发布一对一社会协同试验公告,包括dYdX与AAVE、MakerDAO与Element、去中心化期权平台Opyn与StakeDAO、CoWSwap与Gearbox、Lido与Bebop、Idle与Silo、1inch与KyberSwap、SushiSwap与Aura Finance等。

本次试验将均由两个项目方结为一组,多个小组同时进行,具体协作内容暂未透露。[2023/2/7 11:50:46]

我们目前认为,成功应对AI部署挑战的最佳方法是采用快速学习和谨慎迭代的紧密反馈循环。社会将面临AI系统被允许做什么、如何消除偏见、如何处理工作岗位流失等重大问题。最佳决策将取决于技术所采用的路径,并且与任何新领域一样,到目前为止,大多数专家预测都是错误的。这使得在真空中进行规划非常困难。

The Block创始人:在2021年已卖掉公司,FTX崛起过程中未参与业务:11月15日消息,TheBlock创始人Mike Dudas对Zhu Su指责他拦下了关于Alameda的负面报道进行回应,他表示在2021年就卖掉了The Block,在FTX崛起的过程中并没有参与The Block的业务。Mike Dudas称,如果你想知道为什么Zhu Su和KyleDavies突然重新出现、试图粉饰他们过去的欺诈行为,那是因为听说他们正在筹集一个新基金。

此前消息,三箭资本联合创始人Zhu Su在推特上表示,早在2019年1月就对Alameda的高息借贷表示质疑。随后,Zhu Su连同QCP、Amber和Coinflex的高管向The Block提供了证据。但Dudas(TheBlock创始人)压下了这篇文章,TheBlock并没有对这一事情进行报道。[2022/11/15 13:08:53]

一般来说,我们认为在世界上更多地使用AI会带来好处,并希望推广它。我们相信,民主化的访问也将导致更多更好的研究、去中心化的权力、更多的利益以及更多的人贡献新的想法。

随着我们的系统越来越接近AGI,我们对模型的创建和部署变得越来越谨慎。我们的决定将需要比社会通常对新技术应用的谨慎得多,也比许多用户希望的谨慎得多。AI领域的一些人认为AGI的风险是虚构的;如果结果证明他们是对的,我们会很高兴,但我们将把这些风险视为真实存在。

在某些时候,部署的利弊之间的平衡可能会发生变化,在这种情况下,我们将围绕持续部署显着改变我们的计划。

其次,我们正在努力创建更加一致和可控的模型。我们从GPT-3的第一个版本等模型到InstructGPT和ChatGPT的转变就是一个早期的例子。

特别是,我们认为重要的是社会就如何使用AI达成极其广泛的界限,但在这些界限内,个人用户有很大的自由裁量权。我们最终的希望是世界机构就这些广泛的界限应该是什么达成一致;在短期内,我们计划对外部输入进行实验。世界上的机构将需要通过额外的能力和经验得到加强,以便为有关AGI的复杂决策做好准备。

我们产品的“默认设置”可能会受到很大限制,但我们计划让用户可以轻松更改他们正在使用的AI的行为。我们相信赋予个人做出自己的决定的权力和思想多样性的内在力量。

随着我们的模型变得更加强大,我们将需要开发新的对齐技术。我们的短期计划是使用AI来帮助人类评估更复杂模型的输出并监控复杂系统,而从长远来看,使用AI来帮助我们提出新的想法以实现更好的对齐技术。

重要的是,我们认为我们经常需要在AI安全和能力方面共同取得进展。分开谈论它们是错误的二分法。它们在很多方面是相关的。我们最好的安全工作来自与我们最有能力的模型一起运行。也就是说,提高安全进步与能力进步的比率很重要。

第三,我们希望就三个关键问题展开全球对话:如何治理这些系统,如何公平分配它们产生的收益,以及如何公平共享访问权限。

除了这三个领域之外,我们还尝试以一种使我们的激励措施与良好结果相一致的方式来建立我们的结构。我们的章程中有一个条款是关于协助其他组织提高安全性,而不是在后期AGI开发中与他们竞争。我们对股东可以获得的回报设定了上限,这样我们就不会被激励去尝试无限制地获取价值,也不会冒险部署具有潜在灾难性危险的东西。我们有一个非营利组织来管理我们,让我们为人类的利益而经营,包括让我们做一些事情,比如在安全需要的情况下取消我们对股东的股权义务,并赞助世界上最全面的UBI实验。

我们认为像我们这样的努力在发布新系统之前提交独立审计是很重要的;我们将在今年晚些时候更详细地讨论这个问题。在某些时候,在开始训练未来系统之前获得独立审查可能很重要,并且对于最先进的努力来说,同意限制用于创建新模型的计算增长率。我们认为关于AGI工作何时应停止训练运行、确定模型可以安全发布或从生产使用中撤出模型的公共标准很重要。最后,我们认为重要的是世界主要政府对超过一定规模的培训有洞察力。

长期愿景

我们认为,人类的未来应该由人类决定,与公众分享有关进步的信息很重要。应该对所有试图建立AGI的努力进行严格审查,并对重大决策进行公众咨询。

第一代AGI将只是智能连续体上的一个点。我们认为进展很可能会从那里继续,可能会在很长一段时间内保持我们在过去十年中看到的进展速度。如果这是真的,世界可能会变得与今天截然不同,风险可能会非常大。一个错位的超级智能AGI可能会对世界造成严重的伤害;一个拥有决定性超级情报领导的专制政权也可以做到这一点。

可以加速科学发展的AI是一个值得思考的特例,也许比其他任何事情都更有影响力。有足够能力加速自身进步的AGI可能会导致重大变化以惊人的速度发生。我们认为较慢的起飞更容易确保安全,并且AGI努力在关键时刻减速可能很重要。

成功过渡到一个拥有超级智能的世界可能是人类历史上最重要、最有希望、最可怕的项目。成功远未得到保证,而利害关系有望将我们所有人团结起来。

我们可以想象一个人类繁荣到我们任何人都无法完全想象的程度的世界。我们希望为世界贡献一个与这种繁荣相一致的通用人工智能。

感谢BrianChesky、PaulChristiano、JackClark、HoldenKarnofsky、TashaMcCauley、NateSoares、KevinScott、BradSmith、HelenToner、AllanDafoe和OpenAI团队审阅本文的草稿。

标签:TOKETOKrippleELEPiSwap TokenLimeWire Tokenripple币行情First Eleven

以太坊交易所热门资讯
ORD:熊末牛初:Ordinals是福是祸?_aladdinaddc

近期,加密市场经历了2023年以来的首次重大回调,同时还有美国的监管举措和美国证券交易委员会SEC打击行动的消息.

SOL:为什么Solana这次宕机了这么久?_solana币发行价格

上周末,Solana?再次宕机了,Solana?基金会表示,团队正积极调查宕机原因,很快就会公布。Odaily星球日报也会持续跟踪报道.

SEC:又重拳加密巨头?细数美国SEC与加密的恩怨纠葛_TOKE

在Binance与Paxos合作发行的稳定币BUSD遭到美国监管大力打击的一周之后,CEO赵长鹏昨天宣布将放弃BUSD作为主要稳定币.

BLU:NFT市场的修昔底德陷阱:OpenSea反击打响手续费战争_OpenSea

修昔底德陷阱,由美国哈佛大学教授格雷厄姆·艾利森提出,意思是一个新崛起的大国必然要挑战现存大国,而现存大国也必然来回应这种威胁,这样战争变得不可避免.

BLUR:主网上线”倒计时”,速览zkSync Era带来的ZK新面貌_BLUES币

2月16号,ZK系L2扩容解决方案zkSync宣布了2.0版本的上线,并将此版本称为Era,1.0版本将更名为lite,两者将长期并存,承担不同的任务类型.

Web3游戏:ZONFF Insight:Web3 游戏行业观察十问_TOKEN

在和一些Web3游戏开发者沟通后,一个感触是一方面大家对Web3游戏的未来有着非常乐观的期待,另一方面又对其发展方向和商业逻辑存在较大分歧.