过去几个月,OpenAI风头无两,各大科技公司争先恐后地跟进大语言模型(LLM)这一技术路线。
对比之下,OpenAI的老对手DeepMind,显得有些低调和沉默。微软靠OpenAI打了一场胜仗,而谷歌推出的Bard翻了车,和谷歌同属AlphaBeta的DeepMind却没有出来力挽狂澜的意思。
同样是半学术、半企业科研性质的前瞻性AI Lab,DeepMind也瞄准了通用人工智能AGI,但实现路径上,却有着和OpenAI不同的选择。
这段时间我们能看到科技圈在集体“追风口”,大量资源(注意力、算力、人才、政策等)都被投入到OpenAI引领的大语言模型热潮中,有些高校甚至出现了“不做LLM就没有算力用”的局面。“中国没有自己的OpenAI”也被认为是创新滞后的现实证明。
有人说OpenAI的AI属于“精英教育路线”,一路砸钱供它读到博士,一毕业就是王炸,惊艳全场,这点确实没错,也是非常值得很多国内AI Lab学习的。
追逐OpenAI的赛道已经十分拥挤。别忘了,DeepMind默默烧钱、长期锚定的很多研究方向,也非常具有前沿性和想象力,2016年的AlphaGo、2020年的AlphaFold都曾一鸣惊人。下一个“AI王炸”,可能就是DeepMind做出来的。
大家知道有种新闻叫“震惊体”,每一次出现“AI王炸”级产品,就会有大量“震惊体”出现,比如“阿尔法狗要取代人类”“AlphaFold抢了生物学家的工作”“有了ChatGPT人类还有价值吗?”
第113次以太坊开发者会议:Dencun后以太坊下一个CL升级将以E开头命名:7月15日消息,Galaxy研究副总裁Christine Kim发文总结第113次以太坊核心开发者共识会议,开发者讨论了可能降低验证者流失限制,即信标链上验证者进入和退出的速率,以减缓验证者集规模的增长,并及时完成Deneb/Cancun(Dencun)升级。首先,关于Deneb测试升级。Devnet#7是EIP4844的专用测试网络,已经活跃了两周。到目前为止,几乎所有EL和CL客户端组合都已经过测试,但Erigon(EL)客户端除外。用于Devnet#7跟踪Blob数据的区块链浏览器已更新。至于Devnet#8,其中将包括对整个Dencun EIP功能套件的测试,而不仅仅是EIP4844。一旦客户端版本通过Hive测试,开发者将首先启动本地测试网,然后再启动Devnet#8。在进行Dencun测试的同时,开发者正在继续探索通过引入blob交易对以太坊点对点层进行不同的优化。
开发者还讨论了Dencun之后的以太坊升级命名,坎昆之后下一个EL升级将被称为布拉格,CL升级则约定以恒星的名称命名。鉴于Deneb之后的CL升级将是信标链的第五次硬分叉升级,CL升级将以字母E开头,目前最受开发者欢迎的似乎是Electra。[2023/7/15 10:56:44]
感到“震惊”,有时真的只是因为知道的太少、太晚,在这些“AI王炸”技术尚在成长阶段,忽视了它们,等能力发展到实用程度,又开始恐慌、焦虑。
届时,我们会不会又会陷入新一轮的追逐跟风,接着抱怨“中国没有自己的DeepMind”呢?
QCP资本的管理合伙人:下一个叙事将是比特币在2024年减半:金色财经联合Coinlive现场报道,新加坡“Token2049”峰会活动今日举办,在题为 \"加密货币市场的机构化 \"的圆桌讨论中,QCP资本的管理合伙人Darius Sit表示,与买入并持有的策略相比,亚洲投资者在涉及加密货币投资时更倾向于交易,而且容易受到叙述的影响。以太坊的合并推动了ETH的开放仓位,并在历史上首次超过了BTC的开放仓位。下一个叙事将是比特币在2024年减半。[2022/9/28 22:37:29]
所以,我们不妨来预测一下,DeepMind正在憋的大招里,哪些可能成为下一个王炸,读者们可以有个心理准备,提前对“震惊体”脱敏。
ChatGPT走红之后,很多白领人士都担心自己的岗位要被取代了。而科学家可是智力水平站在金字塔顶端的人类,职业生涯肯定稳稳的吧?
AI+科学,正是DeepMind长期锚定的赛道,已经产出了很多突破性的研究成果,覆盖了数学家、物理学家、生物学家的专业领域。
已经问世的AlphaFold和AlphaFold 2就在生物学界掀起了海啸级的影响,彻底改变了蛋白质结构预测的传统方法,也引发了各大高校和科研机构的复现、优化、应用。基于这一新技术,DeepMind一夜之间改变了生物制药行业,也因此成为“数字生物学”这一新兴领域的先驱。
目前,AI+生物学的潜力还没有完全释放出来,AI技术在生物制药和生命科学中的应用,还停留在少数环节中探索、案例级尝试的阶段。DeepMind也正在与行业展开合作,比如与Isomorphic Labs 合作,以“AI-FIRST”原则重构药物发现过程,在著名的生物医学研究中心弗朗西斯·克里克研究所(Francis Crick Institute),建了一个湿实验室,加强AI技术与生物实验的结合,同时还在不断扩大AI for science团队,加快基础生物学的研究。
声音 | 星际资本贾明哲:分布式存储将成为区块链技术发展下一个风口:12月17日,“数字经济产业高端峰会暨2019上海蓝天经济城企业年会|深圳”在深圳南山区举行。星际资本创始合伙人贾明哲出席会议并发表《分布式存储赛道的投资逻辑》主题演讲。他表示,分布式存储是区块链技术发展大趋势。而分布式存储产业需要三要素:1. 政府支持;2. 资本助力;3. 技术驱动。[2019/12/18]
或许,下一个抗癌新药、生物计算领域的大突破,就会在DeepMind诞生。
(AlphaFold揭示了蛋白质宇宙的结构)
你可能会说,生物学是一门实验科学,有成熟的程式,被AI技术改变很合理。数学、物理这样的基础科学,突破几乎来自天才式的直觉和灵感,有的数学家甚至是在梦中取得突破。比如阿基米德就是在洗澡时灵光一现,发现了浮力定律;拉马努金在梦中发现了3900个公式……AI估计就不好使了吧?
帮助数学家发现他们从未发现的发现——DeepMind发表在《自然》杂志上的一篇论文显示,研究人员与顶级数学家合作,为一个几十年来都没有结局的数学猜想,通过机器学习(ML)找到了突破口。
使用AI来处理海量或无法直接推理的数据,可以大大增强数学家的洞察力,从而更快地找到证明猜想和新公式的方法,已经被DeepMind证明是可行的。
牛津大学数学系教授Marcus Du Sautoy形容AI技术在纯数学中的应用,“就像伽利略拿起望远镜,能够深入凝视数据宇宙,看到以前从未发现过的东西”。
声音 | 陈昊芝:随着链游开发环境与工具完善 用户渗透率增强 链游将迎来下一个春天:12月5日,在陀螺财经举办的2019未来商业生态链接大会上,Cocos 董事长陈昊芝分享到,目前区块链游戏的真实用户量、用户留存以及长期付费数据相对不理想,其中原因有三点,分别是:1.链游缺乏用户渗透率,目前全球使用数字钱包且会使用 DApp 的用户不到3000万,仅是2009年智能机用户规模;2.链游多基于 HTML5 技术,难以支撑较复杂游戏产品开发;3.区块链技术成熟度低,对于游戏道具、经济系统、核心玩法支持有限。受这些原因制约,链游缺乏优质游戏所拥有的玩法、质量以及内容深度,很多链游只是博概率难以成为受大众欢迎的游戏。随着这些问题解决,链游也将迎来以下一个春天。[2019/12/5]
未来随着探索的增多,很多未被证实的数学猜想,都有可能因AI的加入而突破。希望届时大家不会又以为AI进化出了什么超能力,被“AI取代数学家”之类的标题给了。
AI参与核聚变的研究进程——核物理无论从学术还是社会经济的角度,都是非常重要的。大家可能都听过中国核物理学家造原子弹的艰苦故事,其中很多工作和牺牲能不能由AI来代劳呢?DeepMind还真搞成了。
它们与瑞士等离子体中心,合作开发了一个AI系统,通过强化学习,控制系统可以很好地协调TCV(由许多磁线圈组成),确保等离子体永远不会接触容器壁,这样就可以减少核聚变的热量损失。同时,还能将等离子体精确地雕刻成不同的形状,方便科学家研究等离子体在不同条件下的反应,从而提高对核聚变反应堆的理解。
分析 | 研究机构:币安下一个Launchpad项目Harmony进度符合预期,但技术在行业中难度较大:据海外区块链研究平台Evaluape,币安下一个Launchpad项目Harmony是通过状态分片技术提高交易处理速度,实现链上扩容的新一代公链。不同于Zilliqa采用的网络分片,Harmony采用的状态分片虽然不能把网络划分为更小的节点群,但每个片区都能保存一部分区块状态,这样在区块链的状态文件越来越大的情况有效的降低对节点设备的要求,减少交易成本。项目使用了升级版的拜占庭共识算法、PoS 代币权益进行切分和随机抽样分片解决1%攻击,从逻辑上来说具有很强的可操作性。Harmony测试网已完成了分布式随机数产生器的构建,进度符合预期。但项目使用的技术在行业中难度较大,需要项目方逐一实现并完成拼接。目前现有的主流公链TPS各方面硬件设施已经可以支持现有的生态,且在不断的迭代更新。开发者和用户选择公链更多的是注重已有的用户生态而非实际使用的高精尖技术,所以类似Harmony这类的项目在上线后如何获取开发者和用户,是团队需要思考的问题,也是项目可能存在的隐患。[2019/5/15]
总之,在过去的几年里,DeepMind在数学、物理、化学、生物学、量子、气象、材料等多个科学领域,创造性地探索了大量AI for science的可能,带来了全新的科学研究方法,必然会催生全新的科学发现和技术突破,下一个“AI王炸”很可能就在其中。
DeepMind的目标也是实现通用人工智能。具体怎么做呢?OpenAI专心搞语言,DeepMind就专注“训狗”——搞强化学习。
弱人工智能,只能在有限的环境中解决特定问题,没有发展出人类身上那种通识智能。那种“通用”智能的机器,大概就类似于《西部世界》或者《底特律》中的机器人,能够在复杂的环境里执行任务。
实现AGI,OpenAI是用大量数据和充分训练来促成大语言模型的“智能涌现”,而DeepMind则选择了“正向教育”——希望通过强化学习,给AI系统以“奖励最大化”的刺激,驱使智能体自主去学习复杂的能力。因为只有表现出这些能力,智能体才能获得奖励(比如生存下去)。
听起来,是不是跟工作犬执行主人的口令,主人根据结果来进行奖励或惩罚是一个路子?
在一篇论文中,DeepMind的研究人员写道:“奖励足以推动智能体表现出通用智能的迹象和行为,包括学习、感知、社会智能、语言、概括和模仿。”
上一只震惊世界的狗是击败人类棋手的“阿尔法狗(AlphaGo)”,而下一只可能就是被DeepMind用强化学习训练出来的AI了。
(ANYmal机器人的运动技能是通过模仿狗MoCap来学习的)
比如这只机器狗,就通过强化学习不断试错,从而具备了两个重要的能力:
一是使用历史经验,一般来说电机控制的AI智能体,一开始不知道对每个关节施加什么力,需要大量数据才能迈出步子,不然就会随机抽搐并迅速摔倒,而借助RL可以利用以前学到的运动技能,从而缓解“起步”时的尴尬。
二是减少特殊行为,此前智能机器人一般会用一种很不自然、不够人性化的方式来避障,虽然看起来很有趣,但不够实用。DeepMind采用强化学习训练,偏向于让智能体学习更多的自然行为,可以安全高效地控制真实世界的机器人/机器狗,将机械控制与认知智慧相结合。
类似的强化学习实验还有很多,比如让智能体在网络游戏中展开随机互动,让智能体在模拟的三维世界里搭积木、打扫房间……基本逻辑都是基于人类反馈的奖励模型。
ChatGPT只能解决语言问题,《西部世界》里的人机融合新物种,更灵活的通用家政机器人,可能还真得靠DeepMind的强化学习路线来实现。
DeepMind虽然没有跟风推出类ChatGPT的大语言模型,但并不代表它对这个领域毫无建树,只不过二者关注的技术方向不太一样罢了。
随着使用者的增多,大家可能都发现了类ChatGPT模型的一些限制,比如非常注重数据和语料。
深度学习靠规模数据、庞大算力、充分训练而“大力出奇迹”的暴力美学,在大模型时代发挥到了极致。
这带来了一系列问题,比如中文语料不足,训出来的大模型效果不好,有的中文LLM会用英文语料进行训练,再将答案翻译回中文,这种做法当然是符合业界常规的,但问题在于很多价值观、常识性的东西,是没有办法对齐和翻译的。
而且“暴力计算出奇迹”的大炼模型,打造的语言模型是不可解释的黑盒,金融、政务、工业等行业是不敢用的,无法支撑可靠的决策。
不知道OpenAI和国内厂商打算怎么解决“暴力计算”的弊病,反正DeepMind倒是一直在琢磨不同的路线——不搞暴力美学,大搞神经科学。
DeepMind认为大脑才是机器智能模仿的对象,希望通过对脑科学、神经运动学、元学习等“人类本位”的研究,来提升深度学习模型的鲁棒性、可解释性、可靠性等,让AI达到人类水平的理解能力。
比如重新认识大脑的工作机制,借鉴多巴胺通过调节神经元之间突触连接的强度,提出了一种基于奖励的强化学习理论;在3D游戏世界中创建了模拟心理学实验室Psychlab,能够实施经典的心理实验,显著改进了智能体UNREAL的性能;发现在人工神经网络倾向于避开精确设计的代码,倾向于对成本函数进行暴力优化(不追求奖励最大化,而是追求成本最小化,不做错就没有损失),而人脑的机制却往往会专注在任务实现和奖励上,从这个角度去优化深度神经网络的结构。
2023年发表的一篇新论文中,DeepMind则针对大脑中的回放(replay)机制,提出这是一种组合计算的形式,可以衍生出新的知识,在神经网络中整合回放机制,有望让AI用极少的数据学到新东西,提高认知智能,更接近“智能涌现”。
大脑的智慧让人类爬上了万物之灵的宝座,AI不靠人工而靠智能,为什么不可能呢?
当初OpenAI要走NLP这条“冷门”的路,很多人也觉得不可能,直到产品虽不成熟、但能力十分惊艳的ChatGPT出现,人们才开始纷纷夸赞OpenAI的长期主义。这些年DeepMind默默搞的研究,可能就是下一个“王炸”。
我们都希望中国AI也能诞生影响世界的元创新,其实AI领域并没有那么多独门秘技,很多灵感或技术路线都是公开的,但我们为什么总是听过就算、见过就忘呢?
除了灵光一现的idea, OpenAI和DeepMind不断投入的耐心,强大的工程能力,前沿研究与商业化的平衡,也是值得学习和借鉴的。
不能总是热泪盈眶,总是不长记性,直到下一个《震惊!XXX的XXX又颠覆世界了》……
来源于:36氪
36氪
媒体专栏
阅读更多
金色财经 善欧巴
Chainlink预言机
金色早8点
白话区块链
Odaily星球日报
Arcane Labs
欧科云链
深潮TechFlow
BTCStudy
MarsBit
一季度行情即将接近尾声,比特币和以太坊的走势越来越趋同,几乎完全相关。比推终端数据显示,以太坊年初至今 (YTD) 上涨了 50.02%,但比特币却飙升了 72.30%,有望创下两年来最佳的季度.
来了来了!继zkSync全网最全交互指南后,Biteye本期给大家带来了StarkNet交互指南!!!如果你没跟上我们OP、ARB的车.
● 一部分基础工作可能会被AI产品替代,然而,创意工作、管理和科研工作者等领域难以被取代,机器不可能像牛顿和爱因斯坦一样做出颠覆性的发现.
来源: BNBchain forum 作者:ArnoB 编译:Katie 辜 为了防止不“落后”于快速增长的 L2 解决方案.
原文:《「Trend Research by LD Capital」复盘USDC脱锚风波中的危与机》本文将探讨在 USDC 脱锚危机中,受影响最大的借贷、交易类协议、去中心化稳定币系统的表现.
来源:stonecoldpat.substack.com作者:Patrick McCorry使用权益证明的以太坊的独特性在于参与者数量的最大化设计.