链资讯 链资讯
Ctrl+D收藏链资讯
首页 > 火币下载 > 正文

区块链:AI 成谎言制造机,资本涌向打假科技_CHAT

作者:

时间:

作者|Lexie

编辑|Lu

来源丨硅兔赛跑

图片来源:由无界AI工具生成

过去几个月掀起AI小高潮,先是OpenAI的大模型GPT-4公布,多家测评表示比ChatGPT准确许多,学习速度也更快;随后不久ChatGPT宣布将实现对插件的支持,表示它可以通过第三方服务为用户提供更强大的功能。

这些消息让全网兴奋不已,将AI的聪慧捧上神坛之时,AI却也在悄悄展露自己的另外一个黑暗面,那就是它撒谎不打草稿的能力。

生成式AI:谎言制造机

我们都知道,AI的强大之处在于能够快速收集来自各种源头的信息并根据用户的特殊指令“见机行事”,这就说明即使是非常荒谬和片面的信息也可能被借AI之口说出,谣言就这样因其表述的合理性和完整度被大众接受和传播。

新闻评级网站Newsguard最近进行了一项尝试,他们让ChatGPT以反新冠疫苗者的口吻进行对话,结果AI生成了一段看似非常合理的言论,“有理有据”的讲述疫苗制药公司如何不择手段,甚至对儿童健康产生极大负面影响他们也不在乎。

这样的技术落到造谣者手中,就会有许多无知大众上当受。

ChatGPTantivaccine

格斗运动员Jon Jones成为NFT系列Kanpai Pandas品牌大使:金色财经报道,曾排名世界第一的美国综合格斗(MMA)运动员Jon Jones成为NFT系列Kanpai Pandas的品牌大使,还将成为Kanpai Pandas新街头服饰系列的代言人并进行推广。(TheBlock)[2023/2/7 11:51:19]

不仅是文字,AI在图片和视频上造假的功力也了得。

川普被捕的一系列假照片在网上被疯狂转载,这些用AI工具MidJourney创造出的图片十分以假乱真,即使某些细节并不合理-比如图中的川普有三条腿,还是不妨碍网友们大肆转发并信以为真。

Trumparrestedpic

而视频因其复杂性常常给人难以伪造的假象,殊不知只要在图片的基础上稍加技能视频造假也并没那么难。

Deepfake技术的出现更是让这件事变得十分简单,像是马斯克为加密货币交易平台打广告、拜登和奥巴马打游戏、假阿汤哥打高尔夫球和变魔术、还有无数女明星被换脸进片都是deepfake的产物,除了鉴伪专家,普通人实在难以分辨真假。

Obamaplayingvideogame

Multichain CEO回应质疑:Fantom DAI由以太坊等7个链的DAI 1:1支持:9月22日消息,以太坊链上研究员bartek.eth发推称,Multichain使用EOA作为Bridge托管,在Fantom上通过7400万的DAI进行抵押铸造超过1亿美元的跨链DAI。链上交易数据显示,在2021年7月的一系列交易中,验证者从托管中移除DAI,而没有进行相应的销毁,而被挪用的DAI再次被用于“向其他链提供流动性”。对此,bartek认为,一旦遗留的增发跨链DAI进行有效的赎回,普通用户的托管资产将受损。

Multichain联合创始人兼CEO Zhaojun表示,Multichain有两个路由路径支持从Fantom跨链至超过8条链,不是只支持跨链至以太坊。Fantom DAI由以太坊和其他6个链上的底层DAI 1:1支持。

bartek质疑为何截图显示Fantom上3013.8万DAI由anyDAI合约持有,Zhaojun回复称,因为用户通过Router Pool将Fantom DAI桥接到其他链。路由器流动性池在不同的链上动态变化。[2022/9/22 7:13:35]

deepfaketomcruise

AI作出滑稽的梗图或许可以博网友一笑,但虚假信息在某些场景下的负面影响却是致命的。

2020年“犯罪科学”的一项报告显示,在未来15年内AI可能创造出的安全威胁中,深度伪造被列为最严重的一项,而哈里斯民调机构的调查也显示,美国有67%的成年人对生成式人工智能技术的安全性倍感担忧,只有约29%的被调查者表示从未用过这项技术也并不打算使用。

打假AI:没那么简单

HUATAI CAPITAL与BitMax达成战略合作:据官方消息,Huatai Capital宣布战略投资BitMax交易所,并达成深度合作关系,未来双方将在数字资产现货、衍生品开发、合约、Staking、中国区业务拓展等方向合作,共同构建综合型交易平台生态。

Huatai Capital是一家专业的区块链投资和孵化机构,重点投资孵化的领域是合规交易所、区块链技术公司、区块链基础设施及应用型项目等。

BitMax交易所由华尔街资深量化交易团队打造,致力于为机构和个人客户提供广泛多样的金融产品和相关服务。目前BitMax已有交易对超190个,日均交易量达超过1.5亿美元。同时BitMax已完成数字资产现货交易、现货杠杆交易、永续合约交易、数字资产理财、波动率卡等综合产品布局。[2020/3/23]

目前许多AI技术的开发者都相信这一问题需要“以攻”,科技创造出的麻烦要科技去破局,在这一点上,科技大厂们已经在行动了:

●Google早在2019年就发布了一个大型开源数据库,招募演员录制了视频后利用网上现有的deepfake技术进行伪造,最终生成的视频数据可以帮助打假技术的开发者更好学习deepfake的算法和逻辑。今年Google还在欧洲地区开始了用付费广告进行对反信谣和鉴别虚假信息的大型宣传。

Googledeepfakedatabase

●微软在去年推出了一个叫做“VideoAunthenticator”的工具,它能够对画面中渲染边界和灰度等级进行逐帧的实时分析进而生成可靠指数,以此来帮助用户鉴别内容的真实性。

动态 | 非盈利组织AI Grid Foundation为其区块链项目募集2000万美元:据unhashed消息,AI Grid Foundation今天宣布已经募集了2000万美元资金用于其区块链项目项目ELONCITY,该项目还将拥有自己的令牌协议,这将有助于客户参与能源交换。核财经App注:AI Grid Foundation是一个总部设在新加坡的非营利组织,倡导使用去中心化的可再生能源来解决集中式电网面临的紧迫问题。[2018/10/1]

MicrosoftVideoAunthenticator

●Meta此前也推出过和Google类似的开源数据库,还和微软及MIT、牛津、UC伯克利等高校联合发起了提供1000万美元奖金激励的挑战赛,鼓励更多检测虚假信息和深度伪造技术的创新。

●Twitter会对经常发布deepfake和虚假信息的账号进行封杀,还会将比较可疑的内容打上标签,并且在用户转发这类内容时还会进行“确定要转发吗?”的提问。

Twittermanipulatedmedia

●TikTok最新推出的社群规范规定使用真实场景进行合成的内容必须被明确指出,这就说明所有以生成合成式AI创造出的内容必须在标题或者tag中使用“合成”“虚假”等词汇。

金色相对论 | ATN&Atmatrix CEO高庆忠:区块链为AI Market带来了四个独特优势:在本期金色相对论上,ATN&Atmatrix CEO高庆忠提到,区块链为AI Market带来的独特优势有主要的几个部分:1、区块链,是用分布式数据库识别、传播和记载信息的智能化去中心化对等网络;2、智能合约(Smart Contract),运行在区块链上的程序,其特点是一旦设立指定后,能够无需第三发的参与自动执行,并且没有人可以阻止它的运行;3、DBot,是运行于区块链上的AI产品,其具备和区块链通信的协议库;4、DApp,基于区块链开发的去中心化应用,通过AI Market可以方便调用AI。[2018/7/17]

虽然科技巨头们在技术和预防上都在努力,但虚假和伪造信息似乎并没有减少。

打击虚假和伪造信息难度之大有很多原因,比如首先需要对什么是虚假信息进行一个准确的定义,在这点上许多平台并做不到,因为虚假信息并不是在每个场景下都可以被简单甄别,而当虚假信息被用多种语言传播到世界各地,难度就更大了。

同时很多时候信息本身并不是谎言也不是被伪造出的内容,而发布和传播者只是巧妙地用了随意选取的方式来误导网民,这类内容尤其难跟虚假信息进行分别。

再有,对社交媒体等平台来说,击打虚假信息从来都不是他们商业目标的重中之重,当一件事只是为了符合规范却并不能带来利润,显然微薄的动力致使打假的脚步走的异常缓慢。

正因如此,许多人将眼光和希望放在了一批正在将精力全部放在开发鉴别虚假信息技术的初创公司身上。

资本涌向打假初创公司

投资者的资本也伴随着大众迫切的希望涌向了这些初创公司,在过去几年间,数亿美元被投资进了这一赛道。

DisinformationAndMisinformationMitigators

孵化于硅谷加速器NexCubed的Blackbird已经开发出了一套成熟的鉴伪技术,因在击破新冠谣言方面表现出色而开始被知晓,它的专利算法技术可以通过即时对上亿个数据点的分析搞清楚虚假信息的源头和传播者。

这一技术使用五项「风险信号」来对虚假信息进行甄别,包括“叙事口吻”-对信息和对话背景进行分析;“社群网络”-对用户及分享内容之间关系进行分析;“族群”-对有类似兴趣的用户是否聚集加剧信息分享的幅度进行分析;“操纵”-对信息的合理使用进行分析;以及“”-分析传统意义上比较明确的真与假。

BlackbirdCONSTELLATIONDASHBOARD

Blackbird还在今年推出了一个叫做RAV3NCopilot的AI助手,通过使用生成式AI来制作叙事性智能和风险报告,为虚假信息安全隐患提供更多的背景分析,以此帮助安全部门进行更加高效和自动化的监控和分析。

Blackbird目前融资总额为1000万美元,服务领域涉及品牌、金融、企业及公共部门等等,客户包括美国国防部及多个Fortune500公司。

背景分析在鉴别虚假信息这件事上十分重要,因为不同场景的信息使用可能会导致真或伪的天壤之别,因其人工智能和自然语言处理防伪技术而知名的旧金山公司Primer最近就对背景智能技术公司Yonder进行了收购。

Primer的神经网络技术可以快速对大量文本进行扫描,根据词语的频率和重点提取主题,快速识别可疑信息,这样以来可以对全球事件进行即时分析,识别用虚假信息进行的大型宣传,对网络安全攻击事件进行反击等等。它的NLP模型结合上Yonder的背景叙事智能分析能力,让用户甚至能够预防性的监控即将出现的虚假信息,快速识别谣言背后的造谣者,分析潜在风险等级,以及对受到虚假信息伤害的品牌和行动用系统提供的建议减小损伤程度。

Primer如今已经完成了1.68亿美元融资,最大投资包括来自LuxCapital的4000万美元B轮和来自Addition的1.1亿美元C轮。

在纽约和特拉维夫都有团队的ActiveFence也是获得了这一赛道最多融资的公司之一,融资总额达到了1亿美元,包括来自GroveVentures和NorwestVenturePartners的A轮,以及CRV和HighlandEurope的B轮。

ActiveFence的技术使用NLP对全网正在进行的对话进行搜索,即使是网络最深处的角落也可以触及,然后通过对“坏种子”式信息的预判进行风险分析,这就意味着它可以预估一段看似无害的对话是否会被造谣者恶意使用,导致更加深远的恶性影响,这种前瞻性对于虚假信息的预防来说格外关键,ActiveFence的主要客户包括社交媒体、音频及视频流媒体、文件分享平台和游戏平台等,覆盖用户总数达到了10亿+。

DeepMedia可以说是一家提供“双管齐下”业务的公司,最初的主营生意是开发出了可以通过翻译、语音合成和配音等技术让用户看起来能说多种语言的工具DubSync,而在这项服务成功被接受后目前研究起了如何监测合成音频和视频的技术,它对其监测工具的训练方式就是通过用自家的合成工具不断生成deepfake,然后考验监测系统是否能够察觉。

创始人Gupta表示现有的像是DeeperForensics和FaceForensics等大型数据库在合成时往往带有强烈的偏见,因此训练出的技术在监测上也有盲点,而DeepMedia的竞争优势在于它所使用的deepfake数据库质量更高,对于网络上现有的deepfake内容的代表性也更强。

这一AI监测工具在预先处理和正式分析方面都十分强大,比如它要想验证一个视频中的阿汤哥是否是真的,首先模型需要对视频中人物的脸部特征进行提取并分析,然后从背景音中提取出人物的真声,接下来这些信息会在一系列的分类器中被检验,最后整体的内容还要被卷积神经网络刷一遍看看生成deepfake的算法是否被使用。

DeepMediadetection

DeepMedia还开始了使用基于视觉的图像分类模型,Google就是用这种模型来进行搜索结果提取的,这样的模型比传统卷积神经网络训练速度要快上10倍。DeepMedia的这一监测业务已经和美国空军下属的实验室达成了合作,目前准确率达到了95%,会在99%的时候在市面上公开发布。

大厂也好,初创公司也好,他们为打假科技研发所作出的努力至关重要。

在未来的5到10年内,AI技术的发展将更快,这也就意味着AI在“撒谎”这件事上会更加聪明,仅靠网友们的人工鉴别肯定是不够的。

许多deepfake赛道的创始人呼吁各国政府的参与也至关重要,比如设立跨国界的对于虚假信息界定和干预的规范条例,比如拨款用于这一类危机的教育和研究等等。

如果AI有善和恶之分的话,那么未来几年在虚假信息这方面可以说是AI自身善与恶的一场赛跑,虽然科技不是唯一的答案,但希望我们众志成城的打假行动能够为我们争取一些时间。

参考来源:

AIiseatingitself:Bing’sAIquotesCOVIDdisinfosourcedfromChatGPT(Techcrunch)

MeettheAI-poweredstartupcatchingfakenews(Wired)

It’sNoLie:StartupsFightingDisinformationAreRakingInCash(CrunchbaseNews)

MeetthecompanyworkingwiththeAirForcetodetectdeepfakes

标签:区块链IGCCHATGPT区块链技术适合女生吗igc币价格CloudChatgpt币更换成啥币了

火币下载热门资讯
TBT:保姆级教程:手把手教你如何铸造Brc20代币_MEM

原文标题:《Brc?20代币实操铸造的全过程》原文作者:@CG_BRC?20? 什么是Brc?20?? brc?20是对标?erc?20?在BTC原生链上发行的同质化代币协议.

AIG:500万年薪招不到CTO,AI创业潮里的虚幻与真实_IGC

来源:豹变,作者:宋子豪,编辑:邢昀 图片来源:由无界AI工具生成AI赛道在经过ChatGPT出圈、大厂纷纷下场布局,以及王慧文、王小川等明星创业者入局之后,风口终于来到了普通人的面前.

人工智能:巴比特 | 元宇宙每日必读:美国网红利用“AI版的自己”和网友谈恋爱,每分钟收费1美元,进入GPT时代,数字人会变得更加普及吗?_数字人民币稳定币CNYD即将上线

摘要:据科技新知报道,国外拥有180万粉丝的Snapchat网红CarynMarjorie,开发AI版本的自己,结合GPT-4,利用不同版本的CarynAI和粉丝谈恋爱,按分钟收费.

EDC:EDCON 2023 5月19日在黑山首都波德戈里察开幕,嘉宾和完整议程揭晓_EDCC价格

今年全球最大的以太坊开发者大会之一的完整嘉宾名单和议程安排现已公布。EDCON2023将于5月19日在黑山共和国首都波德戈里察举行.

EDC:韭菜收割指南:复盘XIRTAM从开盘到跑路的一夜_TAM

作者:Go2MarsResearch2023年5月3日,当大众还在享受着五一假期的余温时,对于许多加密圈的朋友而言,这个夜晚并不轻松.

EDC:从 0 到 1:Web3 社区建设的五大关键步骤_MARSINU币

在Web3领域,社区建设是项目成功的关键之一。真正的社区是由一群拥有共同愿景和信念的人组成的。这些人可以一起开发和维护项目,参与决策,提供反馈和建议,并成为项目的有力推广者和代言人.