撰文:Anna Fell?nder,anch.AI 的创始人、ETHICAL AI GOVERNANCE GROUP 委员会成员
2023 年 2 月,欧洲议会 AI 伦理领域的顾问 Anna Fell?nder 在欧盟委员会官网发表了《ChatGPT’s rapid entry – Urgent for the government to appoint an authority for responsible AI》,提出了关于为什么要对生成式 AI 进行监管的背景、原因和解释。笔者认为,这篇文章很有可能代表了未来欧盟委员会对生成式人工智能的监管方向之一,我们看这篇,也主要是作为一个国际动向进行关注。
全文如下:
最近新发布的人工智能方案 ChatGPT,以一种全新的方式挑战着所有人。随着生成式 AI 系统创造的机会,我们同时也面临着具有历史意义的十字路口:
欧盟委员会要求欧洲央行对数字欧元的使用设定限制:6月18日消息,根据欧盟委员会关于建立数字欧元的提案草案,欧洲央行必须对数字欧元的使用设定限制,但不会对交易或持有数字欧元提出具体门槛。欧洲央行必须决定确保金融稳定所需的工具。这些措施不能阻止那些对金融稳定没有损害的数字欧元交易,且应该在整个欧元区平等适用。
该草案称,为了确保金融体系的稳定、信贷的可用性和货币政策的传导,使用数字欧元作为价值储存手段可能会受到限制。数字欧元将具有法定货币地位,接受数字支付将是强制性要求,但微型企业和非营利组织将例外。该草案定于6月28日提交,在此之前草案文本仍有可能进行修改。[2023/6/18 21:44:54]
也就是,究竟是人工智能来控制人类,还是人类来控制人工智能。
瑞典的企业和当局(因为 Anna Fell?nder 在瑞典),需要对人工智能采取 Ethical approach ,也就是伦理学上的考量,但最重要的是,需要建立风险评估框架,来支撑这种发展,从而指导符合人类价值观的人工智能解决方案的发展。
欧盟委员会考虑限制稳定币发行:金色财经报道,根据一份文件,欧盟委员会在考虑对稳定币取代法定货币广泛使用的能力进行严格限制。欧盟财政部长提出了强硬措施,旨在阻止稳定货币取代欧元,并要求,如果单日交易量超过100万或交易金额超过2亿欧元,就停止发行。该文件被标记为“非纸面文件”,意味着它不反映委员会的正式立场。欧盟议员和政府正试图敲定具有里程碑意义的加密货币法律,即《加密资产市场监管》(MiCA),委员会将在后期进行闭门谈判。 (coindesk)[2022/5/12 3:08:39]
此外,欧盟人工智能立法,对发展负责任的人工智能来说,指日可待,而政府迫切需要组建发展负责任的人工智能机构。
(1)首先,创造了人们内心期待已久的人工智能民主化,更多的人可以参与进来这次技术带来的迭代,自己去创造由算法在历史数据上生成的新内容。各个组织实现 AI 技术价值的门槛显著降低,新的创新商业模式也层出不穷,能够有效地加强客户和人们的关系。
欧盟委员会提出发展数字技术的权利和原则:1月26日消息,欧盟委员会提出发展数字技术的权利和原则,数字技术措施旨在确保公平、安全的网络环境。(金十)[2022/1/26 9:15:13]
(2)同时,所有个体和社会,每天都面临着由于不受监管的人工智能解决方案,从而导致的道德和法律问题。其中一个原因是,人工智能模型的学习是基于历史数据,而其中,很可能存在不必要的偏见,这种偏见,可能导致社会排斥和歧视,包括其他的违规行为。
比如说,当我们这些个体,批准自己数据在某种情况下被使用时,可能并不会意识到,当我们自己的数据与其他数据结合时,算法如何创造出侵犯个人隐私的见解。
注意:这对公司和各国政府来说,代价都很高,例如可能会撤回投资,或者导致声誉受到损失。最近的案例表明,2021 年,由于人工智能解决方案错误地指责接受父母保险的父母是欺诈。此外,还有个基于 OpenAI 的 GPT-3 的医疗聊天机器人被发出测试,其结果是建议病人自杀。
动态 | 欧盟委员会和欧洲投资基金将启动一项针对区块链的投资计划:欧盟委员会和欧洲投资基金(EIF)将启动一项针对人工智能(AI)和区块链的投资计划。该计划将向风险投资基金或其他支持AI和基于区块链的产品与服务的投资者提供1亿欧元。由于这些是基本的投资,因此我们预计其他“涌入”的私人投资者将为AI和区块链带来总计3亿欧元的投资。”(Cointelegraph)[2019/11/22]
参考资料:GPT-3 medical chatbot tells suicidal test patient to kill themselves | Boing Boing
生成式人工智能系统,比其他人工智能解决方案具备更高程度的道德风险暴露。其中一个原因是,生成式人工智能系统的使用往往是通过 API 进行的,这使得解决方案的透明度很低,并且,对它的发展难以控制。
同时,道德和法律方面的违规行为,通常发生得很微妙,也很突然,虽然这些违规行为可能会小到无法察觉,但是极有可能造成指数级的损失。
其中一个例子是深度造假,比如说,被用来操纵视频或照片中的面孔和声音。而要注意到的是,生成式人工智能模型通常以 API 的形式提供,这就可以使用户更容易获得和使用该技术,这可能会增加滥用的风险。
需要承认的是,基于 API 的生成性人工智能模型本身并没有风险,但它们的使用方式和训练的数据会使他们具备风险。
欧盟的人工智能立法,即《人工智能法案》,将于 2024 年正式生效。
《人工智能法案》的目标,是让公民和消费者感到信任,并维护欧盟包括人权在内的价值基础。欧盟委员会在《人工智能法》中提议,成员国必须任命或建立至少一个监督机构,负责确保「必要的程序得到遵循」。
随着生成式人工智能系统逐步出现的巨大潜力,尤其是在医疗保健方面,例如正确诊断和优化疾病的治疗,关键是,要有可用的风险评估框架,并任命一个负责任的机构。
人工智能的伦理框架,为所有部门创造了一个高度的创新环境。因此,有关机构迫切需要任命这一负责机构,并提供风险评估框架,以便瑞典企业和瑞典当局不会像 GDPR 那样对人工智能法案缺乏警惕性。
[参考文献]
https://futurium.ec.europa.eu/en/european-ai-alliance/blog/chatgpts-rapid-entry-urgent-government-appoint-authority-responsible-ai
Artificial intelligence: huge potential if ethical risks are addressed | News | European Parliament (europa.eu)
Welcome to anch.AI - AI and Equality in Public Administration- a report by anch.AI and the Swedish Gender Equality Authority.
阿法兔
个人专栏
阅读更多
金色早8点
金色财经
Odaily星球日报
欧科云链
澎湃新闻
Arcane Labs
深潮TechFlow
MarsBit
BTCStudy
链得得
从 VC 钱包中发现获利的机会,排名前 20 的加密货币基金总共有 1200 多个钱包。整个一月/二月我一直在密切关注它们。在这里我将介绍 8 家最大的风险投资公司,他们最大的持股和近期投资.
作者:Sara Gherghelas来源:dappradar编译:Yuanshan@Web3CN.Pro 本期看点 1、Dapp行业概述 2、DeFi的TVL增长26.8%.
原文作者:Thor Hartvigsen谁秘密地持有你感兴趣的协议的大部分代币?他们以什么价格投资/买入?DeFi 研究员 Thor Hartvigsen 根据自创的数据库.
AI 作为可预见的下一代技术高地,2023年年初借助着 ChatGPT 的东风,其热度迅速席卷整个科技圈,并引发了一场押注 AI 的“军备竞赛”.
几个月前,JPMC 进行了他们所谓的「DeFi 机构 」交易。让我们来分析一下发生了什么,为什么它很重要,以及它对资本市场的未来可能意味着什么.
根据以往历史,加密项目遭 SEC 调查后难逃「以钱换命」。今日早间,稳定币发行商 Paxos 因 BUSD 相关问题将面临美国证券交易委员会(SEC)的诉讼.