链资讯 链资讯
Ctrl+D收藏链资讯
首页 > FTX > 正文

PIT:审计可以消除算法中的偏见吗?_PITI币

作者:

时间:

十多年来,记者和研究人员一直在撰写有关依靠算法做出重大决策的危险的文章:谁被关押,谁得到工作,谁得到贷款,甚至谁优先使用COVID-19疫苗。

而不是消除偏差,一个接一个的算法已经将其编成代码并永久存在,因为公司同时继续或多或少地保护其算法不受公众审查。

此后的一个大问题:我们如何解决这个问题?立法者和研究人员提倡进行算法审计,该算法将对算法进行剖析和压力测试,以查看算法如何工作以及它们是否在执行既定目标或产生有偏见的结果。越来越多的私人审计公司声称这样做。公司越来越多地求助于这些公司来审查其算法,尤其是当他们面对因偏向结果而受到批评的时候,但是目前尚不清楚此类审计是否实际上使算法的偏向性降低了,或者它们是否仅仅是良好的公关手段。

最近,当沃尔玛和高盛等公司使用的受欢迎的招聘软件公司HireVue面临批评时,算法审计引起了广泛关注,该公司通过视频采访评估候选人的算法存在偏见。

HireVue要求审计公司提供帮助,并在一月份在新闻稿中大肆宣传了审计结果。

审计发现,该软件的预测“在公平性和偏见问题方面做得很出色”,HireVue在一份新闻稿中说,引用了该公司聘请的审计公司O'Neil风险咨询和算法审计。

Mazars官网已删除币安储备证明审计报告:12月18日消息,审计公司Mazars官方网站已删除币安的储备证明审计报告。据悉,一个前财务会计准则委员会(FinancialAccountingStandardsBoard)成员认为,Mazars的报告缺乏有关内部控制指令、以及币安如何清算支持和支付保证金贷款的数据。Mazars是美国前总统唐纳德·特朗普公司的会计师事务所,于11月下旬被任命为币安储备证明的审计方,目前其官网显示已完全停止用于加密货币交易所的审计工具MazarsVeritas。(Cointelegraph)

据此前报道,彭博社记者EmilyNicolle发推称,审计机构Mazars将暂停为加密货币客户提供所有服务,包括储备证明报告。据悉,Mazars此前为币安、Kucoin、Crypto.com等交易所提供储备证明审计服务。[2022/12/18 21:51:31]

但是,尽管对其流程进行了更改,但HireVue被广泛指责为使用PR特技进行审计。

文章在快速公司,VentureBeat的,和麻省理工学院技术评论叫响公司mischaracterizing审计。

安全审计机构摩斯安全Armors与Coinhub钱包达成深度战略合作:据官方消息,近日,安全审计机构摩斯安全Armors与Coinhub钱包达成深度战略合作。双方将在钱包安全、安全审计、渗透测试、项目推广等层面展开深度合作,共同保障用户资产安全。

Armors摩斯安全机构成立于2017年,为行业最早的专业区块链安全机构之一。截止目前,Armors已为超过2000家区块链平台、交易所、钱包、DApp等机构和项目提供安全审计、渗透测试、跨链迁移、平台安全等各方面保障及服务。

Coinhub 是可信赖的数字资产管理服务平台,轻松掌管全球多链数字资产,服务于全球DeFi项目及投资者,提供专业、全面的去中心化生态数据。[2021/9/9 23:12:44]

HireVue表示,通过公开发布该报告可以使审计透明,并补充说新闻稿规定该审计仅针对特定情况。

“尽管HireVue可以接受任何类型的审计,包括涉及对我们整个流程的审计,但ORCAA要求只关注一个用例,以便就该系统进行具体讨论,”HireVue首席数据科学家LindseyZuloaga在接受采访时说。一封电邮。“我们与ORCAA合作,选择了一个具有代表性的用例,该用例与大多数HireVue候选人所进行的评估有很大的重叠。”

ChainTank算法稳定币完成智能合约代码审计:据官方消息,火币生态链算法稳定币ChainTank全套代码已开源验证,并通过区块链安全公司知道创宇完成智能合约审计,获五星安全等级。

合约在 Boardroom.sol中使用 Boardroom合约作为股权合约,利用directors存储用户,主要设计了资金质押、回撤与退出投资等功能。存在多种金融形式如现金和债权等,通过Bond和 Cash 等合约作为其相关的代币发放合约,利用Operator来进行相应的铸币烧币等行为的管理。使用 Treasury作为金库合约,设计了多个 Operator使用的功能函数来对资金地址进行一些设置如 Fund、预言机等合约地址。

ChainTank协议为三币种4.0算法稳定币系统, 2021、2022年度生态路线图也已经公布,致力于实现最具影响力的DeFi金融解决方案,打造去中心化数字金融TankBank。[2021/2/2 18:40:36]

但是算法审计师也对HireVue关于审计的公开声明不满意。

人工智能解释和偏差监控初创企业Arthur的联合创始人利兹·奥沙利文表示:“在对营销抵押品进行非常周到的分析时,它们破坏了整个领域的合法性。”

审计公司:DeFi项目对审计有着巨大需求:金色财经报道,已对Compound和Augur等DeFi主要产品进行了审计的审计公司OpenZeppelin表示,“正在看到对审计的巨大需求”,客户已预定至“2021年第一季度”。[2020/10/16]

这就是算法审计作为消除偏差的工具的问题:公司可能会使用它们进行真正的改进,但可能不会。而且没有任何行业标准或法规要求审计师或使用它们进行会计的公司。

什么是算法审计-它如何工作?

好问题-这是一个非常不确定的字段。通常,审计以几种不同的方式进行:通过查看算法的代码和来自其结果的数据,或通过与员工的访谈和研讨会来查看算法的潜在影响。

可以访问算法代码的审核程序使审阅者可以评估算法的训练数据是否有偏见,并创建假设性场景来测试对不同人群的影响。

Twitter的机器学习道德总监兼算法审计公司Parity的创始人RummanChowdhury说,只有大约10到20家提供算法评论的知名公司。公司还可能拥有自己的内部审核团队,负责在将算法发布给公众之前研究其算法。

HUSD审计报告:托管账户储备超1.17亿美元,累计发行14亿:据美国独立审计公司的审计报告显示,合规稳定币HUSD截至美东时间5月29日的流通量与托管在银行的美元储备1:1锚定,均达117,547,358.31美元。截至目前,HUSD累计发行量已经超过14亿美元。

HUSD是Stable Universal基于以太坊发行的合规稳定币,与美元1:1锚定。目前已经在数字资产交易和支付等应用中落地,并因安全、合规、便捷等性能成为倍受欢迎的新兴稳定币。[2020/6/12]

2016年,奥巴马政府一份关于算法系统和公民权利的报告鼓励了算法审计行业的发展。不过,聘请审计师仍然不是一种普遍的做法,因为公司没有义务这样做,而且根据多名审计师的说法,公司不希望受到审查或可能引起审查的潜在法律问题,特别是针对他们所销售的产品。

“律师告诉我,'如果我们雇用您,发现有一个我们无法解决的问题,那么我们就失去了合理的可否认性,我们不想成为下一个卷烟公司,'”ORCAA的创始人CathyO'尼尔说。“这是我找不到工作的最常见原因。”

对于那些聘请审计师的人,“审计”应包含什么没有标准。即使是拟议的纽约市法律也要求对聘用算法进行年度审核,也无法说明应如何进行审核。一位审核员的批准印章比另一位审核员的审核意味深远。

而且由于审计报告也几乎总是受保密协议约束,因此两家公司无法相互比较自己的工作。

乔杜里说:“最大的问题是,随着这一领域的利润越来越丰厚,我们将发现,我们确实需要什么是审计标准。”“外面有很多人愿意对某事进行审计,建立一个外观漂亮的网站并每天称其为日,然后无条件获取现金。”

一些审计师说,即使聘用了审计师,科技公司也并不总是能如愿以偿。

Arthur的O'Sullivan说:“在这种情况下,商业秘密已足够使这些算法能够在晦暗黑暗的环境中运行,而我们不能拥有这种秘密。”

算法正义联盟的审计师和研究合作者伊尼奥卢瓦·德博拉·拉吉表示,审计师处于无法访问该软件代码并因此存在违反计算机访问法律的风险。乔杜里说,当公司要求她允许他们在公开发布之前对其进行审查时,她拒绝了审计。

Zuloaga说,对于HireVue的审计,ORCAA采访了利益相关者,包括HireVue员工,客户,应聘者和算法公平专家,并确定了公司需要解决的问题。

ORCAA的评估并未考虑HireVue算法的技术细节,例如算法所训练的数据或其代码,尽管Zuloaga表示,该公司不以任何方式限制审计师的访问权限。

Zuloaga说:“ORCAA要求提供有关这些分析的详细信息,但他们的方法着眼于解决利益相关者如何受算法影响的问题。”

奥尼尔说,她无法对HireVue审核发表评论。

许多审核是在产品发布之前进行的,但这并不是说它们不会出现问题,因为算法不是凭空存在的。例如,当微软建立一个聊天机器人时,一旦暴露给Twitter用户,该聊天机器人便迅速变成种族主义者。

奥沙利文说:“一旦将其投入现实世界,即使有最好的意图,也有可能出错一百万人。”“我们希望采用的框架还不够完善。总有办法使事情更加公平。”

因此,尽管并不常见,但一些预发行审核也将提供连续监视。奥沙利文说,这种做法在银行和医疗保健公司中越来越流行。

奥沙利文的监视公司安装了一个仪表板,该仪表板可实时查找算法中的异常情况。例如,如果公司的算法拒绝更多的女性贷款申请,它将在启动后几个月提醒公司。

最后,越来越多的对抗性审核机构,主要是由研究人员和一些记者进行的,他们未经公司的同意就对算法进行审查。例如,算法正义联盟的创始人Raji和JoyBuolamwini,他们在亚马逊Rekognition工具上的工作突显了该软件如何在没有公司参与的情况下具有种族和性别偏见。

公司在审核后会修复其算法吗?

无法保证公司将解决审计中提出的问题。

Raji说:“您可以进行质量审核,但仍然无法从公司那里获得问责制。”“这需要大量精力来弥合获取审计结果与将其转化为责任之间的差距。”

公众的压力有时会迫使公司解决技术上的算法偏差-或未按技术公司的要求进行的审计,并由保密协议进行了审计。

拉吉说,性别阴影研究的研究发现了商业面部识别工具中的性别和种族偏见,并任命了IBM和Microsoft等公司来引发围绕它的公开对话。

她说,但是围绕算法的责任感很难引起关注。

尽管面部识别的偏见是可以解决的,但人们可以看到照片和错误率,并且可以理解种族歧视和性别偏见在技术中的后果,但与诸如利率算法偏见之类的东西联系起来可能会更加困难。

拉吉说:“我们如此依赖公众的呼声,实在令人难过。”“如果公众不理解,那就没有罚款,也没有法律上的影响。这让它非常沮丧。”

那么如何改善算法审核呢?

在2019年,一群民主立法者提出了联邦算法责任法案,该法案将要求公司对其算法进行审计,并解决审计在使用之前发现的任何偏见问题。

AIForthePeople的创始人MutaleNkonde是技术专家团队的成员,该团队帮助起草了该法案,并表示将为公司创建政府授权以进行审计并遵循这些审计。

她说:“就像药物测试一样,必须有某种类型的机构,例如食品和药物管理局来研究算法。”“如果我们看到了不同的影响,那么该算法将不会投放市场。”

该法案从未付诸表决。

来自俄勒冈州的民主党参议员罗恩·怀登表示,他计划与参议员科里·布克和众议员伊维特·克拉克重新引入该法案,并更新2019年版本。目前尚不清楚该法案是否将为审计制定标准,但这将要求公司根据其结果采取行动。

Wyden在一份声明中说:“我同意研究人员,行业和政府需要努力建立公认的审计AI基准,以确保审计尽可能具有影响力。”“但是,在国会开始采取行动防止偏见污染自动化系统之前,要等到学术界达成完全共识的风险太大了。我认为我们需要在两个方面都努力。”

标签:PITENTTURVENTPITI币TRANSPARENTAlturaJuventus Fan Token

FTX热门资讯
COIN:谷燕西:从Coinbase招股说明书看加密数字资产行业的发展趋势_数字资产交易平台

Coinbase现在已经计划在纳斯达克通过直接挂牌的方式进行上市。它的招股说明书S1现在已经公开.

UCO:慢雾:Furucombo被黑分析_comp币历史最高价格

据链闻消息,著名DeFi项目Furucombo被黑,损失超1500万美元。慢雾安全团队第一时间介入分析,并将攻击细节分享给大家.

UCO:明星项目周报 | Optimism将于三月上线主网;Furucombo因合约漏洞被盗1500万美元(2.22-2.28)_COM

2月15日-2月21日当周,明星项目进展中值得关注的事件有:NEAREVM预计在第二季度初或中期上线主网;NEM宣布新链Symbol主网将于3月15日启动;Solana和Serum上构建Sush.

HOO:虎符关于HooSwap开放API功能的公告_OSWAP

尊敬的虎符用户, HooSwap现已开放API接口,支持通过API进行“流动性添加”、“流动性赎回”和“交易”操作.

HOO:Hoo运营周报(2021.02.22~2021.02.28)_COM

Hoo运营周报将持续为大家呈现虎符最新资讯,让社区伙伴更简单快捷地获取平台动态。上周,虎符平台币HOO开始强势上涨,最高突破0.7USDT.

MASK:趋势论币:比特币刷新低小时线双底构成 目前该如何选择布局_RAD

大家下午好!目前是下午时间17:00为大家送上一段晚间的行情解析。首先我们还是回顾一下日内的一个布局:日内文章分析中给到的47700去分批进场空单,第三止盈目标是直接看到45500的位置,整个行.