写于 2016-10-01 09:07:00| 澳门博彩在线| 国外

一位政治家的上任时间常常激起人们对存在主义的转向,但几乎没有什么原因像詹姆斯·瓦卡所选择的那样充满混乱,他本月作为纽约市议会的一名成员达到了他的三任期限,代表了东方布朗克斯瓦卡在地方政府将近四十年的时间可以通过他在八月份提出的一项法案来定义,而上个星期一通过一致投票通过的法案一旦由比尔·德拉布西奥市长签署成为法律,该立法将建立一个工作组来审查城市的“自动化决策系统” - 指导从警务人员和消防员到公共住房和食品券的所有事情的计算机化算法 - 着眼于使他们更公平,更开放审查10月中旬,我和我的一些人康奈尔科技集团的一位工作于算法问责制的同事出席了理事会技术委员会听证会,就该法案提供证词

由于Vacca主持委员会当时宣称:“如果我们要受机器,算法和数据的支配,那么它们最好是透明的”他说,他的许多选民认为,“一些不人道的计算机正在吐口水,告诉他们他们要去哪里,如果你不喜欢,就把它包起来“算法以无数的方式与纽约人的日常生活相交织,让学生与学校相匹配,评估教师的表现,杜绝医疗补助欺诈,帮助建立检查员管理他们的工作量Vacca首先在警务方面对这个问题感兴趣;他觉得他在布朗克斯的当地分区无法充分解释其人员配置决定背后的“标准和公式”

“这总让我很烦恼,而且我觉得我没有得到很多我想要的答案,”瓦卡说

我本月早些时候开始,他和几个有进取精神的年轻员工Zachary Hecht和Malaika Jabali尝试解决这个问题他们写了一个大约一百字的草案,这成为十月份听证会的焦点这是一个微小的,有趣的,有抱负的事情,它建议,无论何时城市机构希望使用自动化系统来分配治安,惩罚或服务,该机构将被要求将源代码 - 系统的内部工作 - 提供给公众还需要使用纽约人提交的数据来模拟算法的实际表现很快,这个版本的立法被证明是一个很长的镜头

“许多利益相关方表示,罪恶我们正在进入一个未知的地形,他们想要比我预期的法案慢一点,“Vacca说,最终法律排除了原始草案的披露要求,并成立了一个由de Blasio召集的事实调查小组,专责小组将就一系列问题提出建议,包括哪些类型的算法应该被监管,私人公民如何“有意义地评估”算法的功能,并获得影响他们个人决策的解释,以及政府如何解决“一个人受到伤害的例子”算法偏差原始草案要求的唯一遗迹是对“在适当情况下公开提供技术信息”的倾斜参考

工作组将成为第一个由城市领导的国家,并且在2019年年底报告调查结果时,它可能会在国内和国际上产生重大影响然而,毫无疑问,最终法律代表了Vacca早期野心的缩减

根据10月听证会和参与谈判的一些消息来源的证词,初稿中的一个主要绊脚石是要求完全公开源代码这引起了一些政策专家的强烈抵制,他们警告说,这种开放可能会带来安全风险,给不良行为者一种游戏公共福利系统的简单方法,以及来自科技公司的争论,这会迫使他们披露专有信息,据称会损害他们的竞争优势在10月份的听证会上,Helen Nissenbaum,Thomas Ristenpart和我警告技术委员会,专有信息论证可能会妨碍任何尝试算法透明度的举动,这给企业带来了很大的余地推动“广泛和毫无根据的”对企业保密的要求 我们提出了一个合格的解决方案 - 不是完全披露源代码,更重要的是特别强调驱动城市系统的数据

但是,政府并没有被说服

作为Blasio办公室的女发言人Freddi Goldstein告诉我说:“公布与我们签订合同的公司的专有信息不仅违反了我们的协议,还会禁止其他公司与我们进行业务往来,这将阻止我们尝试通过技术解决日常问题的创新解决方案“为了解决这些问题,最终法律引入了自己的一些问题

目前,Vacca表示,由于缺乏基本知识,理事会”在履行监督职能方面受到阻碍“

目前还没有现成的公共信息例如,城市在算法服务上的花费,或者与外部承包商共享多少纽约人的数据委员会自己努力寻找答案,现在的问题是专责小组是否会做得更好

在没有机构和承包商的紧密合作的情况下,它能否提出良好的建议并履行其职责

Vacca法案的中间草案包括广泛的报告要求,这将迫使各机构向专责小组提供相关信息

但该草案像8月份的版本一样被城市管理部门拒绝,现在工作组将不得不依靠自愿披露,因为它研究如何设计,采购和审计自动化系统对于一个没有真正法定权力的政府机构来说,这将是一个强大的或可能是Sisyphean的承诺该法律的第二个明显的失败是它没有解决城市如何政府和那些提供建议的人可以在与创建自动化决策系统的公司打交道时锻炼一下力量正如我在与Goldstein的讨论中所表明的那样,政府致力于保护技术供应商的合同和专有利益

但是,当我与罗格斯法学院的教授Ellen Goodman进行了交谈,他一直在研究城市供应商的预测合同她认为,“我们希望我们的代表推动所谓专有领域的发展”

纽约尤其如此,它的规模,财富和高质量的人口统计数据使其成为更多“大多数城市都是理想的客户”对于其中的许多供应商来说,这是他们最大的客户,“古德曼说,”如果纽约不使用这种能力让系统负责,谁会

“法律教授弗兰克帕斯夸莱马里兰大学主张以合格的透明度作为平衡商业和公共利益的手段,并告诉我很多相同的情况“虽然过去的合同条款很难重新审视,但纽约市应该承诺在未来的所有合同中要求开放这些算法服务的提供商,“他说,”他们在这里有杠杆作用,而不是Secrecy公司可能会激励微小的效率提升,但这些并不值得损害合法性和公共信心

政府通过黑匣子做出重要决定是一种失职责任“无论新法律的不足之处如何,与我交谈的许多人都认为这是一个在重要问题上更大程度参与的机会”将此法案视为一项实验在算法问责的世界里,像“星际迷航”中的皮卡德上尉一样发出了很多信息,他们会发出探索探索虫洞,“数学破坏武器:大数据如何增加不平等的作者卡西奥尼尔和威胁民主“,告诉我”我们发现的是,算法的世界是一个丑陋的虫洞“在绝缘算法和他们的创作者来自公众审查,而不是回应市民对偏见和歧视的担忧,现有系统”传播这些算法是客观和公平的神话,“奥尼尔说,”没有理由相信“

作者:王孙邈