HMC CS研究人员在算法偏差上发布章节

金宝搏188论坛Harvey Mudd College计算机科学教授GeorgeMontañez和他的学生Daniel Bashir '20和Julius Lauw '20已发表“争论竞争偏见”章节ICAART 2020:代理和人工智能,计算机科学书系列(Springer,Cham)中的一部分讲座笔记。

HMC研究人员章节关于偏差如何涉及算法灵活性(富有竞争力)是实验室屡获殊荣的2020篇文章的扩展和完全重写版本,用于国际代理商和人工智能(ICAART)。

Montañez,Bashir和Lauw通过术语“偏见”的定义开始扩展原来的纸张。

Montañez网站表示:“‘偏见’这个词在机器学习和统计学中是一个很有内涵的术语,至少有四种不同的用途。”“我们增加了一个章节来区分这个术语的含义,并说明我们的偏见概念‘算法偏见’与我们试图在数据科学中消除的偏见并不相同。”虽然所有的偏见都会产生算法上的偏见,但并非所有算法上的偏见都是偏见。”

作者也利用有更多的时间进行研究,以改进他们的论文的核心思想的陈述。Montañez网站上说:“通常,当你陈述一篇论文时,在不得不向观众简单地传达想法的过程中,你会偶然发现一种更好的展示你工作的方式。”

“虽然所有定理和定义都是相当于原文和书籍章节的等同性,但”他解释说:“本书中的扩展版本介绍了一个名为归纳方向的几何思想周围的所有关键概念,基本上是一种算法的方向‘points towards’ in high-dimensional space. The degree to which it points somewhere away from the baseline direction is the degree to which it can be algorithmically biased—we’re basically measuring how well-aligned an algorithm is with regard to a particular situation we care about. Furthermore, pointing towards one direction means pointing away from other directions, so we see that no algorithm can be well-aligned with all situations. This geometric idea of alignment paints a better intuitive picture of what we mean by algorithmic biases.”

最初的论文,“偏见-表达的权衡”,由Montañez,劳,Dominique Macias ' 19, Akshay Trikha ' 21和Julia Vendemiatti ' 21合著,获得了ICAART 2020的最佳论文奖。

Montañez说:“这一章本质上是一篇新的论文,它在原始会议出版物的基础上,但在许多方面改进了它。”“我们也很幸运有Daniel Bashir作为合著者加入我们;他对新工作的许多改进负责,包括人工学习中不同偏见的新部分。”

本出版物标志着Bashir的第三和Lauw的第五位与Montañez的Amistad Lab。2020年,Lauw收到了来自计算机科学部门的学生研究员奖。Bashir是2020年CRA杰出本科研究员荣耀。

Montañez表示:“这一章可能会被机器学习和人工智能从业者使用,他们对观察和衡量人工学习系统中的偏差的新方法感兴趣。”“希望它能提高所有学习算法中存在的偏见的透明度。”