不久前, 人类编写的代码控制着计算机程序运行的各个方面, 但这限制了程序做一些人们可以为之写明确规则的事情. 更复杂的决策, 比如你是否获得了银行贷款，或者哪些数字广告最有可能让你在Instagram上点击它们, 不符合这个框架. 人工生成的算法是用特定的指令编写的，允许控制结果.
现在, 机器学习算法被用来用大数据集“训练”算法, 信息集合. 让计算机从例子中找到模式来做决定，可以让新黄金城xhjc官方网站-apple app store-新黄金城集团排行榜解决更复杂的问题. 然而, 这些算法会找出数据中的每一种模式, 不仅仅是新黄金城xhjc官方网站-apple app store-新黄金城集团排行榜想让他们找到的人. 性别偏见, 性别歧视, 在面部识别软件和数字图像集的标签中发现了种族主义.
莎拉•布朗, 计算机科学助理教授, 是在研究如何防止人工智能强化偏见. “我的研究是新黄金城xhjc官方网站-apple app store-新黄金城集团排行榜新黄金城xhjc官方网站-apple app store-新黄金城集团排行榜如何调整机器学习算法及其嵌入的系统，以防止人工智能强化歧视模式,她说。.
布朗的研究是三重的. 她正在研究建立一种工具，使社会科学专家能够检查机器生成的算法. 她正在开发更好的学习算法，可以同时从数据和社会科学家的专业知识中“学习”.
她与布朗大学的一位同事合作, 研究人们如何应对歧视的社会心理学家. “他做实验，让人们表现出他们的种族主义或偏见, 新黄金城xhjc官方网站-apple app store-新黄金城集团排行榜一起研究人们对机器学习定义公平的不同方式的看法.”
机器学习应该如何定义公平? 这是个很难回答的问题. 毕竟，人们对公平的定义不同，布朗指出. “那么，人们更喜欢什么呢? 这在不同的社会群体中又有什么不同呢?
“来自许多社区的活动人士一直在谈论新黄金城xhjc官方网站-apple app store-新黄金城集团排行榜需要如何让算法承担责任,布朗说. 这是一项复杂的、多方面的理论工作. 解决方案可能会解决管道中的一个问题，但不是所有问题. 当涉及到机器学习时，有无数的问题. “那么新黄金城xhjc官方网站-apple app store-新黄金城集团排行榜如何把它们放在一起考虑呢??布朗说. “这是一个大问题.”
“为了让人文学科的深奥思想在计算机领域帮助新黄金城xhjc官方网站-apple app store-新黄金城集团排行榜，它们必须具有某种兼容性. 把这些想法结合起来是很重要的.”莎拉•布朗
布朗一直在与本科生合作，为数据可能存在的偏差建模. 以这种方式, 她和她的学生研究了不同的方式，这些数据可以捕捉到歧视在世界上发生的事实, 布朗说. “新黄金城xhjc官方网站-apple app store-新黄金城集团排行榜希望新黄金城xhjc官方网站-apple app store-新黄金城集团排行榜的算法不会复制这种歧视. 新黄金城xhjc官方网站-apple app store-新黄金城集团排行榜从简单的问题开始，然后扩大规模，看看它们如何应用到更广泛的环境中. 我试着用实际作为切入点.”
复杂的问题需要有创造性的思考者
布朗对公平和平等的兴趣由来已久. 在大学里，她参与了多元化和外联工作. 在加州大学伯克利分校做博士后, 她加入了一个名为“算法公平与不透明小组”的组织. 就在那时，布朗意识到她可以打造一份包括她所有不同兴趣的职业生活. 布朗建议她的计算机科学专业的学生也要广泛地思考他们的教育. 她说，单靠计算并不能解决复杂的社会问题. “新黄金城xhjc官方网站-apple app store-新黄金城集团排行榜的 数据科学 文学学士课程的设立是为了鼓励学生双修专业. 新黄金城xhjc官方网站-apple app store-新黄金城集团排行榜希望看到学生们双修数据科学和艺术与人文学科.
“我读了很多非计算机科学的东西来指导我的工作，”布朗说. “为了让人文和社会科学的真正深刻的思想帮助新黄金城xhjc官方网站-apple app store-新黄金城集团排行榜计算，必须有某种兼容性. 把这些想法结合起来是很重要的. 新黄金城xhjc官方网站-apple app store-新黄金城集团排行榜必须有共同的语言. 在学科边界上工作是非常令人兴奋的，也是非常必要的.
“这就是最难的问题所在.”
——玛丽贝斯·赖利-麦克格林