第28集:什么是道德AI?

分享:

近年来,人工智能以惊人的速度发展,并在e尊国际的个人和职业生活中产生了许多积极的影响. 随着人工智能解决方案变得越来越强大, 这一技术带来的伦理挑战引起了人们的关注. 企业如何才能避免陷入这些道德陷阱呢? 关于无意识偏见及其在人工智能解决方案发展中的作用,e尊国际需要知道什么?

这些问题和更多内容将在这一集的Bots中进行讨论 & 除了作为东道主 韦恩·巴特菲尔德 与e尊国际游戏同事、思想领袖和文化变革领导专家交谈 小姐Lawrence-Johnston. 韦恩和米西讨论的许多话题也涵盖在米西最近在信息周的文章: 《我不是猫:人工智能的人类一面.

 


成绩单

韦恩·巴特菲尔德

大家好,欢迎回到“机器人”栏目 & 除了. 你能相信吗,这是我在南湖的新家现场录制的第一集, 德州. 我很荣幸地欢迎本周的嘉宾,我新发现的地方的当地人,米西.

所以你好小姐!

小姐Lawrence-Johnston

嗨,很高兴来到这里.

韦恩·巴特菲尔德

才华横溢的. 很高兴你能上节目. 我知道这已经计划很久了. 那时我还在美国.K. 当e尊国际最初计划的时候. 为了大家好,米西是e尊国际游戏的同事. 她是e尊国际的首席顾问之一. 对我来说,她是道德人工智能领域的思想领袖之一. 但我知道你做的不止这些. So, 我要做的是, 这是e尊国际的机器人和超越的客人的标准, 我要请你自我介绍一下,让e尊国际知道你是谁, 你做什么, 以及你为什么这么做.

小姐Lawrence-Johnston

确定. 谢谢,韦恩. 我是米西·劳伦斯·约翰斯顿. 就像你说的,我喜欢,我是一个书呆子,我对人工智能很着迷. 不断地,有很多东西需要学习. 但这不是我的主要关注点. 我在e尊国际游戏的主要重点是领导e尊国际在美洲的运营模型能力. 这是企业数字化的运营模式,非it功能. 各种运作模式. 看看你的工作方式,你在这里做事的方式. 这就是你的经营模式. 通常文化, 或者我称之为C字的单词,因为对很多人来说,这是一个可怕的单词, 是根植于你的工作方式或做事方式的吗. So, 我的激情在我的讲台上, 真的, 我做这些事的真正原因是围绕着人们和行为, 和神经科学, 以及劳动力动态和劳动力行为的心理学. So, 我真正关注的是数字化的人性一面, 无论是网络安全的人性方面,还是云迁移的人性方面, 或者仅仅是任何类型的数字转型的人类方面, 从传统的软件开发方式转向更加IT化的业务一致性或产品模型. 这才是让我夜不能寐的好方法. 这就是我的强项. 它只是想帮助那些超级聪明的人展现人性, 像你这样的人关注的超级科技产品.

韦恩·巴特菲尔德

太好了,太好了. 我很欣赏你对这些很酷的技术人性化方面的关注. 所以,这真的很有道理. 在e尊国际游戏之前你在做什么? 让e尊国际来了解一下背景. 所以,你现在在逃避这些但那是你过去职业生涯中的事情吗?

小姐Lawrence-Johnston

你知道吗,有趣的是我从,没有你那么远的地方,搬到了德州,南湖. 我当时在支持一家为旅游和酒店业开发技术的公司的首席产品和技术官, 在南湖. 你可能知道我说的那家公司, 但那家公司实际上把我调到了达拉斯, 或南湖地区, 来自明尼苏达州, 明尼阿波里斯市, 明尼苏达州. So, 在加入e尊国际游戏之前,我曾在一家大型医疗保健公司担任战略企业转型总监, 那家公司将他们的IT部门剥离出来并商业化. 在那之前,我在不同的生命科学技术组织工作过三到四次. So, 如果你想到所有主要的医疗保健提供者和生命科学工作, 他们的企业, 内部IT部门, 我一直是支持他们的人力资源业务伙伴, 和人力资源方面的并购. So, 设计或有效性, 人的一切都与组织和结构的变化有关, 由IT驱动的劳动力变化, 无论是资产剥离, 或合资企业, or any type of organizational structure; my role was to come in and make sure that, 我把它称为一种榨干人力资本中所有美好的东西. 所以,确保你通过让人们发挥出最好的效果来优化投资回报率. 在那之前,在私营部门工作的15年前,我在联邦政府工作. 所以我专门为美国的劳工部工作, 以及就业及培训管理局. 所以,人是我的血液.

韦恩·巴特菲尔德

这里有很多有趣的背景! 的公共, 私营部门, 很明显,即使是在技术领域,e尊国际也非常关注人的方面. 我真的很想进入今天关于道德AI的讨论的实质. So, 你知道, 我觉得你有点像一个思想领袖, 我被问了一些关于这个的问题. 我真的和你说的有些事情产生了共鸣. 我知道你最近也写了一篇关于这方面的文章e尊国际稍后再谈, 但请告诉我你的观点:什么是道德AI? 让e尊国际从观众开始吧. 然后从这里开始.

小姐Lawrence-Johnston

是的,我认为你知道,任何人都可以走出去,谷歌道德人工智能,对吧,或者什么是道德人工智能? 要遵守规范的标准和指导方针. 一些基本的应该做和不应该做的事情,比如个人权利, 不歧视, non-manipulation, 隐私. 但对我来说,这真的是开发人工智能. 就像e尊国际考虑测试驱动开发一样, 你在考虑AI的测试驱动开发, 从同理心的角度来看, 正确的? So, 你要把你的用户体验, 或终端用户计算镜头, 思考整个生命周期的规划, 建筑, 发展中, 操作, monitoring of AI or ML; do you have the 正确的 amount of diversity, 公平和包容自然地有机地融入了正在开发和从事工作的人?

韦恩·巴特菲尔德

我认为这是一个很好的解释,所以我很喜欢. 因为e尊国际听到了很多关于道德的事情,所以偏见是从哪里来的呢. 你听说过偏见. 是的. 那么再多谈谈偏见吧.

小姐Lawrence-Johnston

那么,你有人类参与其中吗? 如果答案是肯定的,那e尊国际就是行走偏见,对吧? e尊国际基本上就是黄瓜. e尊国际体内90%以上都是水,但e尊国际的大脑会为e尊国际做出预测,以保证e尊国际的安全. 所以,e尊国际所做的,每分钟十亿次,就是思考和判断. 这就是e尊国际进化的方式,也是e尊国际变得聪明的原因,对吧? 这就是e尊国际的悟性. 这就是e尊国际的真实. 这是帮助e尊国际创造和创新的东西. 这是通过利用e尊国际在不考虑它的情况下在内部做的预测. 这就是e尊国际成为人类的原因. e尊国际的杏仁核, 让e尊国际稍微了解一下神经科学, 是e尊国际的战斗, 或逃, 或者冻结e尊国际大脑的一部分. 杏仁核是大脑中最古老的部分. So, 韦恩, 作为一个孩子, 你的宝宝韦恩, 当你不喜欢某件事的时候,你所知道的就是哭, 或尖叫. 我需要让别人知道我不喜欢某样东西. 当e尊国际发展, 我知道你有年幼的孩子,所以你可能也在和他们一起考虑这个问题. 随着e尊国际的发展, e尊国际的大脑发展, e尊国际的前额皮质或PFC开始控制杏仁核. 而PFC基本上是在跟踪记录,这会对我造成伤害, 这不会伤害我, 这是可怕的, 这并不可怕. 如果我看到这个, 这意味着如果你像这样, 这意味着如果你听起来像这样, 这意味着? 这是一个功能齐全,发育成熟的大脑的工作. 所以,作为一个人类,实际上就是拥有这种智能来控制你的杏仁核. 如果你是人类, 这意味着你要做出判断, 你会做出先入之见, 你会有偏见. 这就是我提取向下偏见的方法. 有很多偏见是无意识的,但不是恶意的. 没有malintent. 当然,e尊国际也有自己的偏见. 具体地说, e尊国际知道自己喜欢或不喜欢的事情, e尊国际想做或不想做的事情, 这就是无意识偏见进入伦理AI的原因. 你意识到无意识或隐性偏见了吗? 您是否有适当的机制来明确它,并确保它不会对您的开发和部署产生不利影响?

韦恩·巴特菲尔德

这种无意识的偏见是无意识的? 正确的? 它只是发生. 一个企业,一个人究竟该如何应对呢? 更不用说一个由多种无意识偏见组成的行业了. 你怎么能试着避开这些呢?

小姐Lawrence-Johnston

这是正确的问题. 这与整个企业无关. e尊国际稍后会讨论这篇文章, 企业作为一个整体将关注于测试过程, 数据治理, 你如何招募, how you retain; that that's what the enterprise will do. 但这真的是群体免疫. 你必须从我的个人开始. 这完全是个人主义的. 这是非常特殊的. 这是具体情况. 最重要的是不要把它简单化, 它是如此的简单和容易, 韦恩, but it's the hardest thing to do; and it's just to be introspective. 是去看看你自己, 并考虑一些你可能会做出假设的事情. 举个例子,e尊国际最近在讨论会话式AI,我想是在上周? e尊国际来回传送信号. 如果你想的东西是你的对话代理, 或者聊天机器人, 随便你怎么称呼他们, 你想到的是NLP, 还有语言以及语言的触发作用. 你想到一个词,像, 举个例子,你要预订机票, 或者你要去订机票. 这是两个非常相似的东西, 而是不同方言的文化含义, 根据你的社会经济经验, 基于你的世界观. 当你用那个CA上网时,你有四到五个选择? 你不能处理你想做的事. 我想订一张机票. 可选择的是“您想要预订吗??或者只是像这样的小例子. 你怎么能一直回到, 当你开发, 当你处理, 当你输入数据时, you're training; how do you make sure that you're taking things that are probably assumptions, 考虑这些假设, 把他们扔到墙上,说, 这是最好的表达方式吗? 这是语言的一个小例子? 所以你只能把它留在你的前额皮质上. 正确的? 不只是战斗,逃跑或冻结. 这需要我所说的毅力,精神上的毅力. 你的认知不能偷懒. 你必须不断地尝试接受那些假设这些假设是普遍存在的, 并使它们明确, 然后试着在你做的每件事上尽可能地解构它. 不管是招聘, 无论是和同事一起工作, 不管它是你输入的实际数据, 你再确定也不过分,这很难靠你自己去做. 所以作为个人,我不得不迈出第二步. So, 我必须向内看, 我必须让那些假设变得明确, 然后在上面戳洞. 那我就得有责任了. So, I need 韦恩 to come in and say; is that the best way to approach this 小姐? e尊国际有两种不同的生活方式. 你结婚了,有孩子了. 我也结婚了. 你是一个男性. 我是一个女. 我是一个少数民族. 你占了多数. 你来自英国. 我来自费城? 你需要这种思维的多样性, 以及经验的多样性, 能够真正地分解事物. 我认为这就是你获得群体免疫的原因, 如果每个人都这么做, 每个人都在放眼世界,寻找自己的责任, 他们对这种责任没有意见, 那才是美所在. 这就是你移动指针的方法.

韦恩·巴特菲尔德

感觉虽然, 好像每个人肩上都有很多负担, 以及所有参与ML的人. 总有一些事情会因此而被忽略. 在这个领域,技术是否可以帮助e尊国际? 或者e尊国际真的要依靠人们做正确的事情?

小姐Lawrence-Johnston

你知道,公平地说,我认为双方都有争论. 我想有些人会说你绝对可以使用工具来解决使用工具的问题. 这是个好主意. 你绝对应该这么做. 但该工具的作用仍然有限. 这是, 你知道, 关于直觉的论证, 你的直觉检查了你的人际关系网,越来越近, 很明显,e尊国际会随着时间的推移. But this is the new ultra-senior leaders’ imperative; is to drive the culture change of the enterprise and the culture change of the individuals. 这意味着他们的价值观, 这意味着他们的习惯, 他们的行为, 的心态, 的前景, 的经验, e尊国际的信仰, 所有这些都不是很硬或触觉. 它还是会回到是鸡还是蛋,还是个体. 工具不会自己构建. 所以,你仍然完全依赖这个人. 在我看来,这不是挑战,韦恩. 那就是那就是机会.

韦恩·巴特菲尔德

有趣的. 我喜欢这个. 我想e尊国际会越来越依赖ML, 更广泛的团队也在成长, 只是偏见问题似乎要爆发了, 它变得更大, 和更大的, 和更大的. 现在e尊国际确实需要开始解决这个问题. 这可能就是原因, 其中一个原因是, 伦理AI和关于偏见的讨论对很多人来说都是非常重要的. 你不可能没有注意到现在公众对这个问题的讨论是多么频繁. 我知道我之前提到的一件事是关于你最近的一篇关于这个主题的文章. 所以,为什么不给观众30秒的时间来了解这是关于什么的. 很明显,我会确保它在节目笔记中出现. 所以,任何对阅读感兴趣的人都可以很容易地接触到它.

小姐Lawrence-Johnston

绝对. 《信息周刊》的编辑们问了这个问题, “你知道, 小姐, e尊国际对此很好奇, 数字化的人性化方面. 你对人工智能的人类方面有什么看法?  特别是关于偏见和无意识偏见?“我经常谈到认知失调和行为动力学,以及帮助领导者在他们所领导的个体中了解自己, 教他们指导他们. So, the article; the title always makes me chuckle. 题目是《e尊国际游戏》. 而且没有太多的剧透警告, 我会让观众走出去,让对话继续, 但是你们一定知道——你们可能都知道, 这是你的人群,吉娃娃对松饼. 作为预告片还是诱饵怎么样?

韦恩·巴特菲尔德

我爱. 作为一个硅谷迷,我喜欢另一个,热狗/非热狗. 和吉娃娃/松饼很像.  米西,这真是太棒了. 我很高兴e尊国际能像邻居一样做这件事. e尊国际真应该并肩作战的.

小姐Lawrence-Johnston

e尊国际可能应该! e尊国际一开始我就想到了.

韦恩·巴特菲尔德

下次吧,非常感谢你们今天抽出时间来. 真的很感激. 我相信观众们会从e尊国际今天的讨论中获益良多. 当然, 如果有人对米西的更多信息感兴趣,请随时在LinkedIn上e尊国际. 我相信她听到你的消息会很高兴的.

小姐Lawrence-Johnston

非常感谢.

韦恩·巴特菲尔德

这是我的荣幸. 谢谢你. 也谢谢你们的收听,e尊国际稍后在“机器人”节目上再见 & 除了.

 

关于主机

韦恩是自动化的先驱, 最初在2010年成为RPA的早期采用者, 创建了首批企业规模的RPA操作之一. 他在西班牙电信英国(Telefonica UK)的早期挫折, 导致了许多最好的做法,现在渗透到全球各地的RPA优秀中心. 以客户为中心, 韦恩还专门从事客户服务转型, 并一直在帮助品牌更加关注客户的数字化. 韦恩是在线聊天的专家, 社交媒体和在线社区, 这意味着他可以很好地利用聊天机器人 & 虚拟助手. 最近,韦恩专注于认知研究 & 人工智能自动化, 他领导欧洲人工智能自动化实践, 帮助品牌利用这一新浪潮的自动化能力. 
分享: