打开客服菜单
SEO培训学院招生介绍
天青SEO培训 > 网站建设 > 开发者是保护代码道德的最后防线?
开发者是保护代码道德的最后防线?
编辑 : 天青SEO 时间 : 2018-07-18T08:50:28 浏览量 : 169

开发者是保护代码道德的最后防线? 

 作者 | Ádám Sándor,Anne Currie 译者 | 薛命灯 编辑 | 小智

我们可以将技术道德定义为发现 IT 系统可能出现的问题(如个人或团体的劣势或伤害),并采取切实步骤避免这些问题。对于开发人员来说,合乎道德行事的关键是要保护人们免受软件系统给我们带来的危害。复杂的道德问题,比如避免使用有偏见的机器学习训练数据或让用户免于政治操纵,这些都是普通职业行为的延伸。作为工程师,我们有权力有所保留,但这对于推动变革来说作用不大。

3 月份,Stack Overflow 发布了他们的 2018 年开发者调查报告,并首次提出了有关道德的问题。对于“开发人员是否有义务考虑代码的道德影响”这个问题,有近 80%的人回答“是”。不过,只有 20%的人认为他们最终在为不道德的代码负责,40%的人会在被要求的情况下写不道德的代码(大多数人会说“这取决于”,我姑且把他们的回答解读为“是的,但我感觉不好”),只有 50%的人表示在发现不道德的代码时会举报。调查报告地址:

https://insights.stackoverflow.com/survey/2018/

如果代码对世界的影响不大,那么这也许就不成问题。如果我写了一个对 100 个人不利的算法,虽然很糟糕,但影响也是有限的。但是,如果我在拥有数十亿用户的 Facebook 或 Google 上做同样的事情,结果会很严重。扩大规模虽然有好处,但也可能带来同样多的坏处。

我们大多数人不为超大规模公司工作,但目标通常也是要增长,这样的文化很难发生改变。在开始时,投机取巧的做法可能有一定作用(例如优步决定测试没有牌照的自动驾驶汽车),但之后很难让滑坡的道德归位。

我们可以做很多事情,作为开发人员,我们设计、编写和部署代码。如果我们愿意,就可以成为防止不道德代码上线的最后一道防线。我们都听到过这样一句话:“你建造它,你运行它,你拥有它”。那么我们是否也应该承担起道德责任?在法律上,我们可能已经这样做了。我不希望自己在法庭上、在每日邮报的头条上或其他任何地方说这样的话:“我只是遵命行事”,但怎样才能真正避免这样的情况?

到底什么是道德?

我们不必拿有轨电车问题来做说明,技术道德并不是哲学的一个晦涩分支。道德代表了专业、合理的行为。我们可以将技术道德定义为发现 IT 系统可能出现的问题(如个人或团体的劣势或伤害),并采取切实步骤避免这些问题。

这在实际当中意味着什么?我们亲身遇到的这种道德问题通常都是非常普通的:

  • 资源严重不足的项目。一个交付的项目不具备过关的质量,因为它没有得到足够的资源。

  • 数据安全性不足。保护客户数据的措施还不够好,这可能会因为暴露个人信息而伤害了用户。

  • 过度的数据收集。应用程序保存超出实际需要的用户数据,因此承担了不必要的风险。

  • 备份不足。如果发生故障,用户可能会因为丢失重要数据或服务而受到损失。

这些道德问题都不是什么深不可测的新生事物。它们不像是邦德勇闯恶棍盘踞的巢穴,也不是要揭穿邪恶的政府计划。它们是大多数公司每天都在与之斗争的问题,沉闷却无比重要,开发者甚至因此无法睡上一个安稳觉。我敢肯定,我们之前都遇到过这样的事情,并感觉非常糟糕。

我们不能说出错就是不道德的——软件总会出错。但如果我们不做出合理的努力来避免问题的出现,或者在发生问题时没有指出来,或者在遇到问题是没有去解决问题,那就只是不道德的(或者说是不专业的)。

处理更复杂的道德问题只是普通职业行为的延伸,例如避免使用有偏见的机器学习训练数据或让用户不受政治操纵。从我们都有资格讨论的一般性问题(如备份)到需要博士学位来解决的哲学问题,它们之间并没有天壤之别,它们存在于同一个连续的频谱上。一方面,对于熟悉的问题,我们有定义好的最佳实践(比如备份),另一方面,我们面临新的技术,对于它们的故障模式我们并不熟悉,而且缺乏相应的指南(如机器学习)。

例如,让我们来看看一个真实案例——在星巴克等美国公司中非常流行的 Kronos 调度软件。 2014 年,纽约时报披露,通过 Kronos 算法来提升门店效率对员工的生活产生了非常负面的影响。我确信 Kronos 的开发者不是故意要这么做,他们只是没有预见到会发生这些问题,也没有现成的指南可用。

这里的道德问题并不是开发者的错。人们没有意识到,因为没有历史可循,所以就有可能会发生错误,需要在没有国家报纸这类实体干预的情况下发现并纠正这些错误。就观察工具来说,纽约时报通常不是最好的选择。问题不在于开发人员缺乏同理心,而是他们并不知道软件在已知和未知问题频谱中处于什么样的位置,并据此采取行动。他们没有进行足够的测试和监控,所以这属于专业性问题,而他们原本不需要心理学硕士学位就能完成这些事情。

我们最终将为机器学习、个性化算法等技术总结出最佳实践。只是现在我们还没有这么做,暂时还处在混乱的状态。这与 20 年前刚出现安全性或可访问性时的情况并没有本质的区别,但在数量上却十分不同,因为如果现在搞错一些东西,就会有很多人受到影响。这意味着我们需要更快地采取行动,并定义和分享好的行为。自我监管的能力必须赶上创新的速度。

作为开发者,关键在于保护人们免受软件已知问题的伤害。无论这种伤害是来自可怕的 AI 还是未经测试的备份操作,我们都需要最佳实践来指导我们。目前,关于软件工程师的道德或专业行为准则应该按照自上而下(政府立法或专业团体)还是自下而上(自主发起)的方式来定义存在很多争论。在我看来,最重要的是我们能够快速创建、分享和遵循指导方针,并快速解决问题,因此我们需要由软件工程师自己推动一种开创性的方法。自上而下的方式效率太低了。

当然,说起来容易做起来难。过去,我们都接受不道德的东西。如果我们总是无法获得足够的灾难恢复预算,那么我们将如何确保有足够保资源来监控具有种族偏见的算法?更何况我们有可能不知道如何做到这些!或者说服我们的雇主为我们提供源源不断的资金?这似乎是不可能的事情!这些事情已经注定了!

任何事情都比“注定的”要好,我倾向于从最简单的事情开始。很多公司都可以保证做到最基本的道德,如应用安全补丁,因此要强制推行责任行为不是不可能的。那么在现实中,开发人员可以做哪些道德的行为?

释放你的力量

如果一个软件工程师看到某些不道德的东西或者某些可能不道德且缺乏监管的东西,他可以做些什么?当你这样问一个典型的工程师时,可能会得到三个答案:

  • 发出警报,然后继续工作(警报可能无效,因为管理层已经知道它们的行为存在问题)。

  • 离开项目(或业务)!

  • 成为一名举报人(最难的选择,你可能会获得一些感激,但可能需要在俄罗斯度过余生)。

所以,开发者认为其中的一种选择不太可能(成为举报者),而另外两项代价也很高,他们也不太可能接受。这些就是 Stack Overflow 问卷调查的结果吗?难怪他们都是失败主义者。

当然,上述这些并非唯一的选项。开发人员比我们意识到的要强大得多。具体来说,我们有消费权力和专业力量。我为什么这么说?

消费者权力

所有工程师都有权力保留他们的预算(消费者权力)。如果你对此持怀疑态度,请想想那些技术大会上的女性演讲者。十年前,几乎没有女性在大型科技会议上发言。而现在,该行业中女性的比例占到大约 15-20%。这并不是因为会议组织者是一群嬉皮士,也不是因为她们可以轻而易举地赢得话语权。会议委员会之所以接受女性演讲者,是因为如果他们不这么做,就会遭到与会者的投诉。这是一个简单的例子,开发者购买了大会门票,那么就有权获得他们想要的东西。

消费者权力是推动变革最简单的方式。只要工程师购买或使用高科技产品和服务,他们就可以行使这项权力。例如,开发人员询问云供应商的可再生能源政策,以此来改善它们,或者从一个你认为不道德的供应商转换到另一个你认为相对较好的供应商——只要你告诉他们为什么要这么做!

专业力量

开发者拥有的第二种力量就是他们的专业知识。技术人员供不应求,公司热衷于雇用他们,并且想方设法留住他们。如果工程师期望雇主具备明确的道德技术流程,他们就会如愿以偿。

什么是道德技术流程?

我已经说过,我们应该对道德技术流程有所期待,但到目前为止还没有这样的流程!我们需要与软件工程师一起来制定这样的流程,原因有三:

  • 我们可以知道和避免其他人已经遇到的问题。

  • 通过一个清晰的流程,可以更容易地确认一个功能及其监控级别是否符合道德标准。

  • 一旦达成一致的流程,我们就可以对它们进行自动化。

让我们从定义一些简单的检查清单开始,并尝试实施它们,看看它们是否有效。检查清单虽然技术含量低,但在航空业,它们在提高安全性方面却非常有效。学习现有的最佳实践是一个很好的策略。

因为必须扩展到我们正在构建的所有新事物上,所以我们需要在前期和回顾过程中思考如何在新领域中应用最佳实践,并分享我们的想法。考虑使用测试驱动开发,并尽早考虑故障模式,这样做通常都很有效。我们不喜欢在不经测试的情况下使用开源代码,不过我们目前允许在没有作者或其他用户给出道德指南的情况下使用开源代码。也许我们不应该这样?

英文原文

https://www.infoq.com/articles/developers-tech-ethics

天青教育SEO培训学院专注SEO实战培训SEO专业培训SEO系统培训seo网络培训SEO排名优化培训。 如果你喜欢《开发者是保护代码道德的最后防线?》,可以把他分享给你的朋友和同行,让他们也能从中受益,他们会对你的无私表示感谢。

《开发者是保护代码道德的最后防线?》的相关文章

天青教育最新互联网干货文章

包括SEO、营销、建站、运营、推广、自媒体等领域

  • 10

    2018-07

    360搜索移动端上线站点子链功能

    360鼓励站长提交优质子链,在搜索结果中以更丰富的形式展现,提升网站的流量和用户体验,目前站点子链仅在移动端展现,触发方式:采用关键词(主链名称)精确匹配方式触 ...

  • 18

    2018-05

    百度搜索机制深度变革解析(上海沙龙干货分享)

    4月25日,搜索资源平台再次登陆上海地区,举办VIP沙龙&熊掌公开课,本次沙龙&公开课请到了百度搜索的首席架构师谭待,谭待是熊掌号产品的发起人之 ...

  • 23

    2017-08

    百度推出飓风算法,严厉打击恶劣采集

    百度搜索于近日推出飓风算法,旨在严厉打击以恶劣采集为内容主要来源的网站,同时百度搜索将从索引库中彻底清除恶劣采集链接,给优质原创内容提供更多展示机会,促进搜索生 ...

  • 12

    2018-01

    360搜索上线“悟空”算法识别被黑网站,打击网站被黑作弊行为

    360搜索上线“悟空”算法识别被黑网站亲爱的站长朋友们:互联网上针对网站的各种黑客攻击日趋严重。网站被黑后,在搜索结果中将无法展现正常的标题和摘要,取而代之的是 ...

  • 04

    2018-06

    6月3日至6月5日熊掌号群发消息功能升级维护公告

    尊敬的熊掌号合作方,因系统升级维护需要,熊掌号群发消息功能将在2018年6月3日至2018年6月5日暂时下线,暂停使用。届时,熊掌号将不能针对粉丝用户进行群发消 ...

  • 17

    2018-05

    百度搜索落地页时间因子规范

    一、前言落地页时间因子是百度搜索判断网站收录、展示、排序结果的重要参考依据,百度搜索综合用户对落地页中关于时间因子的实际感受,发现目前PC端及移动端大量网站落地 ...

  • 14

    2018-05

    做一个网站应该怎么选择合适的虚拟主机(空间服务器)

    做为一个SEO、或者是站长,甚至是公司企业,当需要建立一个独立网站的时候,不管这个网站是作为什么用途,博客、资讯站、图片站,还是企业官网,除了独立的域名之外(域 ...

  • 03

    2018-03

    什么样的链接对提升网站收录更有意义

    新年开工大吉,给各位站长们带来学院专家Mr Xue的最新文章,我们一起来看看什么样的链接对提升网站收录更有意义。现在搜索引擎针对改善网站的收录情况,提供了很多的 ...

  • 15

    2018-05

    建一个网站需要选择什么样的程序

    很多站长和网站管理员,其实都不是专业的程序员,他们不会写代码,但是他们需要自己建站,最好的方法就是使用开源的程序来建站,其次是付费找专业的人来做。那么建一个网站 ...

  • 17

    2018-05

    怎么上传自己的网站到服务器以及ftp上传工具下载使用

    天青SEO之前跟大家聊过建网站的三个要素:空间服务器、域名、网站程序,并且讲解了空间服务器的选择、域名的注册技巧、域名解析和网站程序的选择,今天说一下建网站最后 ...

  • 22

    2017-11

    什么是搜索引擎优化SEO?

    搜索引擎优化SEO的本质是:优化你的网站,让搜索引擎蜘蛛(spider)更好的阅读和抓取。SEO的中文意思是搜索引擎优化。通俗理解是:通过总结搜索引擎的排名规律 ...

  • 13

    2018-05

    域名注册商的选择与域名注册规则

    一个网站能够正常访问必须具备服务器IP和网站程序,机警的朋友可能发现了问题,我们平时访问的网址(域名)呢?理论上是可以不需要域名的,我们可以直接通过服务器IP地 ...

  • 08

    2018-03

    让你10分钟快速入门学会SEO基础

      作为一个网站策划,学习一点SEO知识可以让你在策划网站乃至到网站推广的时候如虎添翼。  无论如何,天青seo认为不能到了推广的时候才关注SEO知识,有些知识 ...

  • 12

    2018-07

    6款免费的SEO工具,助力你的独立站业务更上一层楼

    每个营销人员都有他们最喜欢的一套工具,可以帮助他们更轻松地工作。当你在寻找新的工具时,你可能会坚持专门为你的行业制作的工具。例如,电子邮件营销人员可能会使用自动 ...

  • 22

    2017-11

    Google SEO教程:如何优化英文网站在谷歌的排名

    虽然网上已经有数不清的Google SEO教程,但大部分教程可能已过时,或者相对零散不成体系。作为一个有7年实践经验的SEOer,我决定写一篇教程来详细介绍当前 ...

  • 21

    2017-11

    互点(刷点击)平台刷排名为什么前期效果好?

    接触多了互点平台(就是刷百度排名刷点击的一些点击平台或者软件)的都会发现,只要这个软件或者平台刚开始热的时候效果是比较好的;1.排名精灵当时有很多知名的如“狼雨 ...

  • 20

    2018-01

    百度站长社区版主飞鹰正义:浅谈百度搜索排序

    站长圈经常聊的话题中,怎么提升百度排序一定是排名TOP3的问题,那百度排序的原理是什么,该怎么提升,今天曲曲小姐姐特邀社区版主飞鹰,给大家分享一下他的理解。关于 ...

  • 19

    2018-03

    单页网站SEO优化技巧大全

      一个做英语培训行业的朋友问空明网络公司单页网站要怎么优化,他们公司采取的策略是单页面网站建站群,优化成百上千的单页面网站,通过群站的方式来给官网导 ...

  • 22

    2018-01

    影响网站跳出率的因素分析

    今天爆老师和大家分享一下“影响网站跳出率的因素”:主要分为三种,进入流量渠道,综合浏览速度和内容质量。以下观点是爆老师个人观点,院长分享给大家一起学习!流量渠道 ...

  • 09

    2018-01

    移动搜索优化实用教程:解网站移动化之痛

    “移动化”已成为每一位互联网从业者不可规避,甚至是必须追赶的目标。从2014年开始,百度加快了自身的移动化转型,同时也更大力度推进全网向移动化转型。截止2014 ...

  • 05

    2018-07

    金佰利告诉你,品牌广告投放如何抢C位

    金佰利旗下好奇新品发布,投放百度开屏,成功抢占C位,点击率高达8.11%。推荐阅读:技术赋能旅游营销,百度助力“一带一路”下的旅游产业百度斩获艾奇奖金奖 AI赋 ...

  • 22

    2018-05

    熊掌号平台最新消息,全新升级,全新上线

    熊掌号致力于帮助资源方快捷、高效地连接全网用户,通过充分利用百度搜索生态开放的优势,帮助资源方获取流量、沉淀用户和塑造品牌,实现自身内容与服务价值的快速增长。为 ...

  • 18

    2018-07

    关于小程序创业,你想知道的一切都在这里

    小程序的一大优势就是处于微信体系内,有机会利用微信的社交流量进行裂变式传播。文 / 李浩军来源 / 馒头商学院(ID:alpworks)大家好,我是GGV纪源资 ...

  • 06

    2018-06

    微信公众号赞赏功能升级为“喜欢作者”

    从今天起,公众号赞赏升级为“喜欢作者”,符合条件的作者即可注册为赞赏账户,作者可以直接收到读者的赞赏了!目前,微信与苹果方面已经达成一致,iOS系统也支持这一功 ...

  • seo实战培训

  • seo系统培训

  • seo网络培训

  • seo视频培训

cache
Processed in 0.004266 Second.