标有“安全经济学”的条目

第1页共36页

机器学习检测软件漏洞

没有人怀疑人工智能(AI)和机器学习(ML)将改变网络安全。我们 只是 不要 知道 怎样 .而文学通常侧重于人工智能的不同用途攻击者和捍卫者­合成两个­之间的军备竞赛我想谈谈软件漏洞。

所有的软件都有缺陷。原因基本上是经济的:市场不想为高质量的软件买单。除了一些例外,比如航天飞机,市场优先考虑快速和廉价而非好。其结果是,任何大型的现代软件包都包含数百或数千个错误。

一些bug也是漏洞,其中一部分是可利用的漏洞,这意味着知道它们的攻击者可以以某种方式攻击底层系统。其中的一些是被发现和使用的。这就是为什么你的电脑和智能手机软件不断被修补的原因;软件供应商正在修复已经发现并正在使用的漏洞。

如果软件供应商在设计和开发过程中发现并修复所有错误,一切都会更好。但是,就像我说的,市场不会奖励这种延迟和费用。人工智能,尤其是机器学习,有可能永远改变这种平衡。

发现软件漏洞的问题似乎非常适合ML系统。逐行检查代码是计算机擅长的一种繁琐的问题,如果我们能教会他们弱点是什么样子的话。这是一个挑战,当然,但有已经 一个 健康的 属于 学术 文学关于这个话题—— 研究 继续.随着时间的推移,我们有充分的理由期待ML系统在这方面做得更好,也有理由期待他们最终会变得非常擅长。

发现漏洞对攻击者和防御者都有好处,但这不是一场公平的战斗。当攻击者的ML系统发现软件中存在漏洞时,攻击者可以使用它来破坏系统。当防御者的ML系统发现相同的漏洞时,他或她可以尝试修补系统或程序的网络防御,以监视和阻止试图利用它的代码。

但是,当同一个系统在软件开发人员手中时,他们在软件发布之前使用该系统来发现漏洞,开发人员对它进行了修复,因此它一开始就不能使用。ML系统可能是他或她的软件设计工具的一部分,当代码还在开发时,它将自动发现并修复漏洞。

快进到10年左右的未来。我们可能会说,“还记得那些软件漏洞盛行的年代吗?在ML漏洞查找程序被构建到每个编译器中并在软件发布之前修复它们之前?哇,那些年都是疯狂的,“不仅未来可能,但我敢打赌。

从这里到那里将是一段危险的旅程,虽然。这些漏洞查找程序将首先在现有软件上释放,为攻击者提供了数百个(如果不是数千个的话)漏洞,以便在实际攻击中加以利用。当然,防御者可以使用相同的系统,但是今天的很多物联网系统没有工程团队来编写补丁,也没有下载和安装补丁的能力。结果是攻击者可以找到并使用数百个漏洞。

但是如果我们看得足够远,我们可以看到未来软件漏洞都是过去的事了。那我们就得担心什么了新的和更高级的那些人工智能系统提出的攻击技术。

这篇文章之前出现在SecurityIntelligence.com上。

发布于1月8日,2019年上午6:13查看评论188滚球网站

衡量安全决策的合理性

有趣的研究:“跳舞的猪还是外部性?测量的合理性
安全决策
“:

文摘:准确地为安全中的人类决策建模对于思考以下问题至关重要:为什么?以及如何建议用户采用某些安全行为。在这工作,我们在一个模拟银行账户的现实的在线实验系统中进行了行为经济学实验,以模拟最终用户安全决策的合理性。我们要求参与者做出一个经济上有效的安全选择,面对账户泄露的透明风险和可选安全行为(双因素身份验证)带来的好处。我们通过测量执行行为所花费的时间和参与者工资的估计来衡量采用安全行为的成本和效用。我们发现超过50%的参与者都是理性的(例如,效用优化)决策,我们发现参与者在面对更高的风险时更有可能表现得理性。此外,我们发现,用户的决策可以很好地建模为过去行为(锚定效应)的函数,知识的成本,在较小程度上,用户对风险和环境的认识(R=0.61)。我们还发现了捐赠效应的证据,从经济和心理决策科学文献的其他领域来看,在我们的数字安全设置中。最后,使用我们的数据,从理论上讲,强调“一刀切”的安全可能导致市场损失,但是,风险较高或成本较低的一部分用户采用这一做法可能会带来市场收益。

8月7日发布,2018年6点40分查看评论188滚球网站

量子密钥分配的GCHQ

英国政府通信总部(GCHQ)则直言不讳评估量子密钥分布:

QKD协议只解决同意加密数据的密钥的问题。无处不在的随需应变现代服务(如验证身份和数据完整性,建立网络会议,提供访问控制,(自动软件更新)更多地依赖于身份验证和完整性机制,比如数字签名,而不是加密。

QKD技术不能替代当前公钥签名提供的灵活的身份验证机制。QKD似乎也不适合未来的一些重大挑战,如保护物联网(IoT),大数据,社会媒体,或云应用程序。

我同意他们的看法。这是个聪明的主意,但实际上根本没用。在这个量子计算机已经打破了传统的公钥算法的世界里,我甚至认为这只是一个小众解决方案。

通读全文。它是短的。

8月1日发布,2018年下午2点07分查看评论188滚球网站

在金融诈骗

有一些好课在这篇关于金融欺诈的文章中:

这就是为什么我们做错了。我们正在寻找偶然违反技术法规的情况,没有系统的犯罪。问题是,这是正常的。欺诈的本质是它在你的视野之外运作,颠覆正常的制衡,使世界在画面不变的情况下发生变化。自从有市场以来,金融市场上的人们就一直“本末倒置”。

[…]

信任——尤其是陌生人之间的信任,除了相对匿名的市场交易,没有任何互动——这是现代工业经济的基础。现代经济的发展在很大程度上是管理这种信任的技术和制度的发明和改进。

随着工业社会的发展,成为受害者变得更容易了。在国家的财富中,亚当·史密斯描述了繁荣是如何从劳动分工中产生的——18个不同的工序,用于制造一个别针,为例。当这一切发生的时候,现代社会也出现了日益严重的信任分歧。一个社会越能从劳动分工中获益,在你意识到自己是一个骗子之前,你越能进入一个骗局。

[…]

Libor给我们上了一堂关于商业欺诈的宝贵课——与其他犯罪不同,它既有否认的问题,也有发现的问题。在其他犯罪行为中,被害人不仅同意犯罪行为,但自愿将金钱或贵重物品转移给罪犯。等级制度,构成现代经济的身份差别和网络,也对欺诈行为的发生造成了强大的心理障碍。白领犯罪的部分定义是由犯罪者的类型:社会地位高的人,总是被给予怀疑好处的那种人。

[…]

骗子不玩弄道德的弱点,贪婪或恐惧;它们利用了制衡体系的弱点,即旨在补充整体信任环境的审计过程。在研究著名的和大规模的欺诈行为时,在许多情况下,如果有人小心地证实所有的事实,一切都可能在很早就停止了。但没有人能证实所有的事实。他们太多了。即使在金融废墟被清理和逮捕之后,这是个大问题。

发表于7月25日,2018年上午6:29查看评论188滚球网站

美国商务部关于僵尸网络威胁的报告

上个月,美国商务部发布了一份报告报告关于僵尸网络的威胁以及如何应对。我注意到它明确地说物联网使威胁更加严重,解决方案主要是经济的。

各部门认为,在努力大幅减少自动化威胁方面的机遇和挑战,分布式攻击可以概括为六个主要主题。

  1. 自动化的,分布式攻击是一个全球性的问题。最近值得注意的僵尸网络中的大多数受损设备都位于美国以外的地理位置。提高互联网和通信生态系统抵御这些威胁的能力,其中很多都起源于美国以外,我们必须继续与国际伙伴密切合作。

  2. 存在有效的工具,但是没有被广泛使用。虽然还有改进的空间,工具,流程,为显著增强互联网和通信生态系统的适应能力而需要采取的措施已得到广泛采用,并定期应用于选定的市场部门。然而,由于各种原因,它们不是许多其他部门产品开发和部署的常见做法的一部分,包括(但不限于)缺乏意识,避免成本,技术专长不足,缺乏市场激励

  3. 产品应该在生命周期的所有阶段都得到保护。在部署时易受攻击的设备,发现后缺乏修补漏洞的设施,或在供应商支持结束使装配自动化后继续服务,分布式威胁太容易了。

  4. 认识和教育是必要的。家庭用户和一些企业客户常常不知道他们的设备在僵尸网络攻击中可能扮演的角色,也可能不完全了解可用技术控制的优点。产品开发人员,制造商,而基础设施运营商往往缺乏部署工具所需的知识和技能,流程,以及使生态系统更具弹性的做法。

  5. 市场激励措施应更有效地协调一致。市场激励措施目前似乎与“大幅减少由自动化和分布式攻击造成的威胁”的目标不一致。制造商,供应商的动机是将成本和上市时间降到最低,而不是构建安全性或提供有效的安全更新。必须重新调整市场激励措施,以促进在开发产品时更好地平衡安全性和方便性。

  6. 自动化的,分布式攻击是整个生态系统的挑战。没有一个利益相关者社区能够孤立地解决这个问题。

[…]

各部门确定了五项相辅相成和相互支持的目标,如果实现的话,将大大降低自动化的威胁,分布式攻击,提高生态系统的弹性和冗余性。关键涉众的建议行动列表可以增强每个目标。的目标是:

  • 目标1:确定一条通向适应性的清晰道路,可持续的,以及安全的技术市场。
  • 目标2:促进基础设施创新,以动态适应不断变化的威胁。
  • 目标3:促进网络边缘的创新以防止,检测,和减轻自动化,分布式攻击。
  • 目标4:促进和支持安全联盟,基础设施,以及国内和世界各地的操作技术社区
  • 目标5:提高整个生态系统的认识和教育。

发布于7月11日,2018年6点08分查看评论188滚球网站

调节比特币

Ross Anderson有一篇关于加密货币交换的新论文。从他的博客:

比特币回来的解释了加密货币世界的问题。比特币交易所正在发展成为影子银行系统,这并没有给客户实际的比特币,而是显示出一种“平衡”,允许他们与其他人交易。但是如果Alice给Bob发了一个比特币,他们都是同一交易所的客户,它只是调整它们的平衡,而不是在区块链上做任何事情。这是一个电子货币服务,根据欧洲法律,但是法律是强制执行的吗?不重要。我们一直在关注细节。

.

发布于6月5日,2018年上午6:32查看评论188滚球网站

评估网络不安全的成本

很难估计一个不安全的互联网的成本。研究遍布全球。兰德的一项有条理的研究是我所见过的最好的研究,它试图给这个问题一个数字。结果是,好,整个地图:

评估网络风险的全球成本:方法和实例“:

摘要:网络事件的估计直接和系统成本在不同研究之间存在显著差异,由于不同国家和行业的网络风险差异较大,这一问题变得更加复杂。本报告分享了一种透明且适应性强的方法,用于估计当前和未来的全球网络风险成本,承认网络事件的频率和成本存在相当大的不确定性。具体地说,这种方法(1)按国家和工业部门确定风险价值;(2)通过考虑每个行业的多个财务风险敞口,以及每个敞口中可能面临网络事件风险的比例,计算直接成本;(三)利用经济合作组织和发展投入,计算行业间网络风险的系统成本;输出,以及60多个国家各部门的增值数据。该报告有一个配套的基于excel的建模和仿真平台,允许用户更改假设并调查各种研究问题。作者使用文献综述和数据创建了多个参数样本集。然后,他们进行了一组案例研究,以展示模型的功能,并将结果与现有文献中的结果进行比较。结果值对输入参数高度敏感;例如,全球网络犯罪的直接国内生产总值(GDP)成本为2,750亿至6.6万亿美元,总GDP成本(直接加上系统成本)为7,990亿至22.5万亿美元(占GDP的1.1%至32.4%)。

这是兰德的风险计算器,如果你想自己处理这些参数。

注:我是这个项目的顾问。

分别地,赛门铁克已发表一份新的网络犯罪报告提供了他们自己的统计数据。

发布于1月29日,2018年上午6:18查看评论188滚球网站

安全和物联网

去年,10月21日,你的数字录像机——或者至少是像你这样的录像机——把Twitter从互联网上删除了。有人用了你的录像机,伴随着数百万不安全的网络摄像头,路由器,以及其他连接的设备,发动连锁反应的攻击,导致Twitter,Reddit,Netflix公司,还有很多网站都不在互联网上。你可能没有意识到你的DVR有那么强大的功能。但它确实。

所有的电脑都是可入侵的。这与计算机市场和技术有着同样的关系。我们更喜欢功能丰富、价格低廉的软件,以安全和可靠性为代价。你的电脑会影响Twitter的安全,这是市场的失败。这个行业充满了市场失灵,到现在为止,在很大程度上是可以忽略的。随着电脑继续渗透我们的家,汽车企业,这些市场失灵将不再是可以容忍的。我们唯一的解决办法就是监管,而这一规定将由一个在灾难面前迫切希望“有所作为”的政府强加给我们。

在这篇文章中,我想概括一下这些问题,技术和政治方面,并指出一些监管解决方案。监管在今天的政治气候下,这可能是一个贬义词,但安全是我们小政府偏见的例外。随着计算机带来的威胁越来越大,越来越严重,监管将不可避免。现在是时候开始思考这个问题了。

我们还需要扭转这种趋势,把所有东西都连接到互联网上。如果我们冒着伤害甚至死亡的危险,我们需要再三考虑我们之间的联系,以及我们故意不加修饰的地方。

如果我们弄错了,计算机行业看起来就像制药行业,或者是航空业。但如果我们做对了,我们可以保持互联网的创新环境,这给了我们很多。

* * * * * * * * * *

我们再也没有嵌入计算机的东西了。我们有电脑,上面有东西。

你的现代冰箱是一台电脑,可以让东西保持冷。你的烤箱,同样地,是一台能使事物变热的计算机。自动取款机是一台里面有钱的电脑。你的车不再是一个装有电脑的机械装置;这是一台有四个轮子和一个引擎的电脑。实际上,这是一个由100多台电脑组成的分布式系统,有四个轮子和一个引擎。而且,当然,你的手机在2007年成为全功能通用电脑,当iPhone推出时。

我们戴着电脑:健身追踪器和电脑医疗设备…当然,我们到处都有智能手机。我们家有智能恒温器,智能电器,智能门锁,甚至智能灯泡。在工作中,许多同样的智能设备与闭路电视摄像头联网,检测客户移动的传感器,和其他所有的事情。城市开始在道路上嵌入智能传感器,路灯,人行道广场,还有智能能源网络和智能交通网络。核电站其实就是一台发电的电脑,和我们刚刚列出的其他东西一样,它也在互联网上。

互联网不再是我们连接的网络。相反,这是一个电脑,网络化,以及我们所生活的相互联系的世界。这就是未来,我们称之为物联网。

从广义上讲,物联网由三部分组成。有传感器可以收集关于我们和我们的环境的数据:智能恒温器,街道和公路传感器,还有那些无处不在的带有运动传感器和GPS定位接收器的智能手机。然后是“聪明人”,他们会弄清楚这些数据意味着什么,该怎么做。这包括在这些设备上所有的计算机处理器和­——越来越­——在云中,以及存储所有这些信息的内存。最后,有影响我们环境的驱动器。智能恒温器的关键不在于记录温度;它是用来控制炉子和空调的。无人驾驶汽车收集有关道路和环境的数据,以便安全地驶向目的地。

你可以把传感器想象成互联网的眼睛和耳朵。你可以把执行器想象成互联网的手脚。你可以把中间的东西想象成大脑。我们正在建立一个互联网,认为,和行为。

这是对机器人的经典定义。我们正在建造一个世界级的机器人,我们甚至没有意识到。

可以肯定的是,它不是传统意义上的机器人。我们认为机器人是离散的自主实体,与传感器,大脑,驱动器都在一个金属外壳中。世界大小的机器人分布。它没有一个单独的身体,有些部分是由不同的人以不同的方式控制的。它没有中央大脑,它甚至一点也不像意识。它没有一个单一的目标或焦点。这甚至不是我们故意设计的。它是我们不经意间从我们日常生活中习以为常的物品中创造出来的。它是我们计算机和网络向现实世界的延伸。

这个世界大小的机器人实际上比物联网还要大。它结合了几十年的计算趋势:移动计算,云计算,不间断计算,巨大的个人信息数据库,物联网——或者,更准确地说,网络物理系统-自主,和人工智能。虽然它还不是很聪明,它会变得更聪明。它将通过我们正在建立的所有互联网络变得更强大和更有能力。

它也会变得更加危险。

* * * * * * * * * *

计算机安全已经存在了几乎和计算机一样长的时间。虽然安全并不是原始互联网设计的一部分,这是我们从一开始就一直在努力实现的目标。

我在计算机安全领域工作了30多年:第一次是在密码学领域,在计算机和网络安全方面,现在是一般的安全技术。我看到电脑变得无处不在,并且亲眼目睹了保护这些复杂机器和系统的问题和解决方案。我告诉你们这些,是因为曾经是一个专业领域的专业知识现在影响着一切。计算机安全现在是一切安全。有一个关键的区别,然而:威胁变得更大了。

传统上,计算机安全分为三类:机密性、的完整性,以及可用性。在很大程度上,我们的安全问题主要集中在保密性上。我们关心我们的数据和谁有权访问­——隐私和监视的世界里,数据被盗和误用。

但威胁有多种形式。可用性威胁:删除数据的计算机病毒,或者是加密我们的数据并要求支付解锁密钥费用的勒索软件。完整性威胁:能够操纵数据输入的黑客可以做的事情从改变一个班级的成绩到改变银行账户中的钱。其中一些威胁相当严重。医院已经支付数万美元给罪犯,他们的勒索软件加密了关键的医疗文件。摩根大通每年在网络安全上花费50亿美元。

今天,完整性和可用性威胁比机密性威胁严重得多。一旦计算机开始以直接和物理的方式影响世界,生命和财产都有真正的风险。破坏电脑和丢失电子表格数据之间有一个根本的区别,破坏你的心脏起搏器,失去你的生命。这不是夸张;最近,研究人员在圣路易斯发现了严重的安全漏洞。裘德医疗公司的心脏植入设备。手脚放在互联网上,它将有打和踢的能力。

举个具体的例子:现代汽车,那些带轮子的电脑。方向盘不再转动轴,油门踏板也不会改变速度。你在车里的每一个动作都是由电脑处理的,实际控制。中央计算机控制仪表板。收音机里还有另一个。这个引擎有大约20台电脑。这些都是联网的,越来越自主。

现在,让我们开始列出安全威胁。我们不希望汽车导航系统被用于大规模监视,或者是用于大规模窃听的麦克风。我们可能想用它来确定一辆车在911报警时的位置,并可能收集有关公路拥堵的信息。我们不希望人们为了绕过排放控制限制而对自己的汽车进行黑客攻击。我们不希望制造商或经销商这样做,要么,就像大众多年来做的那样。我们可以想象,希望赋予警察远程和安全地使移动的汽车瘫痪的能力;这将使高速追逐成为过去。但我们绝对不希望黑客能够做到这一点。我们绝对不希望他们在没有警告的情况下让每辆车的刹车失灵,以速度。当我们从驾驶员控制的汽车过渡到具有各种驾驶员辅助功能的汽车,再过渡到完全无人驾驶的汽车时,我们不希望这些关键部件被破坏。我们不希望有人意外撞车,更不用说刻意去做了。同样地,我们不希望他们能够操纵导航软件来改变你的路线,或者门锁控制,防止您打开车门。我可以继续。

有很多不同的安全要求,使他们误入歧途的影响范围从非法监视到勒索勒索到大规模死亡。

* * * * * * * * * *

我们的电脑和智能手机和它们一样安全,因为像微软这样的公司,苹果谷歌在发布之前花了很多时间测试他们的代码,并在发现漏洞时快速修补。这些公司可以支持大型企业,专门的团队因为这些公司赚了很多钱,直接或间接地,从他们的软件-在某种程度上,竞争其安全性。不幸的是,但数字录像机或家庭路由器等嵌入式系统却不是这样。这些系统的利润率要低得多,通常由离岸第三方建造。涉及的公司根本没有专业知识来确保他们的安全。

在最近的一次黑客会议上,一名安全研究人员分析了30个家庭路由器,并将它们分成了一半,包括一些最受欢迎和常见的品牌。去年10月,Reddit和Twitter等热门网站遭到拒绝服务攻击,网络摄像头和数字录像机等设备存在漏洞。八月份,两名安全研究人员演示了对智能恒温器的勒索软件攻击。

更糟的是,大多数这些设备都没有任何方法可以修补。像微软和苹果这样的公司不断地为你的电脑提供安全补丁。一些家庭路由器在技术上是可以修补的,但以一种只有专家才能尝试的复杂方式。对于你来说,更新你易受攻击的DVR固件的唯一方法就是扔掉它,买一个新的。

市场不能解决这个问题,因为买卖双方都不关心。用于拒绝服务攻击的网络摄像头和dvr的所有者并不在意。他们的设备很便宜,他们仍然工作,他们不知道袭击的受害者。这些设备的销售商并不关心:他们现在正在销售更新和更好的型号,而最初的买家只关心价格和功能。没有市场解决方案,因为不安全性就是经济学家所说的外部性:它是影响其他人的购买决策的影响。把它想象成一种无形的污染。

* * * * * * * * * *

安全是攻击者和防御者之间的一场军备竞赛。技术通过改变攻击者和防御者之间的平衡来扰乱军备竞赛。理解这场军备竞赛是如何在互联网上展开的对于理解为什么我们正在建造的世界大小的机器人如此不安全是至关重要的,以及我们如何保护它。为此,我有五条真理,从我们已经学过的计算机和互联网安全中诞生。他们很快就会影响到各地的安全军备竞赛。

真理没有。在互联网上,进攻比防御容易。

这有很多原因,但最重要的是这些系统的复杂性。更复杂意味着更多的人参与其中,更多零件,更多的互动,设计和开发过程中的错误更多,更多隐藏着不安全感的东西。计算机安全专家喜欢谈论系统的攻击面:攻击者可能瞄准的所有可能的点,这些点必须是安全的。一个复杂的系统意味着一个大的攻击面。防守者必须保护整个攻击面。攻击者只需要找到一个漏洞攻击——­­——一个不安全的途径,可以选择如何以及何时攻击。这是一场不公平的战斗。

还有其他的,更一般的,攻击比防御容易的原因。攻击者具有防御者通常缺乏的敏捷性。他们不用担心法律,而且通常与道德或伦理无关。他们没有官僚主义可言,能够更快的利用技术创新。攻击者也有先发优势。作为一个社会,我们通常不擅长主动安全;在攻击真正发生之前,我们很少采取预防性安全措施。所以攻击者获得了更多的优势。

真理没有。大多数软件都写得很差而且不安全。

如果复杂性还不够,我们通过制作糟糕的软件来解决这个问题。精心编写的软件,就像在飞机航空电子设备中发现的那种,既昂贵又耗时。我们不想那样。在很大程度上,编写糟糕的软件已经足够好了。我们都宁愿生活在有缺陷的软件中,也不愿支付好软件所需的价格。我们不介意我们的游戏经常崩溃,或者我们的业务应用程序偶尔会表现得很奇怪。因为软件在很大程度上是良性的,它没有重要。这已经渗透到整个行业的各个层面。在大学,我们没有教好如何编程。公司奖励高质量代码的方式和奖励快速廉价代码的方式不一样。我们的消费者不需要它。

但是写得不好的软件充满了错误,有时每1000行代码中就有一行。其中一些是软件复杂性所固有的,但大多数都是编程错误。并不是所有的错误都是漏洞,但一些人。

真理没有。3:通过互联网将所有东西连接起来,会暴露出新的漏洞。

我们联系的越多,一件事情上的漏洞越多,就会影响到其他事情。10月21日,各种嵌入式设备中的漏洞都被利用在一起,以创建黑客所称的僵尸网络。这个僵尸网络被用来对一家名为Dyn的公司发起分布式拒绝服务攻击。Dyn为许多主要的互联网站点提供了关键的互联网功能。当Dyn下降时,那些受欢迎的网站也是如此。

这些薄弱环节无处不在。2012,记者Mat Honan因为其中一个遭受了大量的个人黑客攻击。他的亚马逊账户存在漏洞,黑客可以进入他的苹果账户,这使得他们能够进入他的Gmail账户。2013,目标公司遭到黑客攻击,有人从其HVAC承包商窃取证书。

这些漏洞尤其难以修复,因为没有一个系统可能真的有故障。它可能是两个单独的安全系统之间不安全的交互。

真理没有。每个人都必须阻止世界上最好的攻击者。

互联网最强大的特性之一是它允许事物扩展。这是真的,因为我们有能力访问数据或控制系统,或者做任何我们利用互联网做的酷事,但对于攻击也是如此。一般来说,由于更好的技术,攻击者越少造成的伤害越大。这些现代攻击者不仅效率更高,互联网使攻击规模扩大到没有计算机和网络就不可能的程度。

这和我们习惯的完全不同。当我保护我的家不受窃贼侵扰时,我只担心住在我家附近的窃贼会考虑抢劫我。互联网是不同的。当我想到我的网络安全时,我要考虑的是最好的攻击者,因为他会创造出其他人都会使用的攻击工具。发现攻击Dyn漏洞的攻击者向全世界发布了代码,一周之内,有十几个攻击工具在使用它。

真理没有。5:法律禁止安全研究。

《数字千禧年版权法》(Digital Millennium Copyright Act)是一部糟糕的法律,它未能有效防止电影和音乐的广泛盗版。更糟的是,它包含一个具有严重副作用的条款。根据法律规定,绕过保护版权作品的安全机制是一种犯罪,即使这样做是合法的。因为所有软件都有版权,在这些设备上进行安全研究并公布结果可能是非法的。

虽然法律的确切轮廓是有争议的,许多公司利用DMCA的这一条款来威胁那些暴露其嵌入式系统漏洞的研究人员。这给研究人员灌输了恐惧,对研究有着令人毛骨悚然的影响,这意味着两件事:(1)这些设备的供应商更可能让它们不安全,因为没有人会注意到他们不会在市场上受到惩罚,(2)安全工程师不知道如何更好地进行安全工作。
不幸的是,公司普遍喜欢DMCA。反对逆向工程的条款使他们免于暴露劣质安全的尴尬。它还允许它们建立专有的系统,将竞争拒之门外。(这是一个重要的问题。现在,你的烤面包机不能强迫你只买特定品牌的面包。但由于这项法律和一台嵌入式计算机,您的Keurig咖啡机会强迫您购买特定品牌的咖啡。)

* * * * * * * * * *
一般来说,有两种基本的安全模式。我们可以尝试在第一次就做好一些事情,或者我们可以让我们的安全变得灵活。第一个范式来自危险事物的世界:来自平面,医疗器械,建筑。这种模式给了我们安全的设计和安全的工程,安全测试和认证,专业许可,详细的前期规划和复杂的政府审批,而且上市时间长。这是一个世界的安全,在这个世界上,正确是最重要的,因为错误意味着人们会死去。

第二种范式来自于快速发展的、迄今为止大体上是良性的软件世界。在这个范例中,我们有快速原型,动态更新,以及持续改进。在这个范例中,新漏洞层出不穷,安全灾难时有发生。在这里,我们强调生存能力,可恢复性,缓解、适应性,和蒙混过关。这是一个世界的安全,犯错没关系,只要你反应足够快。

这两个世界正在碰撞。他们在我们的汽车碰撞——­­——在我们的医疗设备,我们的楼宇控制系统,我们的交通管制系统,还有我们的投票机。尽管这些范式有很大的不同和不相容,我们需要弄清楚如何让他们一起工作。

到目前为止,我们做得不太好。我们仍然很大程度上依赖于第一个范例,飞机,以及医疗设备。作为一个结果,有些医疗系统不能安装安全补丁,因为这会使他们的政府批准失效。在2015年,克莱斯勒召回140万辆汽车以修复软件漏洞。2016年9月,特斯拉在一夜之间远程向所有S型车发送了一个安全补丁。特斯拉听起来做得不错,但是这个远程补丁有哪些漏洞呢?

* * * * * * * * * *
到目前为止,我们基本上把计算机安全留给了市场。因为我们购买和使用的电脑和网络产品太差了,计算机安全领域出现了一个巨大的后市场产业。政府,公司,人们购买他们认为自己需要的安全保障。我们已经混过去了,但是,试图保护这个世界大小的机器人所固有的市场失败将很快变得不可忽视。

单靠市场无法解决我们的安全问题。市场是由利润和短期目标驱动的,以牺牲社会为代价。他们不能解决集体行动问题。他们无法应对经济外部性,就像DVR中导致Twitter离线的漏洞一样。我们需要一股制衡企业权力的力量。

这一切都指向政策。尽管任何计算机安全系统的细节都是技术性的,广泛部署技术是一个跨越法律的问题,经济学,心理学,社会学。正确的政策和正确的技术一样重要,因为,要使互联网安全发挥作用,法律和技术必须共同努力。这可能是爱德华•斯诺登(Edward Snowden)在美国国家安全局(NSA)泄密事件中最重要的一课。我们已经知道技术可以颠覆法律。斯诺登证明,法律也可以颠覆技术。两者都失败了,除非各自努力。仅仅让技术发挥作用是不够的。

任何政策的变化,以确保这个世界规模的机器人将意味着重大的政府监管。我知道这是当今世界的一个污秽概念,但我看不到其他可能的解决方案。在互联网上会特别困难,在那里,它的无许可性质是它最好的特点之一,也是它最能改变世界的创新的基础。但我不认为,当互联网能够以直接和有形的方式影响世界时,这种情况还能持续下去。

* * * * * * * * * *

我有一个建议:成立一个新的政府监管机构。在把它抛弃之前,请听我说完。

在互联网监管方面,我们有一个实际问题。没有一个政府机构能够在系统层面解决这个问题。相反,政府的工作方式和这项技术的工作方式之间存在着根本性的不匹配,这使得目前无法解决这个问题。

政府孤立无援。在美国,联邦航空局监管飞机。国家公路交通安全管理局监管汽车。FDA监管医疗器械。FCC管理通信设备。面对“不公平”或“欺骗性”的贸易行为,联邦贸易委员会保护消费者。更糟的是,谁监管数据取决于如何使用数据。如果数据被用来影响选民,这是联邦选举委员会的管辖权。如果使用相同的数据影响消费者,是联邦贸易委员会的。在学校里使用同样的技术,现在由教育部负责。机器人将有自己的一系列问题,没有人知道这将如何被监管。每个机构都有不同的方法和规则。他们在这些新问题上没有专业知识,由于种种原因,他们不能迅速扩大自己的权威。

与互联网相比。internet是一个由集成的对象和网络组成的随心所欲的系统。它生长水平,拆除旧的技术壁垒,让以前从未交流过的人和系统现在能够交流。了,智能手机上的应用程序可以记录健康信息,控制你的能源使用,和你的车交流。这是一套跨至少四个不同政府机构管辖的职能,只会变得更糟。

我们的世界大小的机器人需要被视为一个单一的实体,有数百万个组件相互作用。这里的任何解决方案都必须是整体的。他们需要到处工作,为我所做的一切。不管我们说的是汽车,无人机,或电话,他们都是电脑。

这有很多先例。许多新技术导致了新的政府监管机构的形成。火车,汽车做到了,飞机了。无线电导致联邦无线电委员会的成立,后来成为了FCC。核能导致了原子能委员会的成立,最终成为能源部。原因在任何情况下都是一样的。新技术需要新的专业知识,因为它们带来了新的挑战。政府需要一个单独的机构来容纳这些新技术,因为它的应用跨越了几个现有的机构。少,新机构需要调节——­虽然这通常是其中很重要的一个原因——­和政府认识到新技术的重要性。

众所周知,互联网避开了正式的监管,而是采用多利益相关者的学术模式,企业,政府,以及其他相关方。我希望我们能在任何监管机构中,更多地关注新的美国数码服务或总务管理局内的18F办公室。这两个组织都致力于提供数码政府服务,这两家公司都从政府以外的地方引进人才,双方都学会了如何与现有机构密切合作。任何互联网监管机构同样需要进行高水平的合作监管——­来说既是挑战也是一个机会。

我不认为我们中的任何一个人能够预测我们需要确保这个世界安全的所有法规,但这里有一些。我们需要政府确保公司遵守良好的安全措施:修补,安全违约——­,我们需要能够持有公司责任,当他们不能做这些事情。我们需要政府强制实施强有力的个人数据保护,以及数据收集和使用方面的限制。我们需要确保负责任的安全研究是合法的、资金充足的。我们需要加强设计的透明度,某种代码托管以防公司倒闭,以及不同制造商的设备之间的互操作性,平衡互联技术的垄断效应。个人需要有权随身携带数据。如果与互联网断开连接,支持互联网的设备应该保留一些最小的功能。

我不是唯一一个谈论这个的人。我看到有人提议建立一个类似于美国国家卫生研究院(National Institutes of Health)的网络安全机构。华盛顿大学法律教授莱恩·卡洛提议成立一个联邦机器人委员会。我认为它需要更广泛:也许是一个技术政策部门。

当然会有问题的。政府内部在这些问题上缺乏专业知识。政府不愿意做艰苦的监管工作。工业界对任何新的官僚体制都感到担忧:一方面,过多的监管会扼杀创新,另一方面,它会被工业界所掌握,而监管又太少。国内监管机构将不得不应对这一问题的国际性。

但政府是我们用来解决此类问题的实体。政府有这个范围,的规模,解决利益平衡问题。它是我们建立的一个制度,用来裁决相互竞争的社会利益,并使市场外部性内在化。任他们自己支配,市场就是不能。我们现在正处于政府信任度低的时代,我们中的许多人都无法想象政府在这样一个领域做出任何积极的举动,对我们是有害的。

问题是:政府会介入,不管。风险太大了,风险太大了。政府已经对汽车和医疗设备等危险的物理系统进行了监管。没有什么能激励美国政府像恐惧。还记得2001年吗?在恐怖袭击发生11天后,一位名义上很小的共和党总统创建了国土安全办公室:这是一个仓促而不明智的决定,我们已经试图解决了十多年。同样,一场致命的灾难也会促使我们的政府采取行动,而且这不太可能是经过深思熟虑的行动。我们的选择不是政府参与或不参与。我们的选择是明智的政府干预和愚蠢的政府干预。我们现在必须开始思考这个问题。规定是必要的,重要的是,复杂;他们的到来。我们不能忽视这些问题,除非为时已晚。

我们还需要开始切断系统的连接。如果我们不能将复杂系统安全到其实际能力所需的水平,那么,我们决不能建立一个一切都电脑化、相互联系的世界。

还有其他型号。我们只能进行本地通信。我们可以对收集和存储的数据进行限制。我们可以有意地设计互不互操作的系统。我们可以故意束缚设备,扭转了目前一切都变成通用计算机的趋势。而且,最重要的是,我们可以走向更少的集中化和更多的分布式系统,这就是互联网最初的设想。

在今天的网络竞赛中,这可能是异端邪说,但大,集中式系统并非不可避免。技术精英正把我们推向那个方向,但除了不断增长的跨国公司的利润,他们真的没有什么好的论据来支持。

但这将改变。它不仅会因为安全问题而改变,它也会因为政治问题而改变。我们开始在世界观下恼火,因为世界观中的每一件事都会产生关于我们和我们所做的事情的数据,政府和企业都可以获得这些数据。监控资本主义不会永远成为互联网的商业模式。我们需要改变互联网的结构,让邪恶的政府没有工具来创建一个可怕的极权主义国家。尽管西方民主国家良好的法律法规是第二道防线,他们不可能是我们唯一的防线。

我的猜测是,我们将很快达到计算机化和互联互通的高潮,之后,我们会有意识地决定,我们决定相互联系的内容和方式。但我们仍处于连接的蜜月阶段。政府和企业在我们的数据上被打得酩酊大醉,对权力和市场份额更大的渴望推动着连接一切的热潮。爱德华·斯诺登发表的一篇演讲中包含了美国国家安全局的格言:“收集所有信息”。今天互联网上类似的一句格言可能是:“连接所有信息”。

不可避免的反弹不会由市场驱动。将是经过深思熟虑的政策决定,将社会安全和福利置于个人公司和行业之上。这将是经过深思熟虑的政策决定,优先考虑我们系统的安全,而不是联邦调查局的要求,削弱他们,使他们的执法工作更容易。这对很多人来说是难以接受的政策,但我们的安全将取决于它。

* * * * * * * * * *

我所描述的场景,无论是导致这些问题的技术和经济趋势,还是我们开始修复这些问题所需的政治变革,来自我多年从事互联网安全技术和政策的工作。所有这些都是基于对技术和政策的理解。这是很关键的,而且没有足够多的人能同时理解这两者。

这给我带来了最后的请求:我们需要更多的公众利益的技术专家。

在过去的几十年里,我们已经看到了互联网安全政策大错特错的例子。我想到了联邦调查局(FBI)的“变黑”辩论,辩论的主题是它坚持认为电脑设备的设计应该有利于政府访问,关于何时政府应该披露和修复漏洞,以及何时应该使用漏洞攻击其他系统的“漏洞公平流程”,无纸化触摸屏投票机的崩溃,以及我上面讨论过的DMCA。如果你看到这些政策辩论展开,你看到决策者和技术专家互相交谈。

我们世界大小的机器人将加剧这些问题。华盛顿和硅谷的历史分歧——­不信任政府的科技公司和科技公司的不信任政府­——是危险的。

我们必须解决这个问题。确保物联网安全的正确性取决于双方的合作,更重要的是,有精通这两项工作的人。我们需要技术专家参与政策,我们需要决策者参与技术。我们需要既能制定技术又能制定技术政策的专家。我们需要国会工作人员中的技术人员,联邦机构内部,为非政府组织工作,作为媒体的一部分。我们需要为公众利益的技术人员创造一条可行的职业道路,就像已经有一个公共利益律师。我们需要课程,大学里的学位课程,对于那些对公益科技感兴趣的人。我们需要在需要这些人的组织中获得奖学金。我们需要技术公司为想要走这条路的技术人员提供休假。我们需要一个完整的生态系统来支持人们弥合技术和法律之间的鸿沟。我们需要一条可行的职业道路,确保即使这个领域的人不会像高科技初创企业那样赚那么多钱,他们将有可行的职业。我们计算机化和网络化的未来的安全——意味着我们自己的安全,家庭,的房子,企业,社区依赖于它。

这个请求比安全更重要,实际上。本世纪几乎所有的重大政策辩论都将有一个重要的技术组成部分。无论是大规模杀伤性武器,机器人严重影响就业,气候变化、食品安全、或者是不断缩小的无人机越来越普遍,了解政策意味着了解技术。我们的社会迫切需要技术专家来制定政策。另一种选择是糟糕的政策。

* * * * * * * * * *

这个世界大小的机器人与其说是设计出来的,不如说是创造出来的。它是在没有任何预先考虑、架构或规划的情况下出现的;我们大多数人完全不知道我们在建造什么。事实上,我不相信我们真的能设计出这些。当我们试图设计这样复杂的社会技术系统时,我们经常对它们的紧急特性感到惊讶。我们能做的最好的就是尽可能地观察和引导这些特性。

市场思维有时会让我们忽视人类面临的选择和自主权。之前控制­或杀死­这时机器人,我们需要重建对我们的集体治理机构的信心。法律和政策可能没有数字技术那么酷,但它们也是关键创新的地方。它们是我们共同创造我们想要生活的世界的地方。

虽然我听起来像个卡桑德拉,我对我们的未来很乐观。我们的社会已经解决了比这个更大的问题。这需要工作而且不容易,但我们最终找到了解决实际问题所需的艰难选择的清晰道路。

我们正在建造的世界大小的机器人,只有当我们开始对我们生活的互联世界做出真正的选择时,才能负责任地进行管理。对,我们需要像威胁环境一样强大的安全系统。但我们也需要有效监管这些危险技术的法律。而且,更一般地说,我们需要让道德,伦理、以及关于这些系统如何运作的政治决定。到现在为止,我们基本上不去管互联网。我们赋予程序员一种特殊的权利,让他们在自己认为合适的时候编写网络空间代码。这没关系,因为网络空间是独立的,相对来说并不重要,也就是说,没关系。现在情况变了,我们不能再给程序员和他们为之工作的公司这种力量。那些道德,伦理、政治决策需要,不知何故,每个人都要做。我们需要用目前连接机器的热情来连接人们。“连接所有”必须与“连接我们所有”对应。

这篇文章之前出现《纽约》杂志.

2月1日发布,2017年8点05分查看评论188滚球网站

布鲁斯·施耐尔的照片。188滚球网站

188滚球网站施耐尔的安全是一个个人网站。表达的意见不一定是……的意见IBM有弹性.