来源：腾讯研究院 

作者：​曹建峰 腾讯研究院高级研究员

2018年，人工智能、自动驾驶、区块链、5G、边缘计算、IoT、神经科技等一大波技术继续大踏步前进，国内外的互联网法律政策和治理同步发展，呈现出新的发展趋势。其中十个关键词最受关注，分别是人工智能伦理，数据治理，平台治理，自动驾驶，网络中立，版权改革，区块链监管，算法歧视，假新闻，以及数字正义。从这十个关键词中我们可以看到，前沿科技治理已经成为二十一世纪的法治的最重要的命题之一，需要新的理论、思路和方法，实现对科技的善治，让科技造福于人类和人类社会。

一、人工智能伦理（AI Ethics）：为可信人工智能建立伦理指南

大数据、云计算、人工智能等技术叠加发展，其应用正在从互联网行业扩大到各行各业，有望带来生产力的提高和经济的增长。人工智能的潜力和价值是巨大的，应在其研发和应用上持续加大投入，但也不可忽视其伦理和社会影响。今年以来，人工智能带来的隐私、歧视、安全、责任、滥用、就业等问题正在凸显。

为此，人工智能伦理兴起成为此次技术发展浪潮的主旋律，各界都在积极推动伦理研究，探索伦理举措。4月，英国议会发布人工智能报告，初步提出五项伦理原则，并要求以此为基础制定英国国家人工智能准则，同时呼吁英国主导制定人工智能系统开发和使用的全球共同伦理框架。英国为此已经成立数据伦理中心。几乎同一时间，欧盟委员会发布欧盟人工智能战略，将制定与人工智能发展和应用相适应的法律和伦理框架作为三大支柱之一，将于2019年出台人工智能伦理指南,并已发布可信人工智能的伦理指南草案。美国、加拿大、新加坡、印度、法国、意大利、中国等都采取类似的立场。

在业内，在迭代伦理白皮书之外，国际标准化组织IEEE开始推进制定人工智能伦理标准和认证框架；DeepMind、谷歌、微软、Facebook等科技公司发起成立行业组织，推动科技向善；成立伦理部门，加强人工智能伦理和社会影响研究和引导；提出伦理原则，承诺负责任地发展和应用技术。各界已经基本达成共识，此次技术发展浪潮离不开伦理思考和伦理保障。

总体来看，技术伦理的发展轴线经历了从计算机，到互联网信息，再到如今的数据和算法的转变。每个阶段都有其独特的伦理和社会问题并产生了相应的法律规制。在最新的发展阶段，数据和人工智能算法成为伦理和社会问题的来源，预计将带来一系列新的法律规制。

二、数据治理（Data Governance）：以良好数据治理促进人工智能创新发展

人工智能时代，数据成为“新石油”，催生新的商业模式，数据驱动型的智能经济加速到来。但数据的泄露、滥用、不正当二次利用等与数据隐私相关的突出问题随之而来，Facebook-剑桥分析数据丑闻即是今年一系列数据事件的一个缩影，给数据治理这一新的时代命题持续提出挑战，而数据隐私仅是其中一个重要维度。人工智能的健康发展，同样离不开良好数据治理政策和框架的支持。

国际上，在单一数字市场战略之下，欧盟多举措推进建立数据治理框架。一是个人数据保护规则，今年五月GDPR如期生效，在世界范围内引发涟漪效应，巴西、美国加州等纷纷制定数据保护法。而且，在今年一系列数据事件的刺激下，美国国会开始酝酿联邦数据隐私法案，Facebook、谷歌、苹果等科技巨头纷纷表示支持。二是数据产权和交易规则，欧盟考虑针对非个人的机器生成数据设立数据产权，规范市场和交易，鼓励数据访问和共享。三是数据自由流动规则，数据跨境流动方面，全球数据本地化趋势在不断加强，可能阻碍全球数字经济发展，不利于全球数字产品和服务贸易；数据跨服务、跨平台携带方面，GDPR和《欧盟非个人数据自由流动条例》建立数据携带制度，极大增加用户对数据的控制。四是数据开放共享规则，涉及企业之间以及企业、政府之间数据的分享和利用，各国都在大力推动公共部门数据开放共享、科研数据获取、私营部门数据分享，避免数据壁垒和数据孤岛现象，为人工智能时代最大化公共数据的价值。

在国内，个人信息的刑法保护持续加强，大数据市场得到净化。数据不正当竞争案件多发，法院明确认定利用网络爬虫技术攫取他人数据构成不正当竞争。此外，全国人大常委会已将个人信息保护法、数据安全法纳入未来五年立法规划，表明对数据治理的重视。

诚然，在算法时代，数据成为互联网商业的核心，建立全方位的数据治理框架是必然趋势，数据相关的伦理、隐私、产权、交易、共享、流动、垄断等问题错综复杂，既需要微妙的权衡，又需要理性的论证，以便为数字经济和数字社会以及人工智能发展建立恰如其分的数据治理框架。

三、平台治理（Platform Governance）：从“避风港”到平台治理，区块链、人工智能、ODR的治理价值彰显

在互联网二十多年发展过程中，产生了各种在线平台。这些平台在组织我们的生活、社会和经济等方面，扮演着越来越重大的角色。互联网平台的繁荣发展，一方面得益于相关技术创新，另一方面有赖于互联网发展早期制定的“避风港”规则。

如今，随着互联网平台的横向扩展和纵深发展，平台带来的问题日益复杂化、多元化、全球化，对平台的规制正在从“避风港”向“平台治理”转变，将出现越来越多的平台法。以欧盟为例，今年以来，其平台治理举措体现在三个方面：一是建立有效打击在线违法内容的措施；二是在线平台交易的公平性和透明性规制，欧盟委员会为此已经提议了一个欧盟条例；三是算法透明，欧盟委员会已经在深入研究算法透明和责任，以便理解算法如何塑造、过滤和个性化推荐信息。

今年8月底，全国人大常委会审议通过《电子商务法》，探索建立全方位的电商平台治理。该法针对电商平台建立了至少12项治理措施，包括平台内经营者身份信息管理、信息报送、平台与平台内经营者关系、平台规则、推荐算法规制、平台反垄断、在线纠纷解决机制（ODR）等。

随着人工智能算法、区块链等新技术被更广泛、更深入地应用于各种互联网平台，未来平台治理还将出现新的维度。

四、自动驾驶（Autonomous Driving）：“虚拟司机”逐步获得合法性认可，各国多举措推进自动驾驶商业化

今年，越来越多的国家承认了自动驾驶的合法性，为其发展和应用扫除法律障碍。4月，工信部等发布《智能网联汽车道路测试管理规范（试行）》，正式允许自动驾驶汽车道路测试，为后续商业化落地铺平了道路。10月，美国交通部第三年发布自动驾驶汽车政策《准备迎接未来交通：自动驾驶汽车3.0》，承诺积极拥抱交通出行的自动化，将采取指南、最佳实践、试点项目等措施为自动化的未来交通做好准备，同时确保统一的监管并革新监管法规，包括承认“司机”和“操作者”并非专属于人类，也包括是自动化系统。

今年也是自动驾驶汽车逐步走向无人化和商业化试点的一年。2月，美国加州通过最新的自动驾驶汽车测试法规，允许企业从2018年4月起测试无人驾驶汽车，意味着不再需要测试司机，由远程操作者对测试车辆进行远程监控即可。5月底，美国加州公用事业委员会正式授权交通公司利用已经获得加州机动车管理局（DMW）的运营许可的自动驾驶汽车，开展无人出租车和有安全司机的自动驾驶出租车两个试点项目，向公众提供客运服务。今年12月，谷歌旗下Waymo筛选在美国亚利桑那州推出全球首个自动驾驶出租车服务，消费者可以付费乘坐。在5G、IoT、边缘计算等技术的推动下，交通出行和物流运输领域的变革和重塑已然开始。

今年还是自动驾驶汽车交通事故多发的一年。Uber、Tesla、Waymo等都发生过交通事故，加剧公众不信任。实际上，自动驾驶汽车虽然消除了人类失误，但并不意味着就不会产生与计算机、传感器和软件相关的失误，诸如识别失误、决策失误、行为失误等。而且，当前自动驾驶系统的安全性还没有得到充分的验证。

未来，自动驾驶系统的应用普及将影响我们每一个人，需要政府、产业和文化的适应性调整。监管应以安全为首要目的，采取灵活且技术中立的方式，在技术发展早期避免采取强制性方式，因为市场最终将决定最有效的方案。政策制定者现在需要开始绸缪自动驾驶汽车的未来，做好充分准备迎接自动化的未来交通出行。

五、网络中立（Net Neutrality）：从事前管控到事后救济，美国电信产业政策与网络用户保护再平衡

在互联网接入越来越重要且有望成为一项人权的今天，网络中立原则逐步得到了国际社会的认可，但这项原则在美国却始终伴随着争议。从各方长期博弈，到确立后又被废除，再到再次确立后又被再次废除，网络中立制度在美国可谓极富戏剧性。

6月11日，美国联邦通信委员会（FCC）新规《重塑互联网自由指令》正式生效，意味着2015年奥巴马执政期间美国通过的最为严格的网络中立规则被最终废除。新的指令将宽带互联网接入服务重新归类为美国《电信法》之下的“信息服务”，不再按照“电信服务”下的公共承运人标准对互联网服务提供商（ISP）进行监管，即不再禁止屏蔽、流量调节和付费优先，仅要求ISP增加其业务透明度，联邦贸易委员会（FTC）则可以从不正当竞争和消费者保护角度进行监管。在FCC看来，此举移除了不必要的监管，有利于宽带投资和创新，最终可以为更多美国人带来更快、更好、更廉价的互联网接入。

然而，2017年底FCC废除网络中立规则的投票引发了巨大争议。在《重塑互联网自由指令》的正式文本公布后不久，美国22个州的总检察长提起诉讼，意图阻止特朗普政府的这项废除令生效，同时请求恢复网络中立规则。截至目前，美国有六个州的州长签署了关于网络中立的行政命令，四个州颁布了网络中立法律。9月，美国互联网重镇加州通过网络中立法案，要求ISP公平对待所有流量和数据，并细化了网络中立规则，可谓是对FCC废除令的有力回击，并为美国其他州提供了先例。

随着欧盟、印度等越来越多的国家通过立法确立网络中立制度，网络中立的重要性已经得到国际社会认可，但其内涵和具体规则还存在诸多争议。而在美国，废除网络中立在一定意义上仅是将监管由事前管控转移到事后救济，这一政策选择有得有失。放宽管制将刺激电信基础设施投资，但限制流量却可能使侵犯消费者利益或不正当竞争的现象增多。能否实现各方利益平衡，取决于法院的价值取向。

六、版权改革（Copyright Reform）：争议重重的欧盟版权改革能走多远？

人工智能、区块链、云计算、大数据一道组成的ABCD时代持续推动版权产业创新，但也给版权保护提出新的挑战，诸如机器学习的侵权问题、人工智能创作物的版权归属等。作为对技术发展的回应和适应，版权改革成为其中的核心议题。

国际上，9月，欧盟议会通过了《单一数字市场版权指令》，意味着已经进行了两年的欧盟版权改革取得阶段性成果，为版权改革的最终完成铺平了道路。新的指令提出了三项颇具争议的新制度：针对文本与数据挖掘的版权例外，新闻出版商对其新闻出版物的邻接权即所谓的“链接税”，以及针对网络平台的版权过滤措施。10月，美国版权局颁布三年一度的DMCA技术保护措施例外规定，用户据此可以合法地越狱、修改手机、语音助手等电子设备，电影制片人可以更自由地对受保护视频进行剪切。

在国内，短视频侵权是今年的热点。短视频版权专项整治“剑网2018”专项行动的重点，版权行政执法力度不断加强。国家版权局通过行政约谈、行政处罚、刑事打击等手段，整治短视频行业存在的侵权问题，15家短视频平台下架侵权盗版作品57万部，并着力完善版权审核、举报投诉等机制。《电子商务法》为电商领域制定了新的“通知-删除”制定，即接到通知后删除内容，接到反通知后转送权利人，是否恢复内容视投诉人是否向有关主管部门投诉或者向人民法院起诉而定。《民法典侵权责任编》（草案）含有类似的规定，只是扩大到了所有民事侵权领域。

版权领域的这些新趋势表明了加强网络平台版权保护义务的趋势。虽然随着人工智能等技术能力的增强，网络服务商有必要、也有能力更积极主动地保护平台上的版权内容，但应避免版权保护的天平过度向权利人倾斜，而有损于产业发展和用户福祉。

七、区块链监管（Blockchain Regulation）：区块链商业应用引发法律不确定性，科学合理监管需要充分认识技术功能及潜力

作为比特币等加密货币的底层技术的区块链，无疑是今年最火的话题。区块链的应用场景开始从加密货币扩展到游戏、打假、物流、供应链、物联网、司法存证等越来越多的领域。区块链监管由此成为绕不过去的话题。

当前，我国对区块链作为底层技术应用的方向较为支持，鼓励探索研究区块链技术与实际应用场景结合，服务实体经济，并开始探索制定区块链技术应用相关的监管法规。网信办于10月发布的《区块链信息服务管理规定（征求意见稿）》，可谓是我国首部区块链监管法规。就加密货币而言，我国目前禁止ICO活动和虚拟货币交易，明确表示不认可比特币作为支付工具，但加密货币仍可作为虚拟财产受到保护。

国际上，美国及欧洲各国对加密货币及区块链技术多持开放态度，多数国家尚在观望技术发展，没有加强监管。但各国对加密货币存在合法、不合法、未监管三种监管态度，对加密货币的属性亦存在商品、货币等不同认识。7月，马其他针对分布式记账技术、基于区块链的商业、加密货币和ICO、基于区块链的服务提供者，制定了三部监管法规，据此成立监管部门，建立区块链登记和认证制度，监管ICO。马其他由此成为全球率先全面监管区块链的国家。10月，欧盟议会通过“区块链决议”，尝试应对区块链技术应用带来的特殊问题，其中之一即是区块链应用与数据保护权利和GDPR的紧张关系。

未来，全球范围内的区块链监管有望加强，因为不确定的法律地位影响区块链商业化应用。但监管需要充分认识区块链作为一个新的行业的功能、应用和潜力，以免与区块链所要达成的目的背道而驰。

八、算法歧视（Algorithmic Bias）：践行“经由设计的伦理（Ethics by Design，EbD）”理念，采取技术方式识别、解决和消除偏见

我们已经来到，数据驱动的算法时代。智能算法开始塑造我们和我们的世界。互联网服务商、金融机构、企业、学校、公安、司法机关、医院、社会福利机构等都开始利用算法辅助决策，或者做出自动化决策。算法固然可以提高效率，但如果利用不当，却可能导致歧视或社会边缘化。

2018年，从信息茧房，到大数据杀熟，再到精准广告算法因歧视而引发的诉讼，算法歧视已然成为一个显性话题，得到持续的关注与讨论。

算法规制随之而来。今年初，美国纽约市率先制定法律，尝试规制政府机构使用自动化决策系统，要求成立工作组，探索建立算法公开、算法歧视认定、解释权、救济权等机制。

5月生效的欧盟GDPR，一般地禁止将完全自动化决策应用于对个人产生法律影响或类似重大影响的场合。当存在此类决策时，保障个人的知情权、相关信息获取权，以及获得人类干预、表达个人观点、质疑此类决策的权利。德国司法部长呼吁制定数字反歧视法，成立专门监管机构，探索算法监管，推动算法透明，保障个人权利。我国新制定的《电子商务法》要求个性化推荐尊重消费者的选择权。

科技企业开始采取“经由设计的伦理（ethics by design，EbD）”，确保算法的合理性和数据的准确、时新、完整、相关、无偏见和代表性，并采取技术方式识别、解决和消除偏见。未来可能出现围绕算法透明和算法责任的法律和伦理规制，但应谨慎选择监管方式和监管措施，避免糟糕的监管阻碍人工智能发展、创新和竞争。

九、假新闻（Fake News）：多利益相关方协同打击网络虚假信息，构建高质量、可信任的数字社会

在算法主导内容分发的今天，互联网上的假新闻、仇恨言论、谣言等违法内容成为全球现象，给互联网内容治理提出新的挑战。尤其是假新闻的泛滥可能给民主政治产生负面影响，Facebook、谷歌等都遭受到了这方面的指责。

国际上加强互联网内容治理的趋势明显，今年以来，欧盟持续采取措施，加强对在线违法内容的打击，要求网络平台强化移除违法内容的机制，遵守针对虚假信息的实操守则，部署在线识别系统，确保政治广告透明性，阐明算法机制并允许第三方验证。今年初，《德国网络执行法》开始生效，强制要求拥有200万会员以上的社交网络平台在24小时内删除明显非法的内容，在审核后7日内删除、屏蔽违法内容，否则将可能面临最高500万欧元的罚款。由于美国存在《通信规范法》对网络平台的保护，美国科技公司主要采取自律方式加强平台上内容治理，包括事实核查工具、基于人工智能的违法内容识别等。Facebook则已经声明其将建立独立的监督委员会来增强其平台上违法内容处理的透明性。

在国内，网信办、广电总局等监管部门采取约谈、暂停更新和下载、永久关停等多举措，持续加大对互联网内容的整治力度。今年以来，网信办多次约谈今日头条等在线内容平台，要求落实平台主体责任，打击色情低俗信息、自媒体乱象等突出问题。4月，今日头条旗下“内涵段子”因为导向不正、格调低俗等突出问题而被广电总局责令永久关停。

算法分发、算法推荐等新模式推动互联网商业创新，但也带来假新闻、色情低俗内容、算法茧房等现象，不仅给普通用户带来负面影响，而且可能影响民主政治。面对新的挑战，政府、企业、社会公众等各方需要共同发挥作用，一道塑造高质量、可信任的数字社会。

十、数字正义（Digital Justice）：创新纠纷救济方式，探索符合互联网纠纷解决的新方案，实现数字正义

互联网时代不断增多的线上纠纷，给司法正义的实现提出了挑战。电商、社交、游戏、O2O等在线平台上纠纷的高效解决，不仅有助于实现消费者福祉，而且有利于构建良好的平台生态。在国内外，互联网法院、ODR等多种机制一同构建起多元化的在线纠纷解决，共同促进实现数字正义，从纠纷解决侧增进并塑造数字社会的信任。

继2017年8月杭州互联网法院成立之后，今年北京互联网法院和广州互联网法院相继成立，初步构建起我们互联网法院体系。9月，最高人民法院发布《关于互联网法院审理案件若干问题的规定》，明确了互联网法院全程在线审理原则，互联网法院11类案件管辖范围，以及在线诉讼规则等事项。ODR方面，《电子商务法》首次明确规定，电子商务平台经营者可以建立争议在线解决机制，制定并公示争议解决规则，根据自愿原则，公平、公正地解决当事人的争议。这一规定为在线多元纠纷化解提供了依据。

传统的纠纷解决机制已经开始变得不太适应数字社会的发展，我们需要设计出更符合互联网纠纷解决的新方案。如果说传统法院是工业时代的结果，在线法院则是互联网时代的产物。那么传统法院必将衰落,在线法院必将兴起。司法服务惟有数字化、在线化、智能化，才能跟上时代发展，发挥好在人工智能时代定纷止争、促进数字正义实现的作用。