人工智能依法规制难题待解

　　目前,有的国家已积累了一些经验。如英国《1988年版权、外观设计和专利法案》规定,对于计算机生成的文字、戏剧、音乐或艺术作品而言,作者应是对该作品的创作进行必要安排的人。由于这一条款具有一定的开放性,也赋予了法院较大的自由裁量权,对有效保护人工智能生成物的著作权发挥了积极作用,我国立法也可予以借鉴。

　　孙佑海:天津大学法学院院长

　　□ 邓煜坤

　　随着人工智能技术的不断发展,数据和算法的结合开始对我们的生产生活产生广泛影响,从信息的个性化传播到金融、雇佣、司法等领域的自动化决策再到自动驾驶汽车等等。

　　□ 曹建峰

　　对于自动驾驶这一新生事物,立法要密切关注跟踪其发展动态,然后再适当立法,且早期立法应以鼓励为主。就目前中国自动驾驶发展状况而言,一些城市已出台相关法规政策,允许自动驾驶汽车可在城市低速道路上进行路测,但仍有很多规定严重妨碍中国自动驾驶发展,如自动驾驶汽车不能进入高速公路测试,为此很多中国企业只能舍近求远前往美国进行高速路测,因为美国有相关法律支持。而如果不能在多种场景、更为复杂的路面上进行测试,那么自动驾驶技术和相关算法模型就难以快速成熟起来。作为从业者,希望现在的法律规制天花板往上抬一抬。当然在此过程中肯定会出现一些问题,但关键在于如何界定各方责任,促使企业将出现问题的几率降低,而不是一味限制。如果过度强调绝对不能出问题,那也就意味着自动驾驶绝对发展不起来。

　　2019年9月,第十三届全国人大常委会向社会公布本届全国人大立法计划,人工智能立法列入其中,这是人工智能领域具有重大历史意义的标志性事件。在当代人工智能飞速发展的新形势下,我们既要认清新一代人工智能技术是时代之需、发展之要、民生之盼,也要看到因技术短板、监管不力、应用失范等因素而引发的潜在风险及对社会带来的实际危害。唯有未雨绸缪地找准、判明人工智能发展带来的风险点,并及时采取法律应对措施,才能在抢抓战略机遇的同时,适时化危为机,确保社会规范有序。

　　在通过法律政策推进自动驾驶技术发展的同时,也要密切关注行业的发展,如果发现可能会给人类带来极端破坏的情形,也要尽快制定法律法规进行规制。以其他行业为例,如2019年被爆出的基因编辑婴儿事件,就是一起非常可怕的案例,对于技术革新带来的这种极其负面的事件,就应当尽快进行立法明确法律红线。不过就目前自动驾驶领域的人工智能技术而言,尚没有发现会给人类带来潜在巨大危害的风险。(文字整理:本报记者马树娟)

　　□ 孙佑海

　　曹建峰:腾讯研究院高级研究员

　　而为了保障和促进人工智能健康发展,对人工智能进行立法规制应坚持以下原则:一是以人为本原则。确保人工智能发展能够增加人类福祉,保障人的尊严、自由和人身财产安全。二是发展与安全平衡原则。处理好促进人工智能发展与保证社会安全之间的关系,二者不可偏废。三是政府干预适度原则。人工智能开发与应用只要不与法律法规相抵触,不危害公序良俗,政府就不要过度干预。四是伦理底线控制原则。明确人工智能在安全、隐私、公平、公正等方面的伦理底线。五是风险容忍度原则。人工智能发展具有很强的探索性,即使是相对成熟的应用,也还有相当的不确定性,要适当容忍其试错。六是多层级立法共进互补原则。在中国特色社会主义法律体系框架内,发挥统一、多层次的立法体制优势,从法律、行政法规、地方性法规等多个层次对人工智能进行立法规制。

　　二是因开发利用人工智能,引发民事纠纷,客观上需要人工智能立法确定承担民事责任的边界。例如,随着人工智能的普及,人工智能创作物的知识产权归属问题如何确定,目前已有相关案例。传统著作权法理论认为,作品是作者人格的体现,只有自然人才能创作作品。但动物和机器,无论何时都不能成为作者,即使其创作物具备了作品的特征。而现在,人工智能创作物向这一理论发起了挑战。此外,自动驾驶汽车的安全性问题已经引起了广泛关注,从自动驾驶汽车的生产资质、上路许可,到发生事故后的责任分担,当前法律均处于空白状态。因此,因人工智能汽车自动驾驶引发的交通事故,迫切需要通过立法,为明确责任、解决纠纷提供有效的法律依据。

　　2017年5月,微软“小冰”创作的诗集《阳光失了玻璃窗》正式出版、谷歌开发的人工智能DeepDream可以生成绘画,且所生成的画作已经成功拍卖……从外观形式来看,由人工智能创作的成果与人类创作的成果没有任何区别,且很难被察觉并非由人类所作。可以说,与以往技术创新相比,人工智能技术对著作权法提出的挑战是最根本,也是最全面的。

　　但算法的应用在给人们生活带来便利的同时,也带来一系列法律、伦理与社会问题,诸如算法歧视、责任、安全、滥用、深度伪造等。国际社会开始呼吁建立算法治理,实现算法透明与问责。对此需要考虑以下几个方面的问题:

　　为了解决人工智能发展带来的新矛盾、新问题,必须未雨绸缪,加快研究人工智能的有关法律法规。一是,适时安排宏观立法。人工智能的发展离不开一部反映时代需求的人工智能法以及配套法规组成的法律法规体系。人工智能法总体上属于行政法的范畴。现阶段正处在人工智能技术的高速发展期,因此立法不能过细,但应当制定必要的原则框架,以保障法律的实施能落地。

　　从人工智能现阶段发展水平来看,无论是数据、算法、算力,还是应用场景,基本上还处于探索性、试验性阶段,我们还缺乏对其基本规律的研究与认识。在这种情况下,制定一部完整的人工智能法是不现实的。最现实的选择是坚持趋利避害的底线思维,根据人工智能发展的现实需要,对现行法律制度进行必要的修改、补充。

　　在人工智能的立法规制上,有观点认为,亟须出台专门的人工智能法,笔者认为,当前人工智能总体上还处于弱人工智能时代,主要集中于语音识别、自动翻译、语音合成、图像识别、自动驾驶、工业机器人、聊天机器人等具体领域,短期内不可能出现“通用人工智能”。因此,尚不具备制定完整人工智能法律制度的实践基础和客观条件。

　　同时,人工智能产业发展的优势地区也可以加强地方立法,重点是制定促进人工智能产业发展的地方性法规,包括鼓励人工智能产业发展,促进人工智能在政务、财税、制造等领域应用,人工智能涉及的消费者权益保护、人力资源与社会保障等。

　　从人工智能发展态势看,当前需要着手进行的立法项目,首先是全国人大及其常委会立法,包括在编纂民法典中,明确人工智能相关的民事基础制度；制定数据安全法,对人工智能时代的数据安全和信息保护作出规定；制定电信法,为人工智能发展提供良好的公共网络基础设施环境；修改道路交通安全法,对无人驾驶汽车作出规定；修改著作权法、专利法,对人工智能知识产权相关问题作出规定；适时出台刑法修正案,对人工智能涉及的犯罪作出规定。

　　□ 高绍林 张宜云

　　□ 万 勇

　　因此,我们看到社会各界在以伦理的方式推动算法治理。国际层面,欧盟、OECD、G20等都提出了人工智能原则,力争在国际上达成共识；行业层面,谷歌、微软、腾讯等都提出了各自的人工智能伦理原则,积极承担伦理责任,践行科技向善,避免算法被不当利用或滥用。展望未来,我们还需要通过广泛社会参与和跨学科研究评估的方式来实现对算法应用的良好治理。

　　随着互联网、大数据、云计算的发展,特别是随着5G技术落地应用,人工智能必将以前所未有的速度向前发展。人工智能的发展,一方面可以造福人类,单就法律领域来讲,人工智能给法律工作赋予了新的动能,立法、执法、司法、普法、法律服务都可以借助人工智能技术极大提高工作效率与质量。另一方面,人工智能也带来许多新的挑战,如果长期缺乏规制,可能会产生一定的灾难性后果。比如,无人驾驶、无人机技术可能会给杀人、走私、贩毒等犯罪行为提供便利；人工智能程序中的漏洞,可能被恶意利用,产生严重社会安全风险；人工智能的设计者、应用者可能突破伦理底线设计、使用人工智能以及数据泄露、算法歧视等。因此,有必要对人工智能发展进行立法规制,引导、规范人工智能健康发展。

　　总之,随着人工智能快速发展,需要更多的法学家关注其法律问题,尽快构建人工智能伦理体系以及相关法学理论体系,为人工智能法律规制提供理论基础。同时,立法机关要更多关注人工智能的立法规制问题,发挥立法的引领与推动作用,尽早将人工智能立法规制的相关立法项目提上议事日程,为人工智能的健康发展创造良好的法治环境。