莫让“技术创新”变成“技术滥用”
2023-08-08 09:41:50 | 来源:人民法院报
 

  数字化智能时代已经来临,技术创新红利与技术滥用风险并存。当前搭上技术快车的网络违法犯罪呈现出许多新的特点。

  一是在纠纷类型上,人工智能技术滥用将引发更多侵权纠纷、商业欺诈。在互联网上换脸恶搞存在明显的法律风险,如果没有明确的授权或同意,将他人的脸部特征用于生成换脸视频或照片,可能构成对他人肖像权、名誉权的侵犯。不少主播在电商平台换脸直播带货,不仅侵犯他人肖像权,同时还可能被认定为虚假宣传,构成欺诈。

  二是在应用场景上,深度伪造技术滥用将延伸至司法干扰、虚假新闻等领域。深度伪造技术门槛越来越低,不法分子利用该技术合成电子化证据材料,将加大司法机关对证据的审查难度;不法分子利用该技术合成虚假图文及音视频信息,造谣传谣、侮辱诽谤屡见不鲜,视觉失真造成新闻失实的影响将更深远,打击网络谣言的难度也将大大增加。

  三是在次生犯罪上,AI诈骗将催生侵犯公民个人生物识别信息的黑灰产业。AI诈骗能够得逞,除了新兴技术的支持,往往还需要足够多的公民个人生物识别信息作为基础素材,而随着强制要求采集人脸信息的场景不断出现,人脸、声音等生物识别信息泄露的风险也不断增加,极易滋生非法采集、售卖公民生物识别信息的灰色产业。

  四是在社会治理上,一定程度威胁到信息安全和社会秩序。当前,人脸识别技术被广泛应用于刷脸支付、门禁管理、快递物流、住宿登记等金融、安防、交通领域,“人工智能+深度伪造”技术的滥用很可能导致人脸识别技术失效或者被欺骗。

  技术本无罪,善恶在人心。防范化解技术滥用风险,应当坚持系统思维,需要在技术、法律和社会三个层面进行综合施策。在技术层面,需要进一步研究基于深度合成技术生成内容的鉴伪技术,创造更加安全可靠的技术解决方案。在法律层面,需要加快系统性立法和行业性规范制定,尽快构建起技术开发者、网络服务提供者、用户三个层面的监管体系。在社会层面,需要通过科普教育增强公众的防范意识和能力,司法机关亦可通过典型案件的审理及宣传,树立裁判规则和正确的价值导向。

责任编辑:张婧