2022年6月，欧盟法院就人权联盟诉比利时部长会议案作出判决。在判决中，欧盟法院就使用自动化方式处理旅客姓名记录数据进行了分析并阐述了相应的法律意见，明确了使用人工智能进行决策应当遵循的法律原则。

　　基本案情

　　2016年4月，欧盟制定了《关于使用旅客姓名记录数据以预防、侦查、调查和起诉恐怖主义犯罪和严重犯罪的2016/681指令》（以下简称《指令》），《指令》第6条对旅客姓名记录数据的处理作出了规定。其中第6条第2款（a）项规定，欧盟成员国的旅客信息部门只能基于以下目的处理旅客姓名记录数据：在旅客到达或离开欧盟成员国之前对旅客进行评估，以基于相关人员可能涉及恐怖主义犯罪或严重犯罪的事实，识别需要由主管部门，以及在相关情况下需要由欧洲刑警组织进行进一步审查的人员；第6条第3款规定，在进行第6条第2款（a）项规定的上述评估时，欧盟成员国的旅客信息部门可以：（a）将旅客姓名记录数据与预防、侦查、调查和起诉恐怖主义犯罪和严重犯罪相关数据库，包括通缉或预警人员数据库进行比较；（b）基于预先确定的标准处理旅客姓名记录数据。

　　因人权联盟认为，比利时为了将《指令》转化为其国内法而制定的《关于处理旅客数据的法律》违反了欧盟《通用数据保护条例》和《欧盟基本权利宪章》（以下简称《宪章》）的规定，人权联盟遂向比利时宪法法院提起诉讼，请求对《关于处理旅客数据的法律》予以废止。因本案涉及欧盟法律的解释问题，比利时宪法法院遂决定中止本案诉讼，并请求欧盟法院对相关问题作出先予裁决，其中一个问题是，《指令》第6条的规定是否有效？

　　欧盟法院的判决

　　2022年6月21日，欧盟法院对该案作出判决。在判决中，欧盟法院对旅客姓名记录数据的自动化处理应当遵循的法律原则进行了分析，并发表了以下意见：

　　关于旅客姓名记录数据的自动化处理应当遵循的基本原则

　　欧盟法院认为，根据《指令》第6条的规定，使用自动化方式处理旅客姓名记录数据，并据此对旅客进行预先评估主要分成两个步骤进行，一是欧盟成员国的旅客信息部门通过自动化方式对旅客姓名记录数据进行处理，即将旅客姓名记录数据与相关数据库或预先确定的标准进行比较；二是如果上述自动化处理产生了匹配命中的结果，则该旅客信息部门将通过非自动化方式进行单独审查，以核实主管部门是否需要依法采取措施。在基于上述步骤处理旅客姓名记录数据时，应当遵循以下四项基本原则：

　　一是欧盟成员国法律应当规定清晰和准确的规则，明确旅客姓名记录数据的自动化处理所使用的数据库和标准，该法律不应允许使用《指令》未规定的其他方法对旅客进行预先评估。

　　二是处理旅客姓名记录数据的旅客信息部门只有在通过非自动化方式对自动化处理的结果进行单独审核之后，方可向主管部门传输旅客姓名记录数据。

　　三是主管部门不得仅通过旅客姓名记录数据的自动化处理，而作出对相关个人产生不利法律效果或具有显著影响的决定。

　　四是所有自动化处理的合法性均应接受数据保护官和数据监管机构的审核，并接受法院的司法审查。

　　关于旅客姓名记录数据的自动化处理所依据的数据库和预先确定的标准应当遵循的法律原则

　　关于旅客姓名记录数据自动化处理所依据的数据库，欧盟法院认为，此类数据库应遵循的法律原则有四：

　　一是限于必要范围，且原则上不得进行数据挖掘。这意味着，《指令》第6条规定的通缉或预警人员数据库是旅客信息部门可用于比较旅客姓名记录数据的唯一数据库。

　　二是非歧视。

　　三是目标明确、符合比例要求、特定。

　　四是此类数据库必须由《指令》规定的主管部门管理，并由主管部门在履行职责的过程中予以使用。

　　关于旅客姓名记录数据自动化处理所依据的预先确定的标准

　　欧盟法院认为，此类预先确定的标准应遵循以下四项法律原则：

　　一是此类标准必须是预先确定的标准。鉴于此，此类标准不得使用机器学习等具备自我学习能力的人工智能技术，因为此类技术能够在缺乏人工干预或审查的情况下，对评估的过程，特别是评估标准以及这些标准的权重进行修改。此外，此类技术将导致《指令》规定的对旅客姓名记录数据的自动化处理所产生的匹配命中结果的单独审查，以及对旅客姓名记录数据自动化处理的合法性监督形同虚设。这是因为，考虑到此类技术所具有的不透明的特征，相关程序得出匹配命中结果的理由可能将难以理解。在此情形下，此类技术的使用将剥夺数据主体依据《宪章》第47条享有的获得有效司法救济的权利。

　　二是非歧视，即此类标准在任何情况下均不得基于个人的种族或民族、政治观点、宗教或哲学信仰、工会会员资格、健康、性生活或性取向。

　　三是目标明确、符合比例要求且特定。这意味着，一方面，此类标准必须能够明确锁定那些被合理怀疑可能参与恐怖主义犯罪或严重犯罪的个人；另一方面，此类标准应当既考虑有罪情形，也考虑无罪情形。

　　四是定期审核，即此类标准应当根据情况的变化进行更新，从而使得这些标准能够与时俱进，及时对恐怖主义犯罪和严重犯罪的发展作出回应。

　　关于旅客姓名记录数据的自动化处理的保障措施

　　欧盟法院认为，在使用自动化方式处理旅客姓名记录数据时，应当采取以下保障措施：

　　一是旅客信息部门应通过非自动化方式对任何匹配命中结果进行单独审核，以尽可能识别任何错误的匹配命中结果，并剔除任何歧视性的结果。同时，旅客信息部门应保存与旅客姓名记录数据处理活动相关的文件，以便对这些活动的合法性进行审查，并进行自我监督。

　　二是主管部门在对旅客进行预先评估时，应当考虑甚至优先采纳旅客信息部门通过非自动化方式进行的单独审核的结果。

　　三是确保透明度，具体来说，主管部门虽无需让相关个人知晓预先确定的标准和适用这些标准的程序，但却必须确保这些个人能够理解这些标准和程序是如何运作的，以便这些个人能够在充分知晓相关事实的基础上，决定其是否行使其享有的寻求司法救济的权利。

　　四是确保有效司法救济，此原则要求负责审查主管部门作出的决定的合法性的法院，应当能够审查该决定所依据的所有理由和证据，包括预先确定的标准以及这些标准的具体运作情况。

　　五是数据保护官和欧盟成员国数据监管机构应当对旅客姓名记录数据自动化处理的合法性进行监督。

　　基于上述因素，欧盟法院对《指令》第6条的规定进行了审查，并最终认定《指令》第6条有效。

　　结合欧盟法院在人权联盟诉比利时部长会议案中发表的上述意见，可以归结出使用人工智能进行决策应遵循的主要法律原则：一是制定清晰和明确的使用规则。二是遵守个人数据处理的基本原则，包括合法、正当、必要、诚信、自愿、目的明确、数据最小化、公开透明等原则。三是确保数据库和算法的非歧视性。四是对数据库和算法进行定期审核和更新，确保数据库和算法的可靠性。五是确保所使用的人工智能的透明度和可解释性。六是不得仅通过人工智能作出对个人权益有重大影响的决定，应当确保对人工智能的决策过程进行人工干预。七是对人工智能决策过程的合法性进行监督。八是建立问责机制。九是确保向受到人工智能决策影响的个人提供有效救济。

　　（作者系法律工作者）