脑机接口技术的法律属性与规制研究——以工业应用场景为视角(下)

分享到

(文接上期)

三、公法介入与工业BCI应用中神经伦理权利的制度性保障

BCI技术的应用并非仅仅局限于传统的物理空间,其对人的心智活动将产生更为深刻的影响,涉及劳动者的精神自由、认知负荷以及自由意志等核心人格权利,其独特的风险性质远远超出了传统私法损害赔偿的范围。

(一)工业BCI应用的神经伦理风险与人格权保护的法理基石

BCI技术可对人脑信息展开实时的大规模采集与解读,这突破了《民法典》人格权编所涉及的“身体边界”,把人类的“心智空间”纳入技术监控范畴之中,带来了前所未有的伦理挑战。法律需要对心智信息进行高位阶的定性,强化对劳动者精神健全权以及自由意志的保护。

1.心智信息的法律定性与精神隐私权的延伸保护。

工业BCI技术所采集的神经信号,如脑电波、脑磁图等,既能反映操作员的生理状态(比如疲劳程度、注意力状况等),又能直接与操作员的神经意图、情绪波动乃至潜在认知倾向相关联。这些数据并非传统意义上的“个人信息”,它们能深入呈现人的内在心智活动,有着更高的敏感性、非自愿披露性以及不可替代性。心智信息应当作为特殊个人信息纳入法律保护范畴,并且适用比一般个人信息更为严格的采集、处理及使用规则。在工业BCI应用场景中,用人单位采集操作员心智数据时需遵循最小化原则以及目的限制原则,严格禁止把这些数据用于非正当用途,如绩效考核、歧视性招聘或者构建“精神画像”等。

人的意识活动理应受到隐私权以及个人信息制度的保护,BCI技术对神经活动的读取实际上是对劳动者精神隐私权的直接侵犯,这种侵犯在工业环境当中更为严重。法律需要将精神隐私权的保护范围扩展至“心智空间不受干扰”,并明确规定用人单位严禁在未经劳动者明确同意的情况下对其神经意图数据展开实时监测、存储或者分析。当出现心智信息泄露或者滥用的情况时,应当依照《民法典》里关于侵害人格权的相关规定,给予侵权方相应的惩罚。

2.心智健全权与自由意志的制度性维护。

BCI技术在实际应用过程中往往需要操作员与机器维持较长时间的紧密关联,这种持续性的认知负荷有可能导致劳动者出现精神疲劳以及心理负担,对其心智的完整性造成慢性损害。在BCI技术应用中,精神健全权应成为法律体系的关键要点之一。可借助公法手段明确用人单位对于劳动者心智健全权所负有的保护责任,以此保证工作环境中的认知负荷不会因过度而诱发心理健康方面的问题。

由于BCI系统对操作员神经意图的解码以及对其执行指令的修正,有可能在不知不觉中对操作员的自由意志以及精神自主权造成损害。从技术层面来讲,这种操控并非仅仅局限于物理层面的干预,还体现在决策过程中的隐性操控方面。为了保障操作员在BCI环境下的决策自主性,公法应当规定BCI系统在关键决策节点提供非BCI通道的确认机制,允许操作员在作出关键决策时借助传统方式进行确认。笔者认为,应当强制要求系统记录操作员原始意图与机器最终执行指令之间存在的差异,为将来有可能出现的技术干预提供证据支持,以此保证操作员的意图与执行指令的一致性。

(二)“神经权利”体系的构建与公法层面的规制进路

1.以认知自由为核心的新权利体系的探索。

精神自主权作为“神经权利”体系的基础,其主要目标在于保证个体不被外部神经技术所操控。法律需要明确规定,严禁任何组织或个人借助BCI技术干预、限制或者诱导操作员的神经活动,迫使操作员做出违背自身意愿的行为。禁止用人单位运用BCI技术 “优化”或者“强制修正”劳动者的工作意愿、行为习惯以及操作模式,以此保证劳动者始终维持决策的自由以及自主权。心理连续性权保护个体的身份认同以及人格统一性,防止BCI技术过度干预而改变操作员的感知、记忆或者情感,引发自我认知的危机。法律还应当明确规定,在运用BCI技术提高或者修正认知功能时必须开展严格的伦理评估以及心理学评估,使用者应当有“被遗忘”或者“恢复原状”的权利,个体在技术干预之后有权恢复自身的心理状态以及认知功能,保障自我认同不被侵害。

2.公法规制路径:差异化监管与国家强制标准。

BCI技术的监管需要依据其风险程度分层分类实施相应策略,对于高风险的侵入式BCI系统应施行严格的临床试验标准、风险评估程序以及追溯机制;对于中低风险的非侵入式BCI系统,则应着重关注数据隐私治理以及操作员的认知负荷监控。按照不同类型BCI系统的风险等级来设定不一样的标准和要求,以此达成合理分配资源并保证监管的精确性。

为应对技术“黑箱”以及归责方面的问题,可借助公法手段来制定强制性技术标准,此类标准应包含算法透明度、数据可追溯性以及系统日志记录等关键内容。制造商要提供其算法的关键运行参数、具有可解释性的接口,还要对系统的每一步决策进行详尽记录,确保在事故发生后实现事故追责以及第三方独立鉴定。这些强制性标准可以切实保障操作员的基本权利,防止因技术失误或者故障引发不可控风险。

(三)多主体协同治理机制的构建:预防性与动态性监管

公法介入的最终目标在于打造一个协同治理体系,该体系可对BCI技术的动态扩展给予持续且有效的监管,把风险消除在前端,避免产生因技术缺陷引发伦理和法律方面的困境。要保证BCI技术应用有伦理性,就需要优化现有的伦理审查机制。伦理审查委员会应由医学、神经科学、伦理学、法学等多个学科的专家组成,要严格执行回避制度,保证专家成员和制造商或用人单位之间不存在利益关系。这种结构化的改进可以提高伦理审查的公正性与独立性,在项目启动之前要开展强制性风险评估,依据评估结果制定相应的风险应对以及减轻方案,确保只有评估合格之后项目才能获得批准并投入应用。

随着BCI技术应用范围逐渐拓展,需构建起持续跟踪审查的机制,以此保证该技术的每一步扩展都经过严格审查。引入劳动者代表、工会以及非政府伦理组织等利益相关方,使得监管制度能够达到消除BCI技术给劳动者心智权益所造成的影响。不仅可以推动法律治理透明度的提升,还可以保证法律措施具有社会接纳度以及执行力度。

四、法律规制体系的融合与构建

(一)公私法协同

工业BCI风险治理需构建公法与私法协同共治的模式,这种协同模式呈现出双轨并进且相互支撑的态势。公法所关注的重点在于普遍性保障以及事前预防方面,私法侧重的则是针对个案的事后救济以及公平归责方面。

1.事前预防与事后归责的动态衔接。

公法标准为私法归责提供证据支撑,如算法透明度标准以及数据可追溯性标准这类强制性技术标准,为私法归责提供关键的证据支持。当受害者于私法诉讼中援引产品严格责任时,公法强制要求的不可篡改运行日志,囊括神经意图、算法修正、机器执行的全流程记录,直接为“算法设计缺陷”以及“因果关系”认定奠定基础。此机制可有效化解私法在面对“算法黑箱”时的举证难题,保障公私法间的信息对称,从而使私法归责更为公正、透明。

私法威慑所形成的经济约束,引导行为主体转向对公法规则的遵循。私法责任中的高额赔偿可以构建起强大的风险内化激励机制,使得用人单位以及制造商主动去遵守如心智健全、认知负荷管理等公法强制性义务和技术标准。借助提升违法成本,私法的威慑功能可以有效地推动公法标准得以落实,保证在技术应用过程中劳动者的权利得到切实保障。

2.风险社会化分担机制的整合与优化。

在强制责任保险制度之上,需要清晰界定保险的赔付范畴,其中涉及侵权责任(对第三方造成的损害等),以及职业病损害(对操作员心智完整所造成的损害等)。保费的计算应当同用人单位以及制造商与公法强制标准的执行状况挂钩(如风险评估等级、伦理审查情况等),以此构建起“风险越低、保费越低”的激励机制。此种机制可以引导市场主体主动投身于风险防范工作之中,促使整个行业的技术合法性得以提高。工业BCI事故风险补偿基金的启动要以公权力部门出具的独立鉴定报告作为前置条件,借助公权力的介入,基金的先行赔付功能在保障对受害者及时实施救济的同时,还可以为最终的责任主体追偿提供依据。

(二)国际经验借鉴

构建我国BCI法律治理体系,可参考国际前沿经验并积极参与全球立法协同,以此提升该制度的科学性与开放性。同时,要不断提高在全球技术治理中的地位,以获得更多国际话语权。

1.国际神经权利立法趋势的比较分析与借鉴。

欧盟《人工智能法案》所提出的风险分级监管模式,针对“高风险AI系统”设定了严格的标准,与我国工业BCI技术的风险分级以及准入制度有着较高的契合度。欧盟法案对于技术透明度、数据可信赖性以及人工监督的要求,可为我国制定“神经技术应用特别法”提供参考。加强神经技术应用的监管机制建设,以保障我国相关立法和技术标准与国际接轨。

2.推动区域及全球范围内的法律协同与规则制定。

中国应当积极投身于包括联合国、国际标准化组织等在内的多边机制下的神经技术伦理与安全标准的制定工作。参与国际立法协同与规则对接,是我国BCI技术获得国际市场准入便利、提升竞争优势的战略选择。

亚太地区BCI技术发展速度较快,应用场景变得日益复杂。笔者建议,我国可推动构建一个区域性神经技术法律与伦理合作平台,通过定期的政策对话、联合研究以及信息共享等方式,实现各国共同应对跨国企业的数据跨境流动、算法偏见以及技术竞争等诸多挑战,借助区域内的法律协同避免“监管套利”现象出现,为亚太地区BCI技术的健康发展提供法律保障。

(三)中国BCI法律治理的制度构建路径

笔者建议,构建具有中国特色的法律治理框架,切实应对工业BCI应用中的法律挑战。此框架应采用“以单行立法为主导,相关法律作补充”的途径,通过跨部门协同机制保障执行的有效性及全面性。

1.健全完善相关法律法规。

建议制定以“认知自由”为核心内容的神经技术应用专门法,制定“神经技术应用与伦理规制条例”等行政法规,分层分级细化实施规则和监管要求,为相关技术研发与应用提供明确的法律依据和制度保障。

构建风险分级以及准入制度,单行法需根据BCI技术所存在的风险以及应用目的来设定分层分类的监管制度。对于高风险的侵入式应用,通过施行许可制以及强制注册制,明确其适用场景、技术合法要求以及数据主权归属等限制;对于低风险的非侵入式监测型应用,则应实行备案制,着重审查其信息采集的合法性。最终达成监管资源的精准配置,保证技术创新不会突破伦理和法律的底线。

2.构建跨部门“技术-伦理-法律”三位一体的监管机构。

建立跨部门的神经技术监管专门组织。考虑到BCI技术具有跨学科的特性,应当组建一个专门机构,其核心职能有:制定并发布强制性技术标准,主导伦理审查的跨学科委员会开展工作,对BCI事故进行独立技术鉴定并追溯原因,以此保证监管工作具有专业性和权威性。

通过法定化的第三方独立审计,提升BCI技术的透明度与公正性。法律应当强制规定BCI制造商在产品投放市场之前,须经独立于制造商和用人单位的第三方机构开展算法透明度审计、鲁棒性测试及公平性评估。审计得出的结果应当公开,并且成为产品接受公法审查的前置条件,防止技术被滥用及对操作员产生不当影响。(全文完)

(作者:吴迪,广东广信君达律师事务所)

 

【责任编辑:尚鑫】