第307章 风险与控制：论生成式人工智能应用的个人信息保护(4/10)
阅读提示：为防止内容获取不全，请勿使用浏览器阅读模式。
有可能将其用于训练未来的模型。”事实证明，这种担心并非多余。近日，就在Gpt-4最新发布之际，chatGpt出现严重技术漏洞，用户在社交媒体上表示看到其他人的历史搜索记录标题。openAI随即立刻关闭chatGpt，当用户再次打开该系统时，历史聊天记录侧边栏已被替换为“历史记录暂不可用，我们正在努力尽快恢复这一功能”。该事件正是由内部开源数据库错误所致，随后openAI首席执行官SaAltan在社交媒体发文，宣布修复程序已验证完成，并对此“感觉十分糟糕”。可见，与其他人工智能技术一样，生成式人工智能模型本身存在着漏洞和安全隐患。诸如模型设计不当、存储系统错误、算法漏洞等都可能导致用户个人信息泄露频发。此外，黑客入侵人工智能系统的技术已催生出一个庞大黑色产业链，犯罪分子通过植入病毒性插件侵入数据库，也将对用户个人信息安全造成严重威胁。
其次，从运行角度来看，生成式人工智能还存在着一种高频、渐进的个人信息间接泄漏风险。生成式人工智能需要从大量数据中学习和生成模型，并不断改进模型，以提高生成文本的准确性。这就意味着，上一版本中收集的个人数据可能被用于模型训练并在未来版本中进行输出，从而间接导致个人信息泄露。例如，在chatGpt中输入的文本可能包含具有隐私敏感性的信息，如医疗记录、司法文书、个人通讯记录等，而模型可能会学习到这些信息并在模型输出的结果中泄露这些信息。这种个人信息泄露乃至频发的风险，与生成式人工智能内在运行机理紧密关联，为生成式人工智能所特有，并且一定程度广泛存在于海量用户“人机对话”的过程中。只不过囿于生成式人工智能的高度复杂性和黑盒特性，其内部机制和应用过程往往难以被完全理解和掌控，从而使这种间接泄露及频发境况很难被发现和察觉。
生成式人工智能语料库中的个人信息泄露及其频发境况无疑会给用户带来隐私威胁、精神焦虑，甚至是财产、声誉和信任上的损失。如被不法分子滥用，进行信息关联和深度信息挖掘，严重时还可能威胁到国家数据安全和总体国家安全。伴随人类社会迈入数字文明时代，数字、信息堪称数字文明时代的“新石油”，数字、信息安全问题更是不容置若罔闻。
二、生成式人工智能的个人信息保护二元路径
基于上述，生成式人工智能无疑将对个人信息保护带来诸多挑战，亟需寻求切实的治理路径进行应对。综合而言，在实现个人信息保护与利用的平衡、信息安全风险合理分配及实践效果上，风险控制路径更具有优势。同时，将其嵌入生成式人工智能，以保护个人信息、防范规制风险具有其正当性和可行性。
（一）个人信息保护的二元路径
综合而言，目前个人信息保护存在二元路径：权利保护路径和风险控制路径。其中，“权利保护路径”起源于20世纪60年代的“公平信息实践”，其核心思想是保障信息主体对其个人信息的掌控和自主决定权。该路径遵循“权利确认-权利行使-权利救济”这一基本逻辑，属于以个人为中心的法律范式。随着个人信息保护领域的不断深入和发展，权利保护路径已经被广泛接受和认可。欧盟法律更进一步确认个人信息保护权为一项基本权利，从而进一步巩固权利保护模式的地位。然而，随着大数据时代的到来，权利保护路径也面临着越来越多的批评和挑战。一方面，虽然权利保护路径彰显信息主体的法律地位，但其相关权利保障机制却将主要保护责任转移给了信息主体，这种“赋权即责任”的模式导致了信息安全风险的不合理分配。另一方面，囿于信息主体存在有限理性以及大数据技术给告知同意原则带来结构性变革，以信息主体为中心的权利保护路径在应用中实则存在难以克服的负担和实践问
本章未完，请点击下一页继续阅读》》