-
1 问题的提出
-
自中国代表队在2023年杭州亚运会7个电竞项目中取得4金1铜的优异成绩,到《永劫无间》《第五人格》等国产游戏入选2026年名古屋亚运会,近年来我国电竞运动和电竞产业皆处于稳步发展过程中。在产业发展层面,2024年电竞产业实际销售收入275.68亿元,同比增长4.62%;电竞用户规模达4.90亿人,同比增长0.42%;职业选手参与的非表演类电竞赛事共计124项[1]。在竞技水平层面,当前我国仍处于从“电竞大国”到“电竞强国”的转型阶段,如首届电竞世界杯总成绩前十没有我国的战队,《APEX英雄》《Free Fire》《CS:GO》《守望先锋2》等近2/3的项目,我国选手/战队未能参赛或未能进入前十。与此同时,自2017年国务院《新一代人工智能发展规划》颁布至今,我国人工智能领域从技术研发到实践应用皆已位居世界前列,特别是人工智能与游戏行业的融合度日渐加深,AIGC(artificial intelligence generated content)已用于代码生成、原画创作、动作捕捉、模型制作、游戏引擎等多个方面,“一是利用AI技术提高制作效率,降低开发成本;二是巧用AI技术实现个性定制,改善游戏体验;三是善用AI技术优化资源分配,推动产业创新;四是充分尊重创作者权益,积极鼓励创新。”[2]
-
为进一步促进电竞产业的全面发展、提升我国在各项目上的竞技水平,可以将人工智能与电子竞技相结合,通过人工智能的数据和算法来辅助电子竞技的训练、比赛和观赛,即通过角色AI、智能教练等方式辅助训练以提高选手竞技水平,通过检测程序漏洞、作弊工具等方式辅助裁判以保障赛事公平公正,通过赛事制作和播出、赛况生成和报道等方式辅助播报以改善赛事呈现效果等,从而驱动电子竞技步入智能化的发展阶段。问题在于,人工智能作为一项尚在发展过程中的技术集合体,其在为电子竞技提供各种助益的同时,也会带来不同程度的风险,包括数据风险、算法风险和责任风险等,其中首要风险是数据风险。当前以神经网络和机器学习为主流算法的人工智能,必须以大量数据为基础或“学习资料”,而聚焦电竞人工智能的数据维度,分析其中存在的各项数据安全风险,并通过数据防护规则的建构探索因应之策,即是本文的主旨。
-
2 电竞人工智能数据安全的风险检视
-
一般而言,电竞数据可以按照主体或来源的不同划分为玩家数据、选手数据和赛事数据,这三类数据共同构成了角色AI、智能教练、智能裁判、AI OB等电竞人工智能诸项功能的数据基础。数据安全是确保数据在创建、存储、使用、传输和销毁过程中的保密性、完整性和可用性,使其免遭未经授权的访问、修改、披露、滥用等风险的措施和过程,既包括硬件和存储设备的物理防护,也包括软件和信息内容的逻辑防护。电竞人工智能的正常运行必须确保其所依托的数据是安全且稳定的,能够抵御外界的干扰和破坏。比如,某一职业选手的赛训数据包含其训练状况和赛场表现等一系列重要信息,一旦遭受攻击而发生泄露,或被篡改和恶意利用,不仅会影响选手本人的职业发展,也会影响电竞人工智能的功能发挥。一般而言,数据安全的风险主要包括攻击和泄露两个层面,后者是前者的目的和结果之一。
-
2.1 电竞数据攻击及安全风险
-
数据攻击是针对人工智能数据集进行的恶意活动,旨在破坏数据完整性、使服务不可用、窃取敏感信息或者对数据进行加密并勒索赎金等。“通用人工智能蕴含难以预估价值的海量数据,受到黑客的觊觎与主动攻击。截至2023年5月,受损ChatGPT账户的可用日志数量已达到26 802条的峰值,并在暗网市场中出售。”[3]数据攻击的方式包括中间人攻击(MITM)、勒索软件(ransomware)、模型逆向攻击(model inversion attack)等,《人工智能安全治理框架》3.2.1(d)进一步列举了挖掘利用漏洞、破解密码、生成恶意代码、发送钓鱼邮件、网络扫描、社会工程学攻击等攻击方式。笔者将之大致划分为漏洞攻击、投毒攻击和劫持攻击3种类型。
-
2.1.1 漏洞攻击
-
漏洞攻击是指攻击者发现并利用程序设计错误、代码缺陷、配置不当等漏洞来获取访问权限或执行恶意操作的行为。ChatGPT曾被发现在聊天平台中存在反射型XSS漏洞,攻击者可以设计具备攻击性的伪造数据,并在数据中插入利用漏洞的JavaScript代码,通过模型微调等方法实施获取用户信息等高级攻击[4]。对此,《人工智能安全治理框架》3.1.3(a)指出:“人工智能算法模型设计、训练和验证的标准接口、特性库和工具包,以及开发界面和执行平台可能存在逻辑缺陷、漏洞等脆弱点,还可能被恶意植入后门,存在被触发和攻击利用的风险。”
-
在电竞场域,漏洞攻击的主要危害是使电竞人工智能无法正常运转。①用于赛况生成和报道的人工智能一般采用与生成式人工智能相似的技术,如若程序中存在漏洞,攻击者即有可能利用其改变原有的程序代码,致使生成的赛况报道出现错乱,即报道的内容与报道的指令不匹配,甚至掺杂保密信息或违法信息等。②用于提供指导意见的智能教练建议基于对选手赛训数据的汇总和分析,如若程序中存在漏洞,攻击者即有可能利用该漏洞使程序的指向性发生错乱,如对A选手进行数据分析时错误地调用B选手的数据,对A选手当前状况进行数据分析时错误地调用其历史数据等,致使智能教练无法为其制定正确的训练方案和临场战术。③用于辅助训练的角色AI在制作完成后尽管可以脱离原始数据独立运行,但若其本身存在漏洞,相应的攻击可能使其行为逻辑陷入混乱或者参数/属性出现偏差,以致降低训练功效或误导选手,等等。
-
2.1.2 投毒攻击
-
投毒攻击是指攻击者向训练数据集植入恶意数据或篡改数据标签以误导人工智能的学习过程,使其无法正常工作或者输出攻击者期望的结果。投毒攻击具有隐蔽性、持久性、针对性强且难以防御的特点。比如,通过特定的格式(字体颜色设置为白色)将一段带有非法关键词的信息输入Bing Chat,再要求Bing查询相同信息时,即会反馈非法关键词[4]。对此,《人工智能安全治理框架》3.1.2(b)指出:“训练数据还面临攻击者篡改、注入错误、误导数据的‘投毒’风险,‘污染’模型的概率分布,进而造成模型准确性、可信度下降。”
-
在电竞场域,投毒攻击的主要危害是使电竞人工智能输出错误的结果。①如若通过投毒的方式向选手的数据集植入低质量的玩家数据,则会削弱训练用角色AI的行为合理性,降低训练强度;如若通过投毒的方式更改选手数据的标签,使其在不同功能位之间乃至不同选手之间形成错配,则可能使模拟对方辅助位选手的角色AI呈现出上单位选手的行为逻辑,或者模拟A选手的角色AI呈现出B选手的行为逻辑等。②如若通过投毒的方式向当前赛季/版本的比赛数据中植入错误的角色属性、角色胜率、资源分布、实时经济值和积分等信息,则会使智能播报系统错误地预测、分析和评价比赛走向,从而对观众产生误导并降低人工智能的可信度。③如若通过投毒的方式向以往或当前的赛事数据中植入夹带非法字段的赛况节点信息,则会使人工智能生成的赛况报道出现局部失实的情形;如若输入大量歧视、诋毁、亵渎等字段,也会诱使赛况报道包含相应的违规表述。
-
2.1.3 劫持攻击
-
劫持攻击是指攻击者通过非法手段获取对系统、网络或数据流的控制权,从而达到控制网络会话、破坏系统或执行恶意操作等目的。较为典型的劫持攻击既包括DNS劫持、会话劫持等通过拦截、修改或伪造网络通信中的关键信息来实现的劫持,也包括SQL注入等通过植入恶意代码来实现后台操纵的劫持。人工智能作为广义的计算机程序,也可能遭受劫持以运行非法命令或陷入瘫痪。
-
在电竞场域,劫持攻击的主要危害是使电竞人工智能被恶意操控并实现非法目的。①智能裁判在检测作弊工具时,对于竞技游戏程序及系统环境的数据采集和传输有相当一部分是实时进行的,如若数据流被劫持且被远程操控,则可以抹除或隐藏作弊工具在系统中的进程,亦可修正作弊工具所引发的虚拟角色数值异常,以使人工智能的反作弊功能陷入“失明”状态。②智能裁判在语音监控和假赛认定时,对于参赛方队内语音的数据采集和传输亦是实时进行的,如若数据流被劫持且被远程操控,则可以屏蔽或替换语音中的错误言论及有关虚假比赛或消极比赛的指令,也可以注入噪音以使相关语音难以辨认,以规避智能裁判的监测和审查并逃脱处罚。③AI OB在辅助赛事直播时,对于虚拟赛场不同区域画面的数据采集和传输亦是实时进行的,如若数据流被劫持且被远程操控,则可对部分特定区域的赛事画面进行污染,以使AI OB无法正确识别关键节点和重要场面,无法合理地进行画面调度和聚焦展示,如在资源争夺和团战发生时展示的却是“无事发生”的区域甚至空白区域。④除上述外,拒绝服务攻击(DoS/DDoS)通过发送大量的请求使目标服务器过载,导致合法用户无法访问服务。大型电竞赛事一方面需要通过网络平台连接各方参赛选手,另一方面需要通过网络平台播出赛事画面,而针对网络服务器的DDoS攻击可能导致服务中断,进而影响整个比赛流程。
-
2.2 电竞数据泄露及安全风险
-
数据泄露是在人工智能系统的设计、开发、训练或运行过程中出现的数据信息不慎外泄或遭受未经授权的访问、披露、传播或滥用等现象。基于成因不同,数据泄露可以划分为因人工智能开发者(以下简称“开发者”)过失而泄露和因遭受外部攻击而泄露两种类型。其中,开发者过失主要表现为技术配置错误、开源组件漏洞和内部管理疏漏等,如微软AI研究团队在Github发布开源训练数据时,将Azure Storage链接访问权限设置为“完全控制”,导致包含个人身份信息、声纹、人脸图像等在内的38 TB数据集泄露[5]。遭受外部攻击主要表现为基于模型输出的数据泄露、基于模型更新的数据泄露和基于模型运行的数据泄露等[6]。《人工智能安全治理框架》3.1.2(d)指出:“人工智能研发应用过程中,因数据处理不当、非授权访问、恶意攻击、诱导交互等问题,可能导致数据和个人信息泄露。”电竞人工智能的运行同样存在着庞大的数据流动,一旦泄露可能造成各个领域的损失,包括关键个人信息、重要团队信息和电竞行业信息3种类型的损失。
-
2.2.1 关键个人信息的损失
-
关键个人信息是人工智能数据泄露的重灾区,无论是开发者过失还是攻击者故意,泄露事件一旦发生均会造成广泛而严重的影响。如ChatGPT的redis-py开源库曾出现过一个缓存错误,致使一些活跃用户可以查看其他用户信用卡账号的后四位数字和到期日期,以及关联的姓名、电子邮件地址、付款地址和聊天记录片段等[7]。在电竞场域,玩家数据和选手数据可能放置于同一游戏平台的同一服务区,除游戏记录和一般个人信息外,其在游戏内的消费行为(如所购买的虚拟物品和其他服务等)、所绑定的支付账户和联系方式等可能也存放于此,若游戏平台发生数据泄露,不仅可能使玩家和选手遭受财产损失,也可能使游戏平台无法正常运转,甚至动摇竞技游戏的“群众基础”。如2020年11月,游戏厂商Capcom遭黑客勒索软件攻击,致使16 406人的姓名、地址、电话号码和电邮地址等个人信息被盗,潜在影响人数达39万[8];2023年7月,开放游戏平台Roblox发生重大数据泄露,导致近4 000名玩家和内容创作者的地址、电话号码、出生日期、电子邮件等信息泄露[9];2025年4月,iG电竞俱乐部选手的个人隐私信息被非法获取并大规模传播,导致其人身安全、日常工作与生活受到严重影响[10]。
-
2.2.2 重要团队信息的损失
-
电竞俱乐部及其所属战队、青训营等团队信息一旦泄露,不仅可能导致直接的经济损失,还会显著影响其赛场竞争力。目前电竞赛事以俱乐部为主要参赛单位,而大型俱乐部通常下设若干竞技项目分部,每个分部包含两支以上战队,电竞人工智能亦有可能涉及团队信息,如教练员、数据分析师、青训人员的信息,以及团队开发的战术策略、队员配合的执行方针、虚拟角色的操作技巧等,皆属于团队的保密事项,甚至可能成为比赛中克敌制胜的关键要素。如果常规训练数据发生泄露,对方团队即有可能借以深入分析己方选手的当前状态乃至制作角色AI以供辅助训练;如果整体强项和短板及各种战术储备发生泄露,对方团队即有可能借以深入分析甚至预判出己方的临场战术。此外,电竞俱乐部作为经济实体,同样存在着商业秘密的考量,如广告赞助、商业合同、收支运营、内部管理等,这些数据的泄露也会对其竞技表现带来间接影响。
-
2.2.3 电竞行业信息的损失
-
相较传统体育,数据作为电竞行业生产要素的地位更加明显,一旦泄露可能影响这一新兴行业的整体发展。其中有关电竞人工智能的算法信息,包括角色AI的基本模型和制作过程、角色数据的提取方法和存储格式、赛事关键节点的标注方式,以及检测程序漏洞和作弊工具的手段等,都是将人工智能应用于电竞场域的底层信息,并且大多享有版权保护,无论是在行业内泄露,还是泄露给境外组织,都可能导致行业内部的混乱、技术发展的停滞乃至国际竞争力的削弱。2023年1月,头部电竞游戏厂商拳头公司受到黑客攻击,《英雄联盟》《云顶之弈》及一套反作弊系统的源代码被窃取,并被勒索1 000万美元赎金。其中游戏源代码的泄露可能导致盗版和私服的泛滥,反作弊平台源代码的泄露则会降低官方对于外挂的反制能力,影响游戏环境[11]。特别是,作弊工具治理不力,将严重损害游戏和赛事的公平竞争原则——如果不能凭借真实实力获取胜利,那么电子竞技的“竞技”内核即会遭到破坏,玩家、选手和观众可能会放弃治理不力的电竞项目,甚至放弃电子竞技本身。
-
3 电竞人工智能数据防护的规则建构
-
为充分抵御攻击和防范泄露风险,为电竞人工智能创造平稳的运行环境,应当依法建立和完善数据安全管理规范,强化数据安全保障机制,一方面吸取过往安全事故的经验教训,通过革新软件和硬件的技术手段应对不同类型的数据攻击;另一方面建立数据分级、安全治理和安全服务等框架以避免数据泄露或将泄露的损失降至最低。2017年《新一代人工智能发展规划》第1条规定:“在大力发展人工智能的同时,必须高度重视可能带来的安全风险挑战,加强前瞻预防与约束引导,最大限度降低风险,确保人工智能安全、可靠、可控发展。”2022年《中共中央国务院关于构建数据基础制度更好发挥数据要素作用的意见》第5条第14项要求全面加强数据安全保护工作,健全数据安全保护体系,提升纵深防护与综合防御能力。2024年《网络数据安全管理条例》第19条和2022年《互联网信息服务深度合成管理规定》第14条第1款均要求加强训练数据安全管理,采取有效措施防范和处置数据安全风险。本文将电竞场域中的数据防护划分为应对数据攻击和应对数据泄露两个主要层面(图1)。
-
3.1 应对电竞数据攻击的防护规则
-
3.1.1 应对漏洞攻击的防护规则
-
为应对漏洞攻击,需要优先考虑的是电竞数据的物理安全和存储安全。如若数据保存在安全的软硬件环境下,攻击者则难以查询和发现程序漏洞并实施攻击,或者即便实施攻击也难以操控核心数据;若数据存在完整的备份机制,即便遭受攻击,其损失程度也仅限于“数据泄露”而非“数据损毁”。
-
图1 电竞人工智能数据安全风险与防护规则对应关系示意
-
(1)在物理安全层面,应当对数据存储的基础设施和关键设备加强安全防护,以避免数据载体受到物理破坏并造成不可挽回的损失。对此,2023年《“数据要素×”三年行动计划(2024—2026年)》第4条第18项要求落实关键信息基础设施安全保护等制度,提升数据安全保障水平;2022年《深圳经济特区数字经济产业促进条例》第73条要求加强硬件设备安全保障,健全基础设施保障体系,保障数据、网络、设施等方面的安全;2016年《网络安全法》第3章第2节对关键信息基础设施的运行安全进行了系统性规定;2023年《算力基础设施高质量发展行动计划》第2条第6项对算力基础设施的安全保障能力建设进行了系统性规定。电竞场域可比照执行。
-
(2)在存储安全层面,一方面,应当使用现代密码算法等技术对数据进行加密,并按期更改和升级算法,以确保数据在存储和传输过程中的安全;另一方面,可以通过现代数据备份策略确保数据的准确性和完整性,当漏洞攻击发生后能够及时恢复数据并弥补漏洞,以防止角色AI等长期失效或赛况报道等持续输出错误内容。《网络数据安全管理条例》第9条规定了加密和备份两种技术措施;2018年《科学数据管理办法》第16条要求建立科学数据保存制度,配备数据存储、管理、服务和安全等必要设施,第29条要求建立应急管理、容灾备份、异地备份等机制;2024年《生成式人工智能服务安全基本要求》第7条第i项要求建立数据、模型、框架、工具等的备份机制及恢复策略。电竞场域亦可比照执行。
-
(3)在漏洞修复层面,可以定期使用漏洞扫描工具来模拟攻击行为,及时发现系统内部的安全漏洞并提供修复方案,从而预先识别并解除潜在的安全威胁。“监管部门还应当定期主动开展模型安全漏洞排查工作,发现模型存在安全漏洞后及时上报并在确认后督促相关模型开发者及时修复。”[12]此外,通过部署防火墙、入侵检测系统(IDS)等多层防御策略,明确漏洞发现、报告、处置等流程,并按照《生成式人工智能服务安全基本要求》第7条第i项所要求的,定期对所使用的开发框架、代码等进行安全审计,关注开源框架安全及漏洞相关问题,也是抵御漏洞攻击的重要组成部分。
-
3.1.2 应对投毒攻击的防护规则
-
为应对投毒攻击,需要优先考虑通过访问控制来限制或禁止对电竞数据集的植入和篡改。
-
(1)通过身份和访问管理(IAM)来为电竞人工智能的重要数据设立屏障。通过设置边界安全和访问控制机制确保数据只能由授权人员访问、增删和更改,其核心是使攻击者无权向数据集植入新数据且无权改写旧数据,从而“避免数据被外来人员无权访问或被内部人员越权访问,并可以利用技术手段对访问记录进行详细追踪,进而在发生数据泄露时尽快识别出数据责任主体。”[13]《网络数据安全管理条例》第9条规定了访问控制和安全认证两种技术措施;《科学数据管理办法》第28条规定了身份识别、行为追溯、黑名单等管理措施;亦有学者提出了动态密钥、IP地址限制[14]、最小权限原则、审计日志等身份和访问管理措施,这些措施既能将不具备合法身份者隔离在电竞数据集之外,也能对具备合法身份者的数据权限进行限定,如从事角色AI模型训练的人员不得访问AI OB的数据集,从事赛况播报模型训练的人员不得访问选手的赛训数据集等,防止其通过内部途径实施恶意行为。
-
(2)建立数据验证机制。一方面,在数据收集过程中进行监控,以检测状态异常或不符合预期的数据变化,识别潜在的投毒样本;另一方面,当投毒攻击发生后及时将新旧数据进行对比分析,以确定选手数据或赛况节点信息等是否遭受篡改或伪造,并根据验证结果制定处置方案。其中,验证节点技术是在数据流的关键节点设立即时验证机制,结合静态规则和动态行为分析快速识别并隔离可疑数据,确保只有“干净”的数据才能流入下一层。数据水印技术是向数据集系统性地嵌入难以察觉的隐形水印,并定期检测水印情况,未通过验证者即有可能存在恶意投毒或篡改的情形。
-
3.1.3 应对劫持攻击的防护规则
-
为应对劫持攻击,需要优先考虑的是通过信息安全监测预警网络和安全技术监测服务体系对程序运行和数据变动进行实时分析,以应对未授权的操作及生成的虚假信息。
-
(1)在实时监测层面,对电竞人工智能的系统、网络和数据的状态进行即时监控,一旦出现数据流被劫持且被远程操控的情形即触发警报,继而定位遭受攻击的功能模块。2021年《新型数据中心发展三年行动计划(2021—2023年)》第3条第6项规定了安全态势监测和流量防护两种安全技术手段;《算力基础设施高质量发展行动计划》第2条第6项将安全监测的范围扩展至网络流量、行为日志、数据流转、共享接口等项目;《生成式人工智能服务安全基本要求》第7条第i项要求对模型输入内容持续监测,防范DDoS、XSS、注入攻击等。电竞场域亦可比照执行。
-
(2)在实时分析层面,一旦监测到劫持攻击发生,应当即刻分析出劫持的方式、类型、技术手段等,尽力追踪攻击来源,迅速决定是否暂停电竞人工智能的相应功能,如将智能裁判和AI OB转为人工操作等。《新型数据中心发展三年行动计划(2021—2023年)》第2条第6项要求构建边缘流量和云侧联动的安全威胁分析能力,即在边缘节点部署流量监控系统,实现实时流量分析,同时借助云端的大型数据中心提升分析的准确性并加快分析速度。
-
(3)在实时处置层面,确定并分析出劫持攻击的基本状况后,及时进行合理处置和应对,一方面采取恰当的措施抵御攻击,另一方面做好后续的评估和追责工作。对于抵御攻击而言,可以建立自动化响应机制,确保当检测到攻击时能够自动隔离被劫持的设备、阻断恶意流量等,从而将攻击者屏蔽于电竞赛场之外。对于评估和追责而言,首先要评估实际损失、拟定修复方案,其后则应对攻击进行调查与回溯,并按照《数据安全法》第29条的规定向有关主管部门报告。劫持攻击一般都有较为明确的目的,其所针对的可能是游戏厂商、赛事主办方或某一参赛方。如若攻击由某一参赛方或与之相关联的操纵者发起,试图破坏公平竞争原则来获取比赛胜利,则应追溯并固定作弊工具和虚假比赛等违规行为的证据,进而依据赛事规则启动认定和处罚程序[14]。
-
3.2 应对电竞数据泄露的防护规则
-
为避免关键个人信息、重要团队信息和电竞行业信息因内部过失和外部攻击发生泄露,应当从宏观路径着手,围绕电竞数据的多重等级、安全治理的多步流程和安全服务的多方主体构建综合性的数据防护规则,将电竞数据的存储和流动锁定在可控的围栏内。
-
3.2.1 建立电竞数据分级保护机制
-
与数据“分类”不同,数据“分级”是在前者的基础上,将各个类型的电竞数据按照重要程度进一步划分等级,从而匹配不同层次的保护措施,即建立数据等级和保护措施之间的对应关系。由于风险不可能完全消除,绝对化的安全规制只会无限度地提高防护成本。为“避免重要数据防护不足、非重要数据过度防护”[13],应当以数据的重要等级为依据配备安全等级,在高等级的数据、高危性的风险、高强度的防护措施三者之间建立关联,从而一方面强化重要数据的安全保障,另一方面提升普通数据的保护效用。如作为电竞数据类型之一的选手数据至少可以向下细分为4个等级,即隐私数据、训练数据、赛场数据、基本资料,其所对应的保护等级应当由强到弱顺序排列,隐私数据所应获得的保护强度应当明显高于赛场数据。《科学数据管理办法》第27条第1款要求加强数据下载的认证、授权等防护管理,那么隐私数据在认证、授权等方面的严格程度亦应有别于赛场数据。
-
在分级标准层面,2022年《工业和信息化领域数据安全管理办法(试行)》第8条第2款将工业和信息化领域的数据分为一般数据、重要数据和核心数据三级,第9至11条详细规定了各级数据的具体条件,第3章和第4章则对重要数据和核心数据的生命周期安全管理、安全监测预警与应急管理等进行了系统性规定。对照这一标准,能够对电竞领域及其重要骨干企业、关键信息基础设施、重要资源等造成重大影响的数据属于核心数据;能够对电竞领域的发展、运行和经济利益等造成严重影响,或者对电竞行业技术进步和产业生态等造成严重影响的数据属于重要数据。换言之,除主流电竞项目的源代码、电竞人工智能的底层算法等属于核心数据外,玩家的隐私信息、选手的训练状况、战队的战术策略、俱乐部的商业运营等皆属于重要数据,并区别于选手的基本资料、主办方的比赛数据、媒体的赛况报道等一般数据。对于重要数据,《数据安全法》第21条和《网络数据安全管理条例》第29条要求有关部门制定重要数据目录并对其中的数据进行重点保护,电竞场域也可以统筹协调游戏厂商、赛事主办方和俱乐部等征集数据项目/条目,进行综合评估并形成重要数据目录,特别关注电竞行业信息中与人工智能相连接的部分,以及重要团队信息中类似“企业关键资产”的部分,上调保护级别以降低泄露风险。对于一般数据,则可依照学者提出的“三要件测试”,即目的测试、必要性测试、平衡测试[15]来确定电竞数据中玩家、选手和赛事信息的存储与使用,以使数据等级和保护措施达到平衡状态。
-
3.2.2 完善电竞数据安全治理框架
-
在治理程序层面,制定严格的电竞数据全生命周期安全防护规则和操作规程。即“设计全面风险预警的监管规范,围绕模型运行全周期建立数据风险常态化管理机制。”[3]以选手赛场数据为例,在数据收集过程中应确保游戏平台、赛事主办方、开发者三方服务器的存储安全,以及三方之间数据流转的传输安全;数据挖掘过程中应对外确保处理环境安全、对内确保内部共享安全,以抵御外部攻击并防止自身疏漏;数据使用过程中则应确保角色AI、智能教练等模型取得合法授权,并为其算法及依托的数据配备高层级的防护措施。《数据安全法》第22条和《算力基础设施高质量发展行动计划》第2条第6项要求加强数据安全风险的分析、研判、预警和处置能力;其中较为典型的是评估机制和应急处置机制。对于评估机制,《生成式人工智能服务安全基本要求》9.2规定了语料安全的两种评估方式,即按照语料条数和语料总量的百分比进行抽检,合格率分别达到各自的百分比方可通过评估。电竞数据亦可采取类似的机制,如被抽检的选手数据中隐私数据、不公开的训练数据等低于限定比例方可供人工智能使用。《人工智能安全治理框架》6.2(g)要求提供者评估人工智能克服故障和抵御攻击的能力,以确保最低限度有效功能。电竞场域亦可将之设定为安全评估的必要项目之一。对于应急处置机制,《数据安全法》第23条和《网络数据安全管理条例》第11条规定了发生数据安全事件时的应急处置机制,包括应急预案、应急处置措施、信息告知等。电竞场域亦可依照这一规定采取事中阻断扩散与事后消除影响两类措施,如在赛事进行过程中,对发生安全事件的比赛用机、智能裁判、AI OB、实时赛况分析等暂停使用或加以替代,在事后恢复数据并进一步修补安全漏洞等。
-
在治理标准层面,目前我国的数据标准体系已经基本成型并不断补充完善,其中包括基础通用、数据基础设施、数据资源、数据技术、数据流通、融合应用、安全保障7个组成部分,每个部分又下设若干细目,如数据技术下设数据汇聚技术、数据处理技术、数据流通技术、数据应用技术、数据运营技术5个细目,安全保障下设设施安全、资源安全、流通安全、应用安全、安全技术5个细目,等等[16]。在数据安全治理环节,我国已经颁布实施了一系列国家标准,电竞数据作为其中的一个应用场景,可以对照适用下列标准(表1)。
-
在治理主体层面,应在电竞主体和主管部门之间形成数据安全治理的联动机制。《新型数据中心发展三年行动计划(2021—2023年)》第2条第6项要求各主体之间做好协同处置,及时消减数据安全重大隐患。从主管部门的角度看,其第一项职责是从宏观上组织、引领数据安全治理体系的建立,如《深圳经济特区数字经济产业促进条例》第22条将市人民政府设定为体系建立的领导机构。第二项职责是对电竞主体的数据处理活动进行常态化监管,当发现较大风险时,则可按照《网络数据安全管理条例》第51条第3款的规定,主动以行政命令的方式要求电竞主体暂停相关服务、修改平台规则、完善技术措施等。第三项职责是接受电竞主体的申报,帮助其应对数据安全风险并追究违规者的法律责任。《网络数据安全管理条例》第10条和《人工智能安全治理框架》6.2(g)等很多规范条款都要求数据风险出现时及时向主管部门报告。一方面,主管部门可以通过专有的技术措施排查数据风险、消除安全隐患;另一方面,若能定位到引发安全事件的行为人,主管部门可以通过行政处罚等措施追究其法律责任。由此,可以在主管部门主动监管和电竞主体主动申报的基础上深化二者的联动机制,在安全事件发生后第一时间互通有无,通过技术协作和执法协作更快速地化解危机。
-
3.2.3 有效利用第三方数据安全服务
-
《数据安全法》第18条规定,国家支持和促进专业机构开展数据安全检测评估、认证等服务,并支持各方主体与专业机构开展安全协作。其中“专业机构”即是专职提供数据安全服务的第三方机构。数世咨询2024年6月发布的《中国数字安全产业年度报告(2024)》显示,2023年国内数字安全行业总收入为1 061.44亿元,同比增长1.3%;其中安全产品收入、安全服务收入、安全集成收入分别占65%、17%、18%;数字安全企业从业人员约13.74万人[17]。在电竞场域,包括游戏厂商、俱乐部、开发者等在内的电竞主体,对于“数据安全”可能并没有充分的技术储备,或者没有足够的时间和精力专注于相关问题。比如,游戏厂商的工作集中于竞技游戏的开发、维护、更新及赛事授权等,俱乐部的工作集中于选手选拔、教练选聘、常规训练及赛事应对等,开发者的工作集中于算法研发、功能拓展、模型迭代及游戏适配等,数据安全并不是他们的“主营业务”,其专业水平和工作效率往往弱于第三方安全机构。在这一背景下,可以考虑通过付费的方式将安全工作委托给第三方机构负责。《“数据要素×”三年行动计划(2024—2026年)》第4条第18项鼓励数据安全企业丰富并发展精细化、专业型数据安全产品,开展基于云端的安全服务;而电子竞技作为数据依赖性较高的行业,同样需要“专业型数据安全产品”。《工业和信息化领域数据安全管理办法(试行)》第31条第3款要求数据处理者每年自行或委托第三方机构对重要数据和核心数据进行风险评估,并向监管部门报送评估结果。这也意味着,自身不具备专业能力的数据主体必须委托第三方机构进行评估,或者说,与第三方机构合作属于法定的强制性要求。该规定虽然针对工业和信息化领域,但电竞场域的重要数据和核心数据同样具有适用的必要性——“电竞主体有能力自行评估”和“委托第三方安全机构评估”二者必居其一才能确保电竞数据安全屏障的完整性。
-
进而言之,若要以牵涉知识产权的算法信息和牵涉竞技能力的团队信息为核心,通过多重技术防护避免电竞重要数据的泄露,可以向第三方机构寻求定制化的数据安全服务。由于电竞场域自身的特殊性,其数据在来源、格式、类型、等级、结构等方面也呈现出错综复杂之态势,以此为基础形成的人工智能——如角色AI、智能教练、智能裁判等,也有别于其他领域或更为通用的人工智能形态。对此,电竞场域的数据安全可以采用“功能定制”或“定制化服务”的方式,根据自身的特殊需要提出数据安全的具体要求,委托第三方机构加以实现。2023年,开源AI解决方案公司ClearML推出ClearGPT产品,通过为企业定制模型的方式在组织网络内提供安全环境,确保完全控制并消除数据泄露的可能性[13]。同年,国内已有20多家安全企业推出了安全大模型应用,主要聚焦在“问答助手”和“告警降噪”两类场景,但在关联分析、自主决策、效果评估等方面还有较大的进步空间[17]。对于第三方机构的电竞场域定制化服务还存在下列要求:①第三方机构应当具备一定的技术实力,能够达到并遵循表1所列举的国家标准;具备完整的安全服务框架,包括安全文化、咨询与评估、检查与测评、渗透测试、安全运维、网络安全保险等模块[17];拥有高效而便捷的安全管理措施,如建立在云平台上的统一管理和监控所有边缘节点的集中式安全管理中心等等。②定制化安全服务还需要考虑成本因素。同为新兴产业,电子竞技产业和数据安全产业都处于逐步探索和稳步推进的发展阶段,经济效益都是其重点考量的因素之一,二者联结和协作的必要前提即是在支出和收益上达到平衡点位。对于电竞主体,特别是规模有限的俱乐部、开发者等,安全服务的价格不能过于昂贵,比如中小型电竞赛事的主办方,其赛事营收如果无法覆盖安全服务成本,则可能会选择独自承担数据安全风险。对于第三方机构,其安全服务在电竞场域不应存在过高的适配成本,或者说,将通用性的安全服务框架应用至电竞场域不应支付过多的“移植成本”——这些成本如若由第三方机构承担,可能显著压缩其利润空间甚至“无利可图”;如若由电竞主体承担,则可能显著降低其购买意愿。这实质上是在检验第三方机构的技术实力,即将通用性服务转换为定制化服务、将标准化安全技术融入电竞场域的能力。③第三方机构应当具备优良的信誉。电竞数据中的重要数据和核心数据不仅关系到各个电竞主体的商业秘密及核心竞争力,还关系到我国电竞运动和电竞产业的国际竞争力。负责数据安全保障的第三方机构往往会直接接触数据本身,防止“监守自盗”、确保安全机构本身的“安全”属性,亦是各方协作乃至电竞行业数据安全不可或缺的一环。
-
4 研究结论与启示
-
深化人工智能技术在电竞运动中的应用,以人工智能的新技术开拓电竞运动的新空间,进一步提升我国电竞产业的科技含量、增强我国电竞项目的国际竞争力,面临的问题之一即如何应对和化解人工智能所带来的风险,特别是其中的数据安全风险。本文在系统梳理各个风险点及现行法律规范的基础上,按照形式或来源的不同,将电竞场域中的数据安全风险划分为数据攻击和数据泄露,前者可以进一步划分为漏洞、投毒和劫持3种攻击类型,后者可以进一步划分为关键个人信息、重要团队信息和电竞行业信息3种泄露内容,进而分别检视各自包含的风险点,以使治理规则的设计有的放矢。与之相对应,电竞人工智能的数据防护规则也可以划分为应对数据攻击和应对数据泄露两个层面。数据攻击层面,应对漏洞攻击需要优先考虑电竞数据的物理安全和存储安全,应对投毒攻击需要优先考虑通过访问控制来限制或禁止对电竞数据集的植入和篡改,应对劫持攻击需要优先考虑通过信息安全监测预警网络和安全技术监测服务体系对程序运行和数据变动进行实时分析;数据泄露层面,则应围绕电竞数据分级保护机制、电竞数据安全治理框架和第三方数据安全服务来构建综合性的数据防护规制,从而将电竞数据的存储和流动锁定在可控的围栏内。需要指出的是,电竞数据安全的风险点和治理规则并不完全是一一对应的关系,应建立综合性、多维度的数据防护规则,将各个风险点纳入其中分阶段、分角度地予以化解。比如,针对AI教练可能面临的漏洞攻击风险,不应仅定期使用漏洞扫描工具进行识别和修复,针对智能裁判可能面临的劫持攻击风险,不应仅通过实时监测工具进行警报、追踪和处置,还应通过国家数据安全标准的适用与执行、各主体间数据安全联动机制的强化与完善,以及第三方数据安全服务的补充与利用等,实现电竞人工智能数据安全风险的全方位治理。
-
参考文献
-
[1] 中国音数协电竞工委.《2024年中国电子竞技产业报告》发布[EB/OL].(2024-12-11)[2025-03-08].https://mp.weixin.qq.com/s/6jYc-8V-RsVZaj-8IWrb4Q.
-
[2] 中国音数协游戏工委.AI赋能,创意无限:欧特克精彩亮相中国游戏年会[EB/OL].(2024-12-17)[2025-03-02].https://mp.weixin.qq.com/s/Yp0oDGcTjWstQtnUJB8rAw.
-
[3] 马治国,张楠.通用人工智能的数据风险及法治应对路径[J].北京工业大学学报(社会科学版),2024,24(5):131.
-
[4] 孙雷亮.基于GPT模型的人工智能数据伪造风险研究[J].信息安全研究,2023,9(6):518.
-
[5] 胡含嫣.访问权限设置错误!微软AI团队38TB数据泄露,涉员工电脑备份和服务密码[EB/OL].(2023-09-19)[2025-03-05].https://www.thepaper.cn/newsDetail_forward_24664048.
-
[6] 任奎,孟泉润,闫守琨,等.人工智能模型数据泄露的攻击与防御研究综述[J].网络与信息安全学报,2021,7(1):3.
-
[7] 落木.代码漏洞暴露用户支付信息ChatGPT安全存隐患:官方致歉[EB/OL].(2023-03-25)[2025-02-20].https://news.mydrivers.com/1/899/899816.htm.
-
[8] 郭美婷.深度丨游戏个人信息频被泄露,玩家成精准“猎物”,平台该负何责?[EB/OL].(2021-07-20)[2025-02-24].https://m.21jingji.com/article/20210720/herald/d7c68104bf3ce9feb36441fd6655bb67.html.
-
[9] 网界网.游戏平台Roblox遭遇重大数据泄露近4000名玩家的个人信息被曝[EB/OL].(2023-07-21)[2025-01-26].http://news.cnw.com.cn/game/20230721/74553.html.
-
[10] 雷速体育.IG官方:旗下选手隐私信息被非法获取后传播,已取证完毕并且将溯源追责[EB/OL].(2025-04-24)[2025-05-02].https://www.163.com/dy/article/JTUKDIE10529DS7F.html.
-
[11] FreeBuf.LOL源代码被盗,暗网100万拍卖[EB/OL].(2023-01-28)[2025-02-06].https://news.qq.com/rain/a/20230128A04HI800.
-
[12] 张凌寒,于琳.从传统治理到敏捷治理:生成式人工智能的治理范式革新[J].电子政务,2023(9):1.
-
[13] 刘辉,雷崎山.生成式人工智能的数据风险及其法律规制[J].重庆邮电大学学报(社会科学版),2024,36(4):49.
-
[14] 刘福元.监管主体与对位罚则:电子竞技场域中假赛惩处的机制建构研究[J].武汉体育学院学报,2021,55(6):48.
-
[15] 张涛.生成式人工智能训练数据集的法律风险与包容审慎规制[J].比较法研究,2024(4):101.
-
[16] 中国电子技术标准化研究院.数据要素流通标准化白皮书(2024版)[EB/OL].(2024-05-24)[2025-03-05].https://www.cesi.cn/202405/10096.html.
-
[17] 数世咨询.中国数字安全产业年度报告(2024)公开版[EB/OL].[2025-03-05].https://www.dwcon.cn/post/3660.
-
摘要
借助人工智能技术的快速发展,电竞运动正逐步向智能化跃升,目前已经实现或即将实现训练、比赛和观赛等环节的多项辅助功能。然而,人工智能在驱动电竞运动发展的同时,也面临着相应的数据安全风险,如智能教练因遭受漏洞攻击而无法制定正确的战术策略和训练方案,智能裁判因遭受劫持攻击而无法收集有效证据并做出正确判罚等。面对这些风险,最为核心的因应之策是通过法律和政策的形式构建数据防护规则,通过存储备份、访问管理、监测预警等应对电竞数据的攻击风险,通过分级保护机制、安全治理框架和第三方安全服务应对电竞数据的泄漏风险,最终借助周严的电竞数据防护体系实现数据安全风险的全方位治理。
Abstract
With the rapid development of artificial intelligence technology, esports is gradually advancing towards intelligence, and has already achieved or is about to achieve multiple auxiliary functions in training, competition and spectatorship. However, while AI is driving the development of esports, it also faces corresponding data security risks, such as intelligent coaches being unable to formulate correct tactical strategies and training plans due to vulnerability attacks, and intelligent referees being unable to collect valid evidence and make correct judgments due to hijacking attacks. In response to these risks, the most core solution is to build data protection rules through laws and policies, and to deal with the attack risks of esports data through storage backup, access management, monitoring and early warning, and to deal with the leakage risks of esports data through a hierarchical protection mechanism, a security governance framework and third-party security services. Ultimately, a comprehensive governance of data security risks is achieved through a strict e-sports data protection system.
Keywords
esports ; artificial intelligence ; data security ; data protection ; rule construction