首页 > 专栏

【专栏】企业数据合规(二):算法推荐

肖飒 · 零壹财经 2022-03-02 14:26:17 阅读:6190

关键词:人工智能企业数据合规大数据杀熟算法推荐算法推荐治理

作者:肖飒法律团队    来源:肖飒lawyer   人工智能时代的到来使现代科技产生了颠覆式的变革与发展,大数据(Big Data)、机器学习( Machine Learning) 、人工智能( Artificial Intelligence) 、数据挖掘(Data M...

作者:肖飒法律团队    来源:肖飒lawyer  

人工智能时代的到来使现代科技产生了颠覆式的变革与发展,大数据(Big Data)、机器学习( Machine Learning) 、人工智能( Artificial Intelligence) 、数据挖掘(Data Mining)等新技术在社会治理中的各式应用,构成了我们当今时代独特的风景。这些技术以人工智能为主线,串起了一张完整的技术网络,大量的数据流与日益提升的算法分析和技术能力相结合,使人们能够利用各式各样的算法来进行自动化决策,用机器来代替人脑解决复杂的问题。
 
这种算法决策当前已经在世界范围内的招聘、治安监管、教育教学、金融信贷、刑事司法、股票交易、信息推送等领域得到广泛运用。诚然,算法让我们的生活变得更加便捷,但是算法代替人类决策的背后也隐藏着风险和危机,如算法歧视、算法黑箱、算法滥用等问题已经逐渐进入人们的视野。在人工智能时代,算法治理已经变得越来越具有现实紧迫性,各国、各地区都在结合自己的社会实践尝试对算法进行立法规制。
 
在算法治理方面,我国走在世界前列。2021年末,国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局等四部委联合发布了《互联网信息服务算法推荐管理规定》(以下简称《算法规定》),该规定已于2022年3月1日正式实施。那么,《算法规定》在尝试解决算法治理中的什么问题?对企业合规有哪些值得注意的影响?今天飒姐团队就来跟大家聊一聊企业的算法合规。

一、何谓算法与算法治理?

所谓算法( Algorithm) 指的是解题方案的准确而完整的描述,是一系列解决问题的清晰指令,算法代表着用系统的方法描述解决问题的策略机制。单纯的对“算法”进行解释相信对大部分人而言都是难以理解的,但事实上,前文提到的“机器学习”和“深度学习”都是算法的实际应用,简单来说就是使用算法来解析数据、从中学习,然后对真实世界中的事件作出决策和预测,我们将这一整以数据为基础,以算法为核心的决策设备称之为“人工智能”。

因此,数据和算法是实现人工智能最关键的两个要素,对于当今的互联网企业,谁掌握了更多的数据和更加优秀和先进的算法,谁就掌握了市场和未来。由于数据是客观存在的,而算法是人为设计的,所以人工智能的革命最终还是算法革命,“算法即权力”的命题也由此开始引人关注。
 
既然算法有可能使掌握它的人获得某种巨大的力量,且有可能对社会造成损害,那我们就有理由对算法的实际应用和发展进行观察和治理,毕竟,不受控制的力量就是一种灾难。在算法治理中,最为关键的就是解决三个问题:(1)算法公平;(2)算法透明;(3)数据确权。这三个问题事实上都是互相关联和影响的,但限于篇幅,我们今天暂且不谈数据确权问题,而将目光集中于算法公平和算法透明。
 
我们应用人工智能进行自动化决策的原因之一,就在于我们对自己的不信任。人心在左,我们只要拥有正常的情感和情绪,就难以每时每刻对事情做出足够理性客观地判断,此时不如将决策权交给更理性、更少主观情感的人工智能。但是,基于算法作出决策的人工智能也并非如我们理想中的客观中立,原因就在于,数据虽然是客观的,但算法却是人来设计的,算法设计者的主观意识会通过算法渗透进人工智能的决策中,从而产生极其隐蔽的算法歧视。
 
算法透明则是由于算法和数据的复杂性和数字技术人员与公众之间的认知不对称,人们很难挑战算法的处理技术和它们所做出的决策。有时候,即使是专业的算法设计专家或算法设计者自身想要解释算法的内在逻辑,也只能停留在数学表达和数理逻辑层面,很难解释算法在不同场景中的具体决策过程和结果。换言之,设计者本人也可能不知道人工智能算法是如何进行决策,这就是人工智能的“黑箱”问题。要解决该问题,就要使算法足够透明,但算法是企业的核心竞争力,国内外的互联网大厂们无不将他们的算法作为最高机密。
 
解决算法歧视和算法透明度问题是一个世界性难题,目前尚未有成熟的先例可供我们参考,但我们又不能对其放任不管。失控系统理论设想了一种极端情形:人类彻底将决策交给无法理解也无法控制的人工智能和算法进行自动化决策,那人将会丧失作为人类的存在价值和基本尊严,产生严重的后果,《黑客帝国》等影视作品就是对失控系统的艺术具现。因此,对算法进行法律治理真正是摸着石头过河,要从本没有路的地方走出一条路来。

二、企业合规要点

《算法规定》中主要规制的算法推荐技术,是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。据此,该规章规制的主体就是上述技术向用户提供信息的自然人、法人及其他社会组织。该规章着眼于解决互联网算法推荐的相关问题,属于针对性的算法推荐管理规定。制定《算法规定》的目的在于明确算法推荐服务提供者的主体责任,促进算法推荐服务规范发展。

客观来看《算法规定》是我国通过法律来解决算法歧视、算法透明、诱导沉迷等算法领域的关键性问题的积极尝试。可以说,这是一部关乎各大互联网公司核心技术应用与经营模式制定的关键性规章,对于企业的合规建设具有重要意义。
 
从法律层级上看,《算法规定》属于我国数据法三驾马车《网络安全法》、《数据安全法》、《个人信息保护法》和国务院制定的《关于加强互联网信息服务算法综合治理的指导意见》等行政法规的下位法,其由国家互联网信息办公室等四部委制定并发布,属于部门规范性文件。

01 主管部门

根据《算法规定》的要求,国家网信部门负责统筹协调全国算法推荐服务治理和相关监督管理工作。国务院电信、公安、市场监管等有关部门依据各自职责负责算法推荐服务监督管理工作。地方网信部门负责统筹协调本行政区域内的算法推荐服务治理和相关监督管理工作。地方电信、公安、市场监管等有关部门依据各自职责负责本行政区域内的算法推荐服务监督管理工作。

因此,目前算法推荐主管部门应当是国家互联网信息办公室及其下设的部门,同时,工业和信息化部、公安部和国家市场监督管理局及其下属部门在各自职权范围内对算法推荐服务进行管理。
 
02 算法推荐服务提供者的主要义务

《算法规定》对算法推荐服务提供者提出的要求主要集中在两个方面:(1)信息服务规范;(2)用户权益保障。信息服务规范主要是为了解决算法推荐服务提供者向用户推荐何种信息,如何推荐信息等问题,而用户权益保障则主要是区分不同类型消费者,对其进行特别保护的规定。《算法规定》对于算法推荐服务提供者提供信息推荐的方方面面都提出了更为细致和严格的要求。
 
1. 信息服务规范方面
 
算法推荐服务提供者承担算法安全主体责任。根据《算法规定》第七条,算法推荐服务提供者应当建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等管理制度和技术措施,制定并公开算法推荐服务相关规则,配备与算法推荐服务规模相适应的专业人员和技术支撑。
 
算法推荐服务提供者具有信息安全管理义务。《算法规定》第九条要求算法推荐服务提供者加强信息安全管理,建立健全用于识别违法和不良信息的特征库,完善入库标准、规则和程序。

算法推荐服务提供者对于三种特定信息需分类做出处理:(1)未作显著标识的算法生成合成信息的,应当做出显著标识后,才可继续传输;(2)违法信息应当立即停止传输,采取消除等处置措施,防止信息扩散,保存有关记录,并向网信部门和有关部门报告。(3)发现不良信息的,应当按照网络信息内容生态治理有关规定予以处置。
 
算法推荐服务提供者具有合理利用算法推荐的义务。对于当前盛行的各种“买热搜”“买水军”等问题,《算法规定》对第十四条规定:算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号或者虚假点赞、评论、转发,不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现,实施影响网络舆论或者规避监督管理行为。
 
算法推荐服务提供者具有定期审核、评估、验证算法的义务。《算法规定》第八条禁止算法推荐服务提供者设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。另外,在解决算法透明度方面,《算法规定》要鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略,并优化检索、排序、选择、推送、展示等规则的透明度和可解释性,避免对用户产生不良影响,预防和减少争议纠纷。
 
2. 用户权益保障方面
 
用户享有算法推荐服务知情权。《算法规定》第十六条赋予用户了解算法推荐服务情况的权利。算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况,并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。
 
用户享有选择个性化标签、删除标签和关闭推荐的权利。相信各位伙伴都在微博和微信上看到过各种各样的广告和推广信息,大部分大厂都已经为用户提供了选择用户标签和删除标签的选择,但同时也会告知用户,仅能删除标签而不能关闭推荐,该做法即将成为历史,各大厂必须在此处进行整改。《算法规定》第十七条要求算法推荐服务提供者向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能,或向用户提供不针对其个人特征的选项,并向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的,算法推荐服务提供者应当立即停止提供相关服务。
 
另外,在解决算法歧视方面,《算法规定》也给出了一定的解决办法,通过区分用户类型进行特殊化保护。例如在针对未成年人方面严控推荐内容并进行反诱导沉迷程序,在针对老年人方面则设计反诈骗等程序,禁止利用算法不当劳务用工,禁止“大数据杀熟”。这几个方面也需要企业额外关注,并尽快进行合规整改。
 
03  行政审批与证照许可

关于证照、行政审批和许可方面,《算法规定》针对提供互联网新闻信息服务和具有舆论属性或者社会动员能力的算法推荐服务提供者作出了严格要求。
 
对于提供互联网新闻信息服务的算法推荐服务提供者,依据《算法规定》第十三条,应当依法取得互联网新闻信息服务许可。在提供互联网新闻信息时应当规范开展互联网新闻信息采编发布服务、转载服务和传播平台服务,不得生成合成虚假新闻信息,不得传播非国家规定范围内的单位发布的新闻信息。
 
具有舆论属性或者社会动员能力的算法推荐服务提供者,依据《算法规定》第二十四条,应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息,履行备案手续。2022年3月1日起,互联网信息服务算法备案系统正式上线运行,官方网址为https://beian.cac.gov.cn。

如果算法推荐服务提供者的备案信息发生变更,则应当在变更之日起十个工作日内办理变更手续。算法推荐服务提供者终止服务的,应当在终止服务之日起二十个工作日内办理注销备案手续,并做出妥善安排。
 
国家和省、自治区、直辖市网信部门收到备案人提交的备案材料后,材料齐全的,应当在三十个工作日内予以备案,发放备案编号并进行公示,而完成备案的算法推荐服务提供者应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接。
 
写在最后

《算法规定》是我国算法法律治理领域的探路者,在解决算法透明度、算法歧视和算法滥用方面我们都能看到有益的探索和积极的努力。

对于企业来说,《算法规定》提出了一系列高要求和高标准,甚至可能会深刻地改变企业一直以来的经营模式,目前,据飒姐团队观察,在反诱导沉迷、引导热搜、大数据杀熟和关闭推荐方面是企业合规整改的关键要点,各位伙伴们务必合规经营,谨防各类法律风险。
 

零壹智库推出“金融毛细血管系列策划”,通过系列文章、系列视频、系列报告、系列研讨会和专著,系统呈现“金融毛细血管”的新状态、新功能、新价值、新定位。
 

相关文章


用户评论

游客

自律公约

所有评论


资讯排行

  • 48h
  • 7天


专题推荐

more

第四届中国零售金融发展峰会(共15篇)

《陆家嘴》交流会第6期(共14篇)

2022第一届中国数字科技投融资峰会(共43篇)

2019年数字信用与风控年会(共15篇)



耗时 158ms