360联合天津智慧城市数字安全研究院发布《全球人工智能安全治理》报告******
2023年1月10日,360天枢智库、天津智慧城市数字安全研究院、网络空间国际治理研究中心三方联合发布《全球人工智能安全治理》报告,报告站在全球视角的宏观高度纵览、分析和解读人工智能安全治理问题,提出人工智能发展面临十大安全挑战,旨在探索既能发挥人工智能技术效益又能控制其安全风险和负面影响的治理之道,是中国学术界和产业界对人工智能发展与安全的一次思想碰撞与深度探索,对人工智能安全治理具有积极指导意义。
在人工智能加速智能化变革的同时,针对人工智能的伦理规范、风险框架、以及治理理念和模式的探索成为各国学术界和政策界的重点工作。360首席安全官、天津智慧城市数字安全研究院院长杜跃进称,人工智能作为中、美、欧等国家或地区都在积极发展的关键新兴技术,其在发展过程中所产生的安全挑战也更为复杂多元,世界主要国家和地区已经将安全治理列为各自人工智能战略的优先事项。
目前,各国普遍关注的人工智能安全问题共十类,包括网络安全问题、企业合规问题、可解释性问题、隐私安全问题、声誉和伦理问题、未来劳动力问题、公平性问题、人身安全问题、社会稳定问题、以及国家安全问题。而以上挑战映射到人工智能的研发和应用过程,又可以划分为人工智能自身安全、衍生安全、以及人工智能赋能安全等核心安全挑战。
报告显示,作为一种数字技术,人工智能“双刃剑”特征明显,不仅自身存在数字安全威胁和隐患,随着人工智能工程化、场景化、平台化落地不断加快,人工智能安全需求已经超越单纯技术范畴。面对日趋复杂的安全挑战,人工智能安全治理难以一蹴而就,只有在实践中不断摸索,才能将人工智能安全风险遏制在可控范围。
报告对各国人工智能安全治理模式进行了深入剖析,针对上述问题,报告主要发现:美国流派在人工智能安全治理上采取的手段是在人工智能技术部署、使用与监测的全过程中都进行验证与监管,建立与之配套的规范体系;欧盟流派则更寄希望于运用监管框架与信任体系来对人工智能的安全进行规制,其规制更倾向于人权方向;相较美国与欧盟,中国流派的人工智能安全治理致力于形成内含研发、管理和应用的全流程安全保障体系,涵盖基础框架研制、基本安全原则、供应链管理实践指南、安全服务能力、应用领域的标准研制等各个方面。
为了避免人类社会发展被技术创新所“反噬”,也就是落入所谓的“科林格里奇困境”,产学研各界以监管和设置可操作性原则为主导,通过治理实践凝聚共识,探索人工智能安全治理的思路与模式。报告详细介绍了业界通用的各类风险治理思路,首先是基于未来风险预防的影响评估模式,其次是基于自主性原则的元监管模式,然后是基于透明追踪的AI系统预警模式。并由此细分出以用户为考虑重点的参与性设计和以政府为主导力量的敏捷治理两条路径。
在中国,360等多家人工智能龙头企业以自身实践构建行业安全案例,走出了技术赋能、行业规制、平台监测的多种道路。其中,360承建了科技部牵头成立的“安全大脑国家新一代人工智能开放创新平台”建设,集中解决各类人工智能发展问题,引领人工智能安全生态建设。
作为报告联合发起方,天津智慧城市数字安全研究院依托于新一代人工智能创新发展试验区核心区——中新天津生态城提供的丰富应用场景,紧紧把握新型城市发展规律和机遇,致力于促进人工智能与经济社会发展深度融合,助力打造“智慧城市国家级标杆区”。
随着数字经济成为改变全球竞争格局的关键力量,人工智能产业将得到更大发展。同时,人工智能安全治理也将得到全世界的关注和推动,《全球人工智能安全治理》报告作为相关领域的权威论著,也将为人工智能产业的健康发展贡献一份重要的力量。
治疗“绿色癌症”,智能细菌来帮忙******
◎实习记者 骆香茹
炎症性肠病虽然致死率较低,但长期以来,也面临着诊断困难和难以根治的问题,被称为“绿色癌症”。
近日,华东理工大学生物工程学院院长叶邦策教授及该院副教授周英团队在《细胞—宿主与微生物》上发表了一项研究成果。该团队开发了一株智能工程菌——i-ROBOT,可实现在体无创实时监测和记录炎症性肠病的发生与发展,并以自调控的给药模式缓解病症。
各色技术上阵诊断“绿色癌症”
炎症性肠病是胃肠道最常见的慢性炎症性疾病,包括克罗恩病和溃疡性结肠炎。腹痛、腹泻、便血等是炎症性肠病主要的症状表现。
当前炎症性肠病的诊断方法在临床上主要有肠镜、电子微胶囊肠镜等。论文通讯作者叶邦策介绍,肠镜检查的好处是直观,可以观察到人体整个肠道的情况。“但肠镜检查是一项有创检查,在操作过程中难免损伤肠道黏膜,造成少量出血,引起被检者的不适感,患者依从性差。”叶邦策补充道,“也有无痛肠镜,但这种方式有一定风险,做这种检查前需要患者进行全身麻醉,对患有心脏病和肺部疾病的人来说,风险较大。”
电子微胶囊肠镜是近年来新兴的检查方式,叶邦策介绍,与传统肠镜相比,其对患者造成的痛苦更小、适应性更强,能检查传统肠镜无法到达的回肠、空肠等。但胶囊在消化道运动的过程中,无法人为控制其运动轨迹,其在消化道等位置会随机翻转,产生视觉盲区,有可能导致错过病变部位、延误病情等情况发生,且电子微胶囊肠镜的检查费用更高,给患者带来的经济压力更大。
智能工程菌是炎症性肠病的新兴诊断方式之一。叶邦策介绍,他们会提前3天将智能工程菌通过口服灌胃的方式送入小鼠体内,等肠炎造模给药结束后通过分析粪便中存在的智能工程菌的荧光信号和基因组DNA突变情况,确定肠道炎症发生、发展程度。
“智能工程菌在诊断灵敏性、便捷性以及成本上都具有无法比拟的优势,但目前仍仅能通过分析粪便样品来评估疾病的有无或严重程度,而难以实施在体原位诊断。”叶邦策表示,“此外,智能工程菌的生物安全性还需进一步加强。”
治疗方法从抗炎药物到智能活菌机器人
为了攻克炎症性肠病,专家们想了不少办法。过去,炎症性肠病的主要治疗方法是使用抗炎药物和免疫调节药物。叶邦策介绍,随着肠道微生物研究的深入,过去十年间,调节肠道微生态、使用智能活菌成为炎症性肠病的研究热点,创新研究不断涌现。
叶邦策团队开发的i-ROBOT是使用大肠杆菌Nissle1917作为底盘细胞进行改造的。叶邦策介绍,i-ROBOT能够感知低浓度的炎症标志物,具有诊断早期肠炎的潜力。同时,i-ROBOT还能记录疾病发生与发展的信息,帮助监测胃肠道健康状态。
当然,i-ROBOT的功能远不止于此。叶邦策表示,i-ROBOT还可以在病灶部位根据疾病的严重程度释放相应浓度的药物,在实现有效治疗的同时,又能避免因过度用药而产生的副作用。
“我们认为智能工程菌是智能活菌机器人的一种。”叶邦策补充道,“智能工程菌具备优异的感知和收集周围环境信息的能力,能够与周围环境进行互动,并能在特定时间和地点采取特定的行动。”
近年来,“粪便也能治病”的冷知识刷新了不少人的认知,通过粪菌移植治疗炎症性肠病也受到越来越多的关注。粪菌移植是将健康人的肠道菌群植入患者肠道,重建肠道微生态系统,以此治疗肠道疾病。粪菌移植成为炎症性肠病治疗的一种新选择。然而,叶邦策提醒道:“尽管有很多阳性的结果支持粪菌移植的可行性,但是目前一些安全性、伦理性问题尚未得到很好地解决,粪菌移植疗法还存在争议。”
发展交叉学科或可破解炎症性肠病诊疗难题
叶邦策介绍,当前,许多研究证明了智能工程菌具有在活体内诊断和治疗疾病的应用潜力,且智能工程菌逐步朝着智能化和临床应用性的方向发展。其中,功能稳定性、临床效力和安全性是决定智能工程菌能否成功应用于临床的关键。
叶邦策表示:“合成生物学为智能工程菌感应疾病标志物的种类及传感性能提供了很好的策略,然而仅仅依靠合成生物学难以解决所有问题。”
叶邦策认为,交叉学科的发展为此提供了新的契机,例如将合成生物学与材料和化学科学相结合,能够增强智能工程菌的定植性、靶向性和可控性,进而实现炎症部位的在体原位成像检测。
此外,智能工程菌的安全性也是限制其临床应用的重要因素,为了应对智能工程菌可能导致的抗性转移、代谢物毒性等问题,研究者们仍在优化技术方案,通过不使用抗性基因作为筛选标记、选择更安全的益生菌作为智能工程菌的底盘、进行细菌毒力因子的敲除、对逃逸细菌进行有效的控制和清除等策略,有针对性地解决相关难题。
谈到智能工程菌的应用前景时,叶邦策表示,从诊断的角度来说,如果智能工程菌能够通过临床试验,运用到炎症性肠病的临床治疗中,将打破传统肠道疾病的诊断模式,部分替代侵入性的肠镜检测,能让受检者在没有任何痛苦的情况下,诊断出其是否罹患炎症性肠病。
(文图:赵筱尘 巫邓炎)