龚克：人工智能应用于韧性治理，要依法和适度******
中新网北京12月11日电 “人工智能(AI)应用于韧性治理要依法和适度，要贯彻AI伦理原则，坚持以人为目的，以目的为中心，而不是以工具为中心，避免技术异化。”
2022人工智能合作与治理国际论坛12月9日开幕。在其中的主题论坛“人工智能引领韧性治理与未来科技”中，世界工程组织联合会前主席、中国新一代人工智能发展战略研究院执行院长龚克这样指出。
2022人工智能合作与治理国际论坛由清华大学主办、清华大学人工智能国际治理研究院(I-AIIG)承办，中国新闻网作为战略合作伙伴，联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。
世界工程组织联合会前主席、中国新一代人工智能发展战略研究院执行院长龚克，在2022人工智能合作与治理国际论坛主题论坛“人工智能引领韧性治理与未来科技”中发言。主办方供图龚克认为，当前，韧性已成为可持续发展中的重要要求和愿景。“进入21世纪以来，韧性理论从生态学、工程学、心理学领域逐步延展到城市治理领域。”
在他看来，韧性发展现在已经成为重要的发展思路。“它正视困难、风险、冲击、变化，以适应力、恢复力应对之，使系统损失减少到可承受、使运行不失稳、发展不逆转。”
龚克举例指出，韧性的基础设施是韧性城市的基础，AI在提高基础设施韧性方面可以发挥积极的作用。“比如AI可以快速、精准地帮助发现地下送水管网的泄露，以实施快速修复。又比如，AI可以及时、准确预测城市用水需求，帮助实现适时适量的供水。再如，AI可以及早、准确地预报特定灾害，帮助实现预防和减损。”
“这些例子告诉我们，AI助力韧性发展的作用是无可置疑的，数据是AI发挥作用的重要基础，数据的及时、准确、全面对于AI助力韧性发展至关重要。”龚克坦言，因此，物联网的发展、多源数据的融合、数据的无偏化处理等等，特别是相关知识与数据的结合，以及降低算法对于数据规模、质量的依赖性，成为AI助力韧性发展的技术趋势。
龚克表示，“就技术赋能而言，人工智能与韧性治理的关系，包括人工智能作为治理工具和人工智能作为治理对象两方面。我认为，两者统一于人工智能在韧性治理中负责任地、符合伦理地、依法和适度地应用。”
他指出，如果AI要赋能韧性治理，就需要自身增能，增强透明度、可解释性、可靠性、鲁棒性，自身要能抗干扰、抗攻击等，让其自身成为有韧性的AI。“如果AI自身很脆弱，容易被攻击、受干扰，它非但不能助力韧性治理，还会起到相反的作用。”
同时，龚克强调，AI在用于韧性治理上，要做到依法和适度。
“就技术赋权来讲，特别强调赋权必须是依法的，要防止技术异化为权力。”他认为，AI系统作为治理工具时应能针对具体应用主体和场景，识别法律赋予的权力边界，并在任何情况下，保证包容、公平、无歧视，保证不伤害，保证人类的监督和决定权。(完)
【网络强国这十年】从换道超车到国民引擎！安天科技潘宣辰：“很自豪让技术融入产业”****** 【网络强国这十年——行业回顾篇】 随着移动互联网快速发展和全面覆盖，移动安全威胁发生重大迁移：一方面，不良应用行为、欺诈诱导营销、用户欺瞒及隐私窃取等侵害用户权益的风险应用出现新一轮扩张；另一方面，移动互联网野蛮生长导致生态出现无序竞争局面，风险应用依附于移动互联网业务，正通过更加多样化的方式侵害用户权益，成为用户安全及权益新痛点，给整个产业的治理带来新的难题。 在我国移动安全行业发展版图上，安天移动安全通过将反病毒技术领先优势融入互联网产业，用“关口前移”的方式为超过30亿终端用户织密了移动应用风险防护网，也为主管部门提供了“良赢治理”方案和感知处置能力。 近日，安天科技集团执行总裁、武汉市网络安全协会会长潘宣辰，做客光明网“网络强国这十年”专栏，畅谈投身移动安全创业故事及行业发展的观察与思考。
投身移动安全创业，选择站在同一起跑线上的新赛道 2005年前后，85后青年潘宣辰还在武汉大学信息安全专业就读，这是国内第一个信息安全本科专业。在一次演讲授课上，潘宣辰结识了当时在武汉大学做兼职教授的网安前辈安天创始人肖新光（Seak）。 当时，我国在PC安全时代的核心技术还处于一个追赶的姿态。Seak给学生时代的潘宣辰渲染了一副宏大的国家安全及民族软件创新产业格局，并提出希望能找到一个新的技术领域或在一个新的操作系统平台上，可以由国内相关的研发团队自主去实现基础核心技术的突破和创新。 这个目标打动了潘宣辰。毕业后，在安天的支持下，他选择了移动安全方向创业发展。潘宣辰认为，PC时代几乎所有的技术，包括产品和商业模式在引入到移动场景后，都得到了进一步的叠加演进。结合移动特有的产业及生态结构，在移动安全方向上，必然会形成不一样的产业及生态安全需求，也同样会产生新的技术定义以及商业模式。 “得益于移动互联网的蓬勃发展，我们在这个全新的领域，和国内其他优秀厂商以及海外厂商相比，站在一个起跑线上，而且相比之下，安天以往在PC端积累的技术视野，在全新的领域进行技术架构和商业模式创新时，没有太多的历史包袱，又具有科班出身的发展优势。”潘宣辰说。 自主研发反病毒引擎，打破欧美安全厂商十余年独大 2010年以前，PC时代国内比较领先的安全厂商在海外的排行榜上并不是很靠前，最高排名第8位，多数徘徊在第10名左右。有了这个先例，潘宣辰和团队最开始设定目标是移动安全领域能够进入到世界前8位。 当时，团队初期的技术实力在移动领域优势并不明显。潘宣辰坦言，像海外的卡巴斯基、比特梵德，以及国内的瑞星、金山、360、腾讯等，其实都已经关注到，移动安全必然是未来一大趋势，当时大家都在积极投入技术研发。 深蹲之后，才能更好的起跳。最初，由于技术理念上有较大的差异，团队的优势并不明显。在和国内外厂商交流之后，才发现这是技术理念上的差异造成的。 比如，友商更多的是直接把PC时代的经验快速复制到移动时代，而安天是以本地检测算法引擎以及基于机器学习的专家智能分析工程平台运营体系为主，所以“工程化”传统较重，成果的形成需要较长时间的积累。 2013年前后，安天的优势开始凸显。当时，国际知名安全软件评测机构AV-Test的移动安全首次测评中，安天AVL移动反病毒引擎的检出率指标平均领先行业水平10%以上。这是国内安全厂商第一次在世界范围的反病毒领域呈现出技术压倒性优势，也就在那年，安天移动安全打破了欧美厂商的垄断，以100%的检出率成为首个获得AV-Test“移动年度最佳奖项”的亚洲厂商。 技术的真正价值，需要用市场和产业的方式来“回答” 在2014年取得核心技术突破的时候，他们也有卖掉团队的机会。潘宣辰和团队在“财务诱惑”和“产业挑战”之间，选择了后者。 潘宣辰认为，技术本身并没有常胜将军，也并不见得会永远占据优势。“这项技术到底是不是真的有价值，最终还需要用市场和产业的方式来回答。如果不去真正进入市场、进入产业的话，我自己觉得会特别后悔。因为这样就等于止步于技术了。”潘宣辰说。 安天移动安全在2015年开始探索商业化路径，选择了关口前移的产业融入线路。即通过选择与手机厂商广泛合作，通过操作系统级的嵌入式来进行技术落地，并且在这个基础上去构建新的商业模式。从2015年至今，安天威胁检测引擎为全球超过三十亿部智能终端设备提供了操作系统内置的安全检测能力。 “在移动安全的核心技术领域上，我们目前仍然保持着世界前列的水准。在检测这个技术点上，我们应该一直是第一第二的位置。”潘宣辰说。 监制：张宁 采访：李政葳 拍摄/后期：刘昊 李飞 配音：雷渺鑫 聚赢彩票地图 |
