专题：2024中国AIGC创新发展论坛
2024年服贸会专题论坛之一——“2024中国AIGC创新发展论坛”于9月13日-14日在北京举行。江民科技副总裁唐磊出席并演讲。
唐磊指出，任何新技术的变革都不是一帆风顺的，AI在大规模应用和高速发展中也存在着一些风险和不确定的因素。一是技术的滥用。二是内容的质量问题。三是AI模型的安全问题。
面对这种挑战与机遇并存的局面，江民科技这几年进行了积极的探索，唐磊介绍主要体现在6个方面：一是恶意代码监测和阻止。二是提高安全运营中心的运营效率。三是网络流量异常检测。四是威胁情报和漏洞分析。五是量化风险。六是改善产品交互与用户体验。
以下为演讲实录：
唐磊：今天这个时间点非常好，恰逢中秋佳节即至，我在此先祝各位中秋节快乐，阖家团聚，幸福安康。
在与联通范总的会前交流中，他问起江民是否就是昔日声名显赫的江民杀毒软件。江民从80年代就涉足计算机反病毒领域，1994年发布了国内第一款杀毒软件KV100，到现在已经整整三十年时间。经过数十年的不懈耕耘与技术创新，江民已从最初专注于单一杀毒产品及消费市场的企业，全面进军政企市场，深耕于国防军工、电力能源、交通运输等国家关键基础设施的安全防护之中，成为这些领域不可或缺的守护者。同时，我们还承担了国家各类重大会议与活动的网络安全保障重任，所以在个人市场现在很少听到江民的声音，更多是在背后默默做了一些工作。
回归正题，我今天汇报的题目是“AI+大模型时代下的网络安全挑战与融合实践”。主要有三个方面：一个是AI的发展应用；然后一些风险和机遇，最后是江民这些年在AI大模型和网络安全方面的一点实践。
关于发展和应用。因为在座各位都是AI领域的专家和大咖，这块就快速跳过。
我们把AI的发展历程大体划分为了3个关键阶段，每个阶段都标志着技术上的重大突破和应用领域的扩展。
早期的AI基于预先设定的规则，只能针对简单特定问题。且受限于计算能力和数据量的不足应用范围很窄。进入21世纪第一个十年，随着硬件、算法的快速提升，AI正式有了大规模应用。再进入到数据爆炸的时代，AI迎来了爆发阶段，也就是第三阶段，典型代表就是chatGPT的发布。AI的应用场景和商业化成为最热的话题，仿佛一夜之间，各行各业都在讲AI。从自然语言到多模态，AI技术的发展让数字世界更加多彩，从内容创作、文本、音乐、计算、代码、设计再到智能客服、教育、医疗等多个行业几乎无孔不入，以至于很多人说AI将最大程度解放人类生产力。
可以说，AI正在引领着一场智慧革命。而在这股浪潮之下，网络安全领域也正面临着前所未有的挑战与机遇。AI的智能化与自动化特性在提升生产力的同时，也带来了数据泄露、隐私侵犯、攻击频率增长等新的安全风险。
任何新技术的变革都不是一帆风顺的，AI在大规模应用和高速发展中也存在着一些风险和不确定的因素。
一、技术的滥用。AI换脸一度风靡全球，以假乱真，肉眼难辨。除了图片生成还有视频、音频的高度仿真，有些不法分子利用这些变脸换声技术开展网络诈骗，搞黑产，在江民安全中心监测到的数据显示此类的威胁正在呈快速上升趋势。这些都是真实存在的风险。
二、内容的质量问题。生成式AI在内容创作领域确实带来了效率上的飞跃，它能够快速生成文章、视频、音频等多种形式的内容，极大地节省了人力成本。同样，AI技术的普及使得造谣成本大大降低，不法分子可以轻松生成大量虚假信息，进行批量传播。前段时间，一打开手机各种利用台风、地震这种天灾人祸做噱头制作的假新闻假视频铺天盖地。造谣一张嘴，辟谣跑断腿。这种假新闻大量充斥网络可能会造成社会秩序混乱和监管力量的浪费，也同样给AI带来了负面影响。
第三，AI模型的安全问题。这是一个复杂且多维度的领域，目前AI大模型可以说是百家争鸣，百花齐放。各行各业都在做自己的AI和大模型。但这里面很多底层都是基于各种开源的框架，无可避免地这些代码可能会隐藏了这后门或者漏洞。再有就是，AI大模型在处理和分析大量数据时，若安全措施不到位，可能导致隐私数据的泄露。另外，黑客和攻击者可以利用AI技术批量制作更复杂的恶意软件和攻击武器，来规避安全软件的检测，进行更高级别的渗透和破坏。从这些维度来讲，AI让本就多元化的网络世界安全威胁日益复杂多变。
这是风险。但同时，在网络安全领域，AIGC同样展现出巨大潜力，通过智能分析、预测和响应，为我们防御复杂网络攻击提供了新的思路和方法，我们同样可以利用“AI来治理AI”。
从攻防的视角来看，AI是一把双刃剑。
在攻击方面，AI提升了恶意软件和自动化工具的数量和质量，降低了攻击者的入门门槛，使攻击频率可能大幅攀升。AI一键换脸，虚假新闻等恶意应用让网络诈骗成本和准入门槛降低。
那从安全防御来说，AI技术能够助力我们开发出更加智能、高效的网络安全解决方案，实现从被动防御到主动防御的转变，能提高安全检测的准确率和效率，让安全产品更智能、更聪明，能提供给用户更好的交互体验。对于网络安全厂商来说，我们只有不断提升自身的技术水平、加强创新，跑在攻击者前面，才能在与攻击者的竞赛中占据优势地位，最大限度地发挥AI的正面效应。
面对这种挑战与机遇并存的局面，江民科技这几年进行了积极的探索，从20181年开始尝试把AI和网络安全进行一些融合。
主要体现在6个方面：一是恶意代码监测和阻止。二是提高安全运营中心的运营效率，这是AI的强项，解决了在海量数据中如何快速定位发现真实攻击的难题，而且减少了人员误报和提高响应效率。三是网络流量异常检测。四是威胁情报和漏洞分析。利用自动化的整理和学习分析能力，可以快速从各种维度收集到威胁情报和漏洞信息，并预测黑客的攻击形式、攻击手法，丰富我们应对威胁的方式和能力。五是量化风险。六是改善产品交互与用户体验。
具体到产品层面，威胁检测引擎也叫做杀毒引擎，这是安全行业非常底层也非常核心的技术，尤其现在国际网络空间安全的强对抗，国产自主研发的威胁检测引擎是和国产操作系统一样的“卡脖子”技术。江民科技在过去三十年积累了大量的恶意代码样本和攻防对抗能力集，来进行训练学习，加上在AI算法研究上投入大量精力，经过多次迭代才研发了自主国产的新一代AI智能检测引擎。相对传统引擎可以做到对威胁更快的发现，更精准的查杀，而且在资源占用上可以减少很多，对于未知危险检测效果也更好。目前，这款引擎在几次国内外同行业测试中也名列前茅。针对Windows和Linux全系操作系统和国产化硬件都已经做到兼容。另外，我们还把这项技术开放输出给了头部的安全厂商及合作伙伴，也是希望通过这种生态的方式来推动AI在网络安全领域更多地应用。
在网络层面，我们以专用检测模型为核心，将威胁情报、规则特征库、沙箱虚拟等技术进行整合，能够实时监测网络流量中存在的（已知、未知）网络威胁，精准预判网络威胁攻击，并进行自动化处理。或是拦截或是告警。
我们都知道，海量告警是IT运维中的一个难题。不仅增加了运维团队的负担，还可能掩盖真正重要的紧急问题。我们的大模型通过聚合分析、模式识别和预测能够做到从海量的告警中消除97%以上的误报，快速锁定真实的攻击，并对威胁进行定级，来触发相应的自动化处理。整个处理效率得到极大提升。
最后通过一个完整的方案来展现一下我们在AI+安全融合方面的能力。基于江民在恶意代码防御、攻防对抗及威胁情报领域深耕30年的核心能力，结合先进的AI模型，我们构建了坚实的技术底座。并把这种能力赋能给我们终端侧、网络侧的产品，再通过深度融合平台侧的AI大数据分析能力，打造了“云网端”一体化的综合解决方案——我们叫赤豹XDR智脑。这个方案能够帮助用户做到精准快速的风险预测，阻断攻击和定位溯源，为用户提供全方位、智能化的安全防护。同时赤豹XDR方案也已经在我们国家关键基础设施有了大规模的应用，比如国防军工，我们已经服务了超过14年，非常长的一个时间；在电力行业，赤豹XDR为超过千家的发电厂和变电站提供了有效的安全防御；在交通行业，北京地铁二十多条线路，我们每天刷卡的闸机、调度中心都是江民在提供安全防护，服务也已经超过十年时间。包括和范总的联通、电信这些运营商也都有一些非常深的合作。
最后，无论是任何新技术的应用，回归到安全本质，我们都是要服务于业务，服务于用户。我们也希望通过对新技术的应用和探索，来帮助用户做到让安全更简单更智能，帮助用户降本增效。未来江民科技也会继续在AI和网络安全领域去进行更多的探索，也希望和在座的专家、学者有更多地开展交流与合作的机会。
新浪声明：所有会议实录均为现场速记整理，未经演讲者审阅，新浪网登载此文出于传递更多信息之目的，并不意味着赞同其观点或证实其描述。
还没有评论，来说两句吧...