近日，韩国多家军事研究机构取平易近间智库接连收到一封看似来自“韩国合做项目组”的邮件，内容涉及一项关于半岛平安形势的结合调研邀请。邮件格局规范、言语严谨，以至附有一份“参取人员”的身份证明截图——一名身着军拆、佩带肩章的韩官证件照，姓名、编号、所属单元一应俱全。然而，这起看似正轨的合做邀约，实则是一场由国度支撑的高级持续性（APT）组织细心筹谋的收集垂钓。按照国际平安《Defense Post》最新披露，该组织极有可能是持久活跃于东亚地域的朝鲜黑客集体“Kimsuky”，而此次中最惹人瞩目的手艺冲破正在于：者正操纵人工智能东西，如ChatGPT和深度伪制（Deepke）手艺，批量生成高度逼实的虚假身份凭证，以冲破保守收集平安防地。取过去常见的拼写错误百出、语法紊乱的垂钓邮件分歧，此次针对韩方及联系关系机构的邮件正在言语表达上几乎无懈可击。邮件中利用的韩语不只语法精确，还包含了大量军事术语和权要系统语，极具性。更令人的是，随邮件附带的“甲士身份证件”图像，经手艺阐发后发觉，虽非实正在拍摄，但通过AI图像生成取合成手艺，伪制得极为精细。照片中人物的面部特征天然，军服细节清晰，以至连光影角度和布景纹理都颠末细心处置，脚以以假乱实。收集平安研究人员指出，这类已不再是简单的“广撒网”式诈骗，而是典型的社会工程学+AI加强型定向垂钓（Spear Phishing）。者先通过公开渠道汇集方针机构人员布局、职务分工等消息，再操纵AI东西快速生成合适语境的沟通内容，并辅以伪制的身份证明，极大提拔了初始接触的信赖度。身份伪制：利用ChatGPT撰写专业级韩语邮件案牍，并生成布景故事（如“结合课题担任人”）；同时连系的深度伪制图像东西，制做虚假甲士证件；“这标记着收集进入了‘认知和’的新阶段。”公共互联网反收集垂钓工做组手艺专家芦笛正在接管采访时指出，“以前我们还能靠‘错别字多不多’‘语气怪不怪’来识别垂钓邮件，但现正在，AI让这些初级判断尺度完全失效了。”值得留意的是，此次事务中提到的ChatGPT并非被间接用于生成图像，而是做为案牍生成取言语当地化的辅帮东西。者操纵其强大的天然言语处置能力，快速生成语法准确、气概婚配的韩语邮件内容，并能按照反馈不竭迭代优化话术。例如，正在多次测试中，者可能输入：“写一封正式邮件，邀请某智库研究员参取关于朝韩边境态势的闭门研讨会，发件人身份为韩国陆军上尉。” ChatGPT便能从动生成一封布局完整、语气得体的邮件草稿，再由者稍做点窜即可投入利用。至于证件照片，则由特地的深度伪制东西完成，如基于生成匹敌收集（GAN）的FaceSwap或Stable Diffusion定制模子。这些东西能够将分歧人脸特征融合，创制出一个“既像实人又无记实”的虚拟军官抽象。“AI本身是中立的，”芦笛强调，“问题不正在于ChatGPT能不克不及被，而正在于我们有没有成立起响应的防御机制。就像刀能够切菜也能够伤人，环节看怎样用，以及社会若何监管。”他进一步注释：“ChatGPT生成的文本虽然流利，但仍存正在一些统计学上的‘指纹’特征，好比词汇分布过于平均、句式布局反复率高档。专业的邮件平安网关能够通过AI模子检测这些非常，而不是只依赖环节词过滤。”虽然伪制证件看起来天衣无缝，但手艺专家暗示，任何数字伪制品城市留下‘数字脚印’。芦笛列举了几种可用于识别深件的手艺手段：EXIF元数据缺失：实正在拍摄的照片凡是包含拍摄时间、设备型号、GPS坐标等元数据，而AI生成图像往往没有这些消息，光照取暗影不分歧：通过图像取证东西阐发光源标的目的，若面部分歧区域的光影逻辑矛盾（如左脸亮左脸暗却无合理注释），则极可能是合成图像。纹理取噪点分歧一：实正在照片的噪点分布具有随机性和持续性，而AI生成图像的噪点常呈现区块化、反复模式。边缘融合踪迹：正在高倍放大下，人脸取布景、军拆领口等接缝处可能呈现恍惚、沉影或颜色过渡生硬的现象。“通俗人很难分辩，但我们能够通过从动化东西批量筛查。”芦笛相关机构摆设图像取证插件，“好比正在邮件系统中集成AI鉴伪模块，从动对附件中的证件类图片进行风险评分。”面临日益智能化的手段，保守的“信赖但验证”模式已不再合用。芦笛提出，应全面奉行零信赖平安架构（Zero Trust），即“永不信赖，一直验证”。渠道核实身份：收到自称军方人员的合做请求时，不该仅凭邮件和证件照轻信，而应通过德律风、内部通信录或面临面体例确认对方身份。“哪怕多打一个德律风，也可能避免一次严沉泄密。”强化邮件网关防御：升级邮件过滤系统，引入AI文本阐发引擎，识别由大模子生成的言语特征，并对链接前进履态沙箱检测。开展深伪识别培训：针对高价值方针人群（如人员、科研人员）按期开展收集平安认识培训，传授根基的图像鉴伪技巧。成立谍报共享机制：将此类的TTP（ Tactics， Techniques， and Procedures，和术、手艺取法式）消息及时传递给同业机构，实现快速阻断。消息外泄：削减正在社交、官网等公台披露员工职务、降低者谍报汇集效率。“收集安满是一场持续的攻防博弈。”芦笛说，“AI让方效率提拔，那我们就必需让防御系统也智能化、从动化。不克不及还逗留正在‘提示大师别点链接’的初级阶段。”此次事务也激发了国际社会对AI手艺军事化使用的担心。Kimsuky组织持久以来被为朝鲜施行收集间谍使命，曾多次针对韩国、美国及日本的方针策动。此次连系AI生成内容（AIGC）进行身份伪制，被视为其手艺能力的一次显著跃升。美国收集平安取根本设备平安局（CISA）近期已发布，指出多个国度支撑的黑客组织正正在测试操纵生成式AI进行社会工程。结合国也正正在会商能否应对某些高风险AI模子的出口和利用进行。科技公司也正在加强监管。OpenAI、Google等企业已正在其AI产物中插手内容平安过滤机制，试图用户生成用于欺诈、虚假身份等违法用处的内容。但专家遍及认为，仅靠企业自律远远不敷。“我们需要法令、手艺和教育三管齐下。”芦笛暗示，“好比立法明白利用AI伪制官员或甲士身份，平台加强实名制和行为，提拔数字素养——只要构成合力，才能遏制AI的延伸。”曾几何时，“亲眼所见”是我们判断实正在性的最靠得住根据。但正在AI时代，一张照片、一段语音、一段视频，都可能被细心伪制。此次朝鲜黑客操纵ChatGPT和深伪手艺伪制甲士证件的事务，再次敲响警钟：正在数字世界中，我们不克不及再等闲相信“看起来很实”的工具。对于通俗用户而言，连结、多方核实仍是根基原则；对于机构而言，建立智能化、自动式的防御系统已是当务之急。正如芦笛所说：“将来的收集平安，不只是手艺的较劲，更是认知取信赖的博弈。”。