近日，在2024年“网络举报宣传周”期间，成功举办“静安区网络举报宣传小课堂”活动。本次活动特别邀请了合合信息的技术专家，为社区居民带来了一场关于AIGC时代图像篡改欺诈风险防范的科普讲座，旨在提升公众的网络安全意识和防范能力。
随着生成式人工智能技术的快速发展，图像篡改技术也日益高超，给社会带来了诸多潜在风险。据合合信息专家介绍，当前图像领域面临的主要风险包括人脸图像伪造和卡证照篡改。这些篡改手段不仅技术复杂，而且受多种因素影响，使得图像篡改检测工作面临巨大挑战。以身份证检测为例，由于环境光线、塑封包装等多种因素的干扰，机器在识别身份证照片是否存在篡改时面临诸多困难。
为应对上述挑战，合合信息基于数据驱动的神经网络模型，推出了图像篡改检测方案。该方案能够智能提取篡改留下的细微痕迹，可检测出多种篡改形式，适用于金融、保险以及商场小票造假等多个检测场景。该技术具备了基于大规模数据训练的强大特征学习能力，能够有效提高图像篡改检测技术的准确率和泛化能力，帮助群众精准识别伪造图像。
近年来，随着生成式人工智能技术的广泛应用，图像内容安全领域也面临着新的挑战。为此，我国已经相继出台了多项信息安全技术相关法律法规，旨在保护公民的合法权益。同时，由合合信息等公司和多所高校联合编制的《文本图像篡改检测系统技术要求》团体标准也于今年9月正式发布，为行业应对AI合成图像造假等难题提供了有力的指导。
此次“静安区网络举报宣传小课堂”活动的举办，不仅提高了社区居民对图像篡改欺诈风险的警惕意识，也展示了我国在网络安全领域的创新成果和积极作为。未来，合合信息也将继续深耕文档图像反篡改领域，用AI技术帮助广大群众规避诈骗风险，携手社会各界共同打造安全可信的网络环境。
