近日，由中国计算机学会计算机视觉专委会主办，合合信息承办，中国运筹学会数学与智能分会协办的《打造大模型时代的可信AI》论坛顺利举行。论坛特邀来自上海交通大学、电子技术标准化研究院、中国科学技术大学、中科院、合合信息等机构与企业的专家们，从立法、监管、前沿研究、技术实践等多个维度分享AI安全领域的最新进展，助力AI向善发展。
（嘉宾合影）随着AI技术的飞速发展，特别是以ChatGPT为代表的大语言模型技术的广泛应用，数据安全、知识产权、算法偏见和有害内容生成等问题日益凸显，引发了社会的广泛关注。在此背景下，全国网络安全标准化技术委员会于今年9月发布了《人工智能安全治理框架》，明确指出AI技术面临的内生和外部风险。
论坛上，上海交通大学人工智能研究院教授、总工程师金耀辉围绕大模型训练过程，提出了“训练对齐、提示引导和文本过滤”三大安全保障手段，将抽象的安全概念落实到具体的技术研发流程中。同时，中国电子标准院网安中心测评实验室副主任、CCIA数安委常务副主任何延哲也对人工智能安全检测评估的逻辑和要点进行了深入剖析，提出了包含算力网络安全、数据安全、个人信息保护等在内的综合评估框架。
（合合信息图像算法研发总监郭丰俊）在技术实践方面，合合信息作为本次论坛的承办方，展示了其在AI视觉安全领域的最新成果。合合信息图像算法研发总监郭丰俊表示，公司技术团队基于数据驱动的神经网络模型，推出了行业领先水平的图像篡改检测方案，可提取篡改留下的细微痕迹，检测出多种篡改形式。这一技术不仅有助于提升图像的真实性验证能力，也为打击数字内容伪造提供了有力工具。
此外，中国科学技术大学教授谢洪涛和中国科学院自动化研究所研究员赫然博士也分别从深度伪造视频的治理方案和生成式人工智能安全与治理的角度进行了分享。他们指出，随着AI鉴别与合成技术的相互博弈，深度合成技术的深入研究为鉴别提供了线索，形成了多模态多线索的鉴伪方法。
本次论坛是产学研联合探索AI安全治理的一次有效尝试。面对AI的潜在风险，加强行业内部自律，从源头做好安全措施是守护AI健康成长的第一道防线。合合信息将持续深耕AI视觉安全领域，积极推动行业合作与交流，为打造大模型时代的可信AI贡献力量。
“掌”握科技鲜闻 （微信搜索techsina或扫描左侧二维码关注）
