IT之家注意到,该公司已承诺采用名为 C2PA 的开放标准,该标准会在图片元数据中留下明确标识,标注图片由人工智能生成。 OpenAI 还提前展示了一款图片核验工具,可同时检测上述两种溯源标识,方便用户快速…
在人工智能图像生成技术迅猛发展的当下,辨别图片真伪已成为一项极具挑战的任务。为应对这一难题,OpenAI于近日宣布推出两项创新举措,旨在为AI生成图片建立可靠的溯源机制。
该公司宣布采用内容溯源与真实性联盟(C2PA)制定的开放标准,通过在图片元数据中嵌入明确标识,直接标注图片的AI生成属性。这一技术方案已获得谷歌等科技企业的支持,其多款产品已率先应用该标准。不过由于元数据存在被篡改的风险,该标准在非专业场景下的可靠性仍需提升。
为弥补这一短板,OpenAI同步引入了谷歌研发的SynthID隐形水印技术。这项创新方案通过数字编码方式将水印嵌入图像像素层,即使经过截图、缩放、滤镜处理等常规操作,水印信息仍能完整保留。技术测试显示,即便不法分子试图通过专业软件清除水印,仍会留下可检测的痕迹。
针对两项技术的协同应用,OpenAI同步推出专用核验工具。该工具可同时读取元数据标识和隐形水印,形成双重验证机制。初期版本仅支持验证自家产品生成的图片,后续将逐步扩展至其他平台的AI图像。研发团队强调,双重验证模式使溯源可靠性较单一技术提升数倍,尤其在应对恶意篡改时具有显著优势。
成立于2021年的C2PA联盟,目前汇聚了全球30余家科技企业和研究机构。该组织制定的技术标准虽已形成行业影响力,但尚未实现全面普及。部分专家指出,元数据溯源与隐形水印的结合,标志着AI内容治理从单点防御向系统化防控的转变,这种技术互补模式可能成为未来行业标准的发展方向。
据技术文档披露,SynthID水印的嵌入过程不会影响图像视觉质量,其检测算法可在毫秒级时间内完成验证。OpenAI产品负责人表示,新措施虽无法完全遏制劣质AI作图工具的滥用,但至少能确保自身产品不成为虚假信息的传播渠道,这为行业树立了重要的责任标杆。
(来源:小熊科技)免责声明:本文内容来源于第三方或整理自互联网,本站仅提供展示,不拥有所有权,不代表本站观点立场,也不构成任何其他建议,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容,不承担相关法律责任。如发现本站文章、图片等内容有涉及版权/违法违规或其他不适合的内容, 请及时联系我们进行处理。
