文檔圖像是信息的重要載體，卻經(jīng)常被不法分子利用軟件、算法進行篡改。這些虛假材料往往被用于散播謠言、經(jīng)濟詐騙、編造虛假新聞，給個人、社會造成了惡劣的影響。AIGC全球爆火后，人們對“生成式造假”風(fēng)險的攀升倍感憂慮，圖像內(nèi)容的安全與可信性也成為了公眾關(guān)注的焦點。

　　為貫徹落實《中華人民共和國網(wǎng)絡(luò)安全法》《生成式人工智能服務(wù)管理》等文件中對于AI服務(wù)的規(guī)范性要求，系統(tǒng)性建立圖像內(nèi)容安全行業(yè)發(fā)展秩序，中國信息通信研究院（以下簡稱“中國信通院”）啟動了《文檔圖像篡改檢測標(biāo)準(zhǔn)》制定工作。該項標(biāo)準(zhǔn)由中國信通院牽頭，上海合合信息科技股份有限公司、中國圖象圖形學(xué)學(xué)會、中國科學(xué)技術(shù)大學(xué)等科技創(chuàng)新企業(yè)及知名學(xué)術(shù)機構(gòu)聯(lián)合編制。

　　《文檔圖像篡改檢測標(biāo)準(zhǔn)》將為文檔圖像內(nèi)容安全提供可靠保障，助力新時代AI安全體系建設(shè)。作為牽頭方，中國信通院表示，《文檔圖像篡改檢測標(biāo)準(zhǔn)》將基于產(chǎn)業(yè)現(xiàn)狀，圍繞“細(xì)粒度”視覺差異偽造圖像鑒別、生成式圖像判別、文檔圖像完整性保護等行業(yè)焦點議題，凝聚行業(yè)共識，以期為行業(yè)提供有效指引。

　　圖像篡改風(fēng)險近在咫尺，標(biāo)準(zhǔn)出臺迫在眉睫

　　隨著技術(shù)的發(fā)展和電子設(shè)備普及率的提升，人們修改圖像的門檻變得越來越低，以往圖像內(nèi)容加工需要使用專業(yè)的軟件，現(xiàn)在通過某些平臺或者軟件，動動手指即可產(chǎn)出一張?zhí)摷賵D片，數(shù)字圖像的原始性和真實性面臨嚴(yán)峻挑戰(zhàn)。

　　此前，圖像篡改檢測的技術(shù)研究對象主要集中于自然場景圖像。然而，真正為人們的生活帶來風(fēng)險的通常是被篡改的資質(zhì)證書、文檔、聊天截圖等。傳統(tǒng)的檢測系統(tǒng)往往難以對這些文檔圖像進行篡改判定及修改內(nèi)容定位，主要原因如下：

　　一方面，真實場景中的篡改方法多樣、篡改視覺痕跡細(xì)微，對篡改檢測方案提出了挑戰(zhàn)；文檔版面的復(fù)雜化、文本內(nèi)容的多樣化亦成為圖像內(nèi)容檢測識別過程中的“攔路虎”，加大了篡改檢測實施的難度。

　　此外，傳統(tǒng)的圖像篡改檢測方法在面對全局性的裁剪、調(diào)色處理以及組合式造假手法時，其檢測覆蓋面、精準(zhǔn)度、安全性尚存在提升空間，需要政府、研究機構(gòu)、企業(yè)等多方主體聯(lián)合起來，通過建立技術(shù)規(guī)范標(biāo)準(zhǔn)，助力AI視覺圖像產(chǎn)業(yè)健康成長。

　　圖像內(nèi)容安全成為“可信AI”未來重點建設(shè)方向

　　AI是一把“雙刃劍”。中國信通院發(fā)布的《可信人工智能產(chǎn)業(yè)生態(tài)發(fā)展報告（2022）》提到，可信已成為人工智能產(chǎn)業(yè)發(fā)展必備要素，驅(qū)動人工智能規(guī)范發(fā)展。

　　“可信”反映了AI系統(tǒng)、產(chǎn)品和服務(wù)在安全性、可靠性、可解釋、可問責(zé)等一系列內(nèi)在屬性的可信賴程度，相關(guān)概念正隨著技術(shù)發(fā)展的腳步，從模糊走向清晰、從起步走向成熟。開年以來，以語言生成類、視覺生成類模式為代表的AIGC產(chǎn)品引發(fā)了社會對于圖文內(nèi)容“可信度”問題的討論。《文檔圖像篡改檢測標(biāo)準(zhǔn)》的制定，或?qū)橹袊翱尚臕I”在機器視覺、圖像處理領(lǐng)域的體系建設(shè)提供有力支持。

　　利用科技手段實現(xiàn)文本篡改痕跡精準(zhǔn)檢測，將為文檔圖像內(nèi)容安全提供可靠保障，助力新時代AI安全體系建設(shè)。在圖像內(nèi)容安全領(lǐng)域，已有部分企業(yè)展開了前沿探索，利用科技手段對篡改文本圖像實行真?zhèn)闻卸?、篡改痕跡檢測，人工智能科技企業(yè)合合信息是其中的代表。

　　據(jù)悉，合合信息研發(fā)了基于深度學(xué)習(xí)的圖像篡改檢測技術(shù)及相關(guān)系統(tǒng)，可檢測出多種篡改形式，智能捕捉圖像在篡改過程中留下的細(xì)微痕跡，并以熱力圖的形式展示圖像區(qū)域篡改地點，相關(guān)技術(shù)已被應(yīng)用于銀行、保險等行業(yè)中。

合合信息圖像篡改檢測技術(shù)對戶口本圖片篡改痕跡進行定位

　　公開資料顯示，合合信息專注于智能文檔處理底層技術(shù)及應(yīng)用產(chǎn)品的研究工作，相關(guān)技術(shù)在國際頂會ICPR、ICFHR等十余項競賽中獲得冠軍，并于CVPR、AAAI、ACL、ACMMM等國際頂會上發(fā)表。目前，公司已獲得超百項自主知識產(chǎn)權(quán)發(fā)明專利，為全球超過200個國家和地區(qū)的上億用戶提供智能文字識別產(chǎn)品及AI服務(wù)。