□ 本報(bào)記者 單士磊

       隨著人工智能（AI）的推廣應(yīng)用，“深度偽造”技術(shù)成為違法犯罪的“幫兇”。近期，利用“深偽”換臉技術(shù)偽造的大量淫穢影像在韓國(guó)社交媒體上肆意蔓延，一時(shí)間引起韓國(guó)社會(huì)的恐慌。因當(dāng)前針對(duì)利用AI進(jìn)行犯罪的行為缺乏相應(yīng)的管制舉措，韓國(guó)政府在疲于應(yīng)急處理此類(lèi)案件的同時(shí)，開(kāi)始從多維度制定對(duì)策，嚴(yán)厲打擊“深偽”犯罪行為。

       案件頻發(fā)引恐慌

       隨著AI技術(shù)的不斷發(fā)展，使用“深偽”技術(shù)制作虛假視頻更加方便。在韓國(guó)，使用此類(lèi)技術(shù)制作淫穢影像的犯罪行為日趨猖獗，年輕女性成為主要受害者。

       韓國(guó)警察廳統(tǒng)計(jì)資料顯示，2021年至2023年，共有527名“深偽”技術(shù)制作的淫穢視頻受害者報(bào)案，但今年1至7月，警方受理的“深偽”犯罪案件已達(dá)297件，犯罪勢(shì)頭猛增。從案件受害者類(lèi)型來(lái)看，多為年輕女性，主要包括大學(xué)生、教師、女兵等，甚至有中學(xué)生等未成年人。韓國(guó)許多大學(xué)、中小學(xué)教師、學(xué)生成為案件受害者。

       據(jù)韓國(guó)教育部通過(guò)全國(guó)17個(gè)市道教育廳進(jìn)行調(diào)查結(jié)果顯示，今年1月至9月6日，共接到434起學(xué)生和教師的報(bào)案。隨著韓國(guó)政府相關(guān)部門(mén)對(duì)該類(lèi)案件的深入調(diào)查，被犯罪嫌疑人利用“深偽”技術(shù)無(wú)故牽涉進(jìn)非法影像內(nèi)容中的受害者人數(shù)更是無(wú)法估量。曾曝光“N號(hào)房”事件的前共同民主黨緊急對(duì)策委員會(huì)共同委員長(zhǎng)樸智賢表示，目前全韓涉及“深偽”犯罪的人數(shù)可能達(dá)22萬(wàn)，眾多女性因此陷入不安和恐慌之中。

       另?yè)?jù)美國(guó)網(wǎng)絡(luò)安全企業(yè)Securityhero統(tǒng)計(jì)，在利用“深偽”技術(shù)制作的色情影像作品中，出現(xiàn)的人物有一半左右是韓國(guó)人，韓國(guó)女藝人更是成為“受害重災(zāi)區(qū)”。

       措施滯后難追責(zé)

       隨著媒體輿論的持續(xù)關(guān)注，“深偽”犯罪案件不斷被曝光。對(duì)于此類(lèi)不法行為，韓國(guó)民眾呼吁政府采取緊急措施，制止不法視頻在社交媒體的肆意傳播，并要求政府協(xié)助盡快刪除這些違法視頻，以減少對(duì)受害者特別是青少年的持續(xù)傷害。但考慮到此類(lèi)新型犯罪案件所涉及的內(nèi)容制作技術(shù)、傳播媒介以及涉案人員類(lèi)型等因素與傳統(tǒng)犯罪案件相比展現(xiàn)出新特點(diǎn)，韓國(guó)政府相關(guān)部門(mén)即使受理此類(lèi)案件，也缺乏有效處罰依據(jù)，處理起來(lái)有些力不從心。

       首先，此次“深偽”犯罪內(nèi)容多數(shù)在以“電報(bào)（Telegram）”為主的社交媒體平臺(tái)上傳播蔓延，即使政府部門(mén)接到舉報(bào)，想立即阻止有害影像視頻的繼續(xù)擴(kuò)散，但礙于“電報(bào)”社交軟件的服務(wù)器位于海外，且韓國(guó)相關(guān)部門(mén)未與“電報(bào)”運(yùn)營(yíng)方建立合作關(guān)系，難以通過(guò)法律加以管控。境內(nèi)網(wǎng)站上的非法視頻較容易刪除，但若想刪除境外社交平臺(tái)上的有害視頻，必須先征得運(yùn)營(yíng)方同意，因此國(guó)際合作面臨挑戰(zhàn)。

       其次，根據(jù)韓國(guó)現(xiàn)行《性暴力處罰法》相關(guān)規(guī)定，只有犯罪嫌疑人發(fā)生直接對(duì)受害者的身體部位進(jìn)行拍攝并編輯、加工視頻的情況，或者在違背受害者意愿的情況下進(jìn)行發(fā)布傳播的行為，才會(huì)被處以5年以下有期徒刑或5000萬(wàn)韓元以下罰款；如果以營(yíng)利為目的在網(wǎng)絡(luò)上傳播，則處以7年以下有期徒刑的加重處罰。然而，“深偽”視頻只是在制作時(shí)使用了受害者的頭像而并非直接拍攝，因此依據(jù)現(xiàn)行法律無(wú)法量刑。同時(shí)對(duì)于單純持有、觀看視頻的情況，也無(wú)處罰依據(jù)。

       據(jù)韓國(guó)共同民主黨議員金南熙提供的韓國(guó)大法院自2020年以來(lái)的審理結(jié)果顯示，大法院共受理87件相關(guān)犯罪案件，其中34人被判緩刑（占40%）、24人被判有期徒刑、14人被處以罰金，還有人被判無(wú)罪。由此可見(jiàn)，法院對(duì)此類(lèi)案件量刑過(guò)輕，難以對(duì)“深偽”犯罪起到震懾作用。

       此外，此類(lèi)案件的另一顯著特點(diǎn)是：以特定人臉合成淫穢照片或視頻的制作和傳播者大部分是十幾歲的青少年。韓國(guó)警方提供的資料顯示，在涉嫌制作虛假影像被立案的嫌疑人中，10至19歲的青少年所占比重從2021年的65.4%增加到2023年的75.8%。另外，韓國(guó)警方從上月28日開(kāi)始實(shí)施的“深偽技術(shù)特別集中管制”行動(dòng)中發(fā)現(xiàn)，被警方逮捕的33名確認(rèn)身份的嫌疑人中，約75%為10至19歲青少年，若加上20至29歲年齡層人員，占比則高達(dá)95%。

       相較于中老年人，年輕一代更熱衷于使用數(shù)字技術(shù)，這是青少年頻繁涉案的主要原因。根據(jù)韓國(guó)現(xiàn)行《少年法》規(guī)定，年齡在10至14歲之間的兒童不對(duì)自己的行為承擔(dān)刑事責(zé)任，不會(huì)被送往監(jiān)獄，而是被送至少年拘留所，或被判處從事社區(qū)服務(wù)。與成年人相比，青少年犯罪成本較低，現(xiàn)行處罰措施較難讓青少年充分認(rèn)識(shí)到利用“深偽”技術(shù)實(shí)施犯罪的嚴(yán)重性，很可能使他們?cè)俅我陨碓嚪ā?/p>

       多維度制定對(duì)策

       鑒于當(dāng)前韓國(guó)青少年進(jìn)行“深偽”犯罪的嚴(yán)峻形勢(shì)，韓國(guó)總統(tǒng)尹錫悅在上月27日舉行的政府內(nèi)閣會(huì)議上敦促執(zhí)法機(jī)關(guān)加大對(duì)數(shù)字性犯罪的打擊力度，嚴(yán)懲利用AI技術(shù)進(jìn)行“深偽”犯罪的行為。為此，韓國(guó)政府各職能部門(mén)立即行動(dòng)起來(lái)，針對(duì)相關(guān)犯罪案件所展現(xiàn)出的新特點(diǎn)，計(jì)劃從多維度向“深偽”犯罪宣戰(zhàn)。

       據(jù)韓國(guó)媒體報(bào)道，韓國(guó)警方針對(duì)當(dāng)前利用“深偽”技術(shù)制作并傳播虛假影像的行為以及由此衍生的網(wǎng)絡(luò)性犯罪日趨猖獗問(wèn)題，宣布開(kāi)展集中打擊相關(guān)犯罪專(zhuān)項(xiàng)行動(dòng)。專(zhuān)項(xiàng)行動(dòng)期間，將重點(diǎn)清查整治利用“深偽”技術(shù)制作并傳播虛假內(nèi)容的行為，同時(shí)將通過(guò)識(shí)別軟件對(duì)有關(guān)內(nèi)容進(jìn)行分析，并計(jì)劃開(kāi)展國(guó)際合作，積極開(kāi)展偵查活動(dòng)。另外，鑒于青少年多數(shù)在毫無(wú)負(fù)罪感的情況下犯案，警方將通過(guò)專(zhuān)職校警進(jìn)行防范教育。

       在韓國(guó)警方開(kāi)展專(zhuān)項(xiàng)行動(dòng)的同時(shí)，韓國(guó)各政黨也圍繞如何通過(guò)修訂法案來(lái)阻止“深偽”犯罪行為展開(kāi)積極討論。各政黨對(duì)通過(guò)盡快制定懲治措施以填補(bǔ)懲處“深偽”犯罪的立法空白達(dá)成一致意見(jiàn)，不僅要嚴(yán)格追究非法視頻制作者的責(zé)任，也要對(duì)持有、購(gòu)買(mǎi)、保存、觀看非法視頻者采取嚴(yán)厲處罰措施。

       近日，金南熙向國(guó)會(huì)提交《性暴力處罰法》修正案，呼吁無(wú)論制作者是否出于散布、傳播目的，只要制作就要給予嚴(yán)厲處罰，同時(shí)對(duì)于持有、購(gòu)買(mǎi)、保存及觀看非法視頻者均處以?xún)赡暌韵掠衅谕叫袒?000萬(wàn)韓元罰金的懲處。國(guó)民力量黨議員韓智雅提交了另一版本的《性暴力處罰法》修正案，擬對(duì)利用“深偽”影像視頻恐嚇威脅受害者的不法行為加重處罰力度。祖國(guó)革新黨議員樸恩正向國(guó)會(huì)提交修正案時(shí)，重點(diǎn)強(qiáng)調(diào)將違背受害者意愿制作散布非法視頻等犯罪行為的最高刑罰從5年提高到7年，如果是以營(yíng)利為目的的犯罪行為，則加重至10年以下有期徒刑。

       另?yè)?jù)了解，韓國(guó)曾以“N號(hào)房”事件為契機(jī)，在《兒童和青少年性保護(hù)相關(guān)特例法》中引入“偽裝調(diào)查”條款。目前，為有效打擊社交平臺(tái)上的“深偽”犯罪行為，在一定程度上應(yīng)允許進(jìn)行“偽裝調(diào)查”的呼聲在韓國(guó)社會(huì)高漲。