本報訊 記者蔣安杰 10月11日，首師大政法學(xué)院舉辦的一場聚焦法學(xué)前沿、引領(lǐng)學(xué)術(shù)潮流的學(xué)術(shù)研討會——“人工智能與刑法的對話：AI時代詐騙犯罪的理論與實務(wù)問題研討會”在京舉行。首都師范大學(xué)政法學(xué)院院長吳高臣主持開幕式。

首都師范大學(xué)黨委書記繆勁翔指出，政法學(xué)院在人工智能時代的來臨這個前提下，立足法學(xué)研究的本位，積極研究交叉學(xué)科所帶來的新的制度治理難題，符合學(xué)校發(fā)展和學(xué)科發(fā)展的需求。

中國法學(xué)會副會長姜偉提到，人工智能是一把雙刃劍，既可以提高社會生產(chǎn)力，也給社會治理帶來新的風(fēng)險，作為技術(shù)工具，價格低廉容易操作，迭代速度遠(yuǎn)超監(jiān)管部門的反應(yīng)速度，幾乎可以觸及社會各領(lǐng)域的法益。《中共中央關(guān)于進(jìn)一步全面深化改革、推進(jìn)中國式現(xiàn)代化的決定》明確要求完善生成式人工智能發(fā)展和管理機(jī)制也就成了應(yīng)有之義。

研討會第一單元“AI時代詐騙犯罪的理論問題研討”由北京師范大學(xué)教授黃曉亮主持。

北京外國語大學(xué)法學(xué)院教授王文華認(rèn)為，AI詐騙問題不僅是刑法問題，更多的還延伸到前置法的問題，即具有外擴(kuò)性，是一個技術(shù)治理的問題，同時也是商業(yè)、產(chǎn)業(yè)邏輯的問題。只有將AI置于不同的應(yīng)用場景，才能具體確定應(yīng)用AI平臺是否進(jìn)入了詐騙犯罪的規(guī)制領(lǐng)域。

中國人民大學(xué)法學(xué)院教授付立慶認(rèn)為，我國刑法第二百六十六條詐騙罪的罪狀描述是極為簡約的，若放棄對欺騙行為的限縮，過度擴(kuò)張詐騙罪法網(wǎng)范圍的后果是：詐騙罪的構(gòu)成要件喪失定型性和罪刑法定主義機(jī)能，其與盜竊罪的區(qū)分將變得極為困難。

北京航空航天大學(xué)教授孫運梁認(rèn)為，法學(xué)概念要著重考量其本身概念特征，一方面它要比日常生活概念更規(guī)范，另一方面它也達(dá)不到科學(xué)概念能夠測量的程度。具體到詐騙罪的領(lǐng)域，傳統(tǒng)法學(xué)中“占有”和“財產(chǎn)處分”的概念就受到了沖擊，很多爭論與分歧其實就來源于概念的流變，這需要學(xué)者們審慎觀察。

北京大學(xué)法學(xué)院文科一級教授陳興良點評時表示，此前他對人工智能犯罪的研究方向有一點“跑偏”的擔(dān)心，但在對相關(guān)領(lǐng)域進(jìn)行了解以及參與本次研討會的基礎(chǔ)上產(chǎn)生了幾點新的想法：第一，刑法學(xué)者應(yīng)當(dāng)積極應(yīng)對人工智能犯罪時代的到來，刑法理論研究應(yīng)當(dāng)有所作為；第二，在探討人工智能犯罪問題時，要區(qū)分弱人工智能和強(qiáng)人工智能，前者只有在將其作為犯罪的工具考察時才有意義，至于強(qiáng)人工智能的犯罪主體性能否成立問題，我們可以做適度的預(yù)見性研究，但不能將研究基礎(chǔ)完全放在幻想上，這樣會導(dǎo)致研究走向沒有根基的“科幻法學(xué)”。

北京師范大學(xué)教授盧建平用《貓和老鼠》動畫片做了一個比喻，認(rèn)為我們的研究不能僅局限于“貓捉老鼠”的追趕式治理，要進(jìn)行一定的前瞻性研究，相信人類的智慧，從人類的基本理性出發(fā)去做前瞻性的思考，當(dāng)然，也要承認(rèn)人類普遍理性的固有局限。他又舉了電影《機(jī)械姬》中所涉及的阿西莫夫機(jī)器人三定律作為點評的未來展望，并作出了期待“后浪們”作為新一代“深度學(xué)習(xí)機(jī)器”帶來新成果的結(jié)束語。

研討會第二單元“AI時代詐騙犯罪的實踐問題研討”由首都經(jīng)濟(jì)貿(mào)易大學(xué)副教授劉傳稿主持。

北京市公安局警官楊燕燕介紹，盜取采集自然人音視頻信息生成的視頻為重災(zāi)區(qū)，所以大家在接到詐騙分子電話和視頻的時候應(yīng)該及時掛斷，不宜再和以往一樣抱著“逗一逗”的心情與詐騙犯罪“周旋”，這樣會增加自己音視頻被盜取然后用于犯罪的風(fēng)險。從實務(wù)經(jīng)驗來看，已經(jīng)出現(xiàn)了幾乎可以反向欺騙“圖靈測試”的人工智能，強(qiáng)人工智能乃至超人工智能的到來可能比我們預(yù)想得更快。

北京市公安局警官孟凡芹提到，目前警方有關(guān)人工智能的業(yè)務(wù)就包括大模型的測評，北京地區(qū)作為高校和研究機(jī)構(gòu)重鎮(zhèn)，產(chǎn)出了許多大模型，公安機(jī)關(guān)都需要配合網(wǎng)信辦對其進(jìn)行安全測試，包括測試平臺和專家審核的模式。

北京尚梓律師事務(wù)所律師李紅釗認(rèn)為，有必要將人工智能做弱人工智能與強(qiáng)人工智能的區(qū)分。不能對超人工智能的刑事責(zé)任采取簡單的否定說或肯定說，因為其設(shè)計者和產(chǎn)品本身都具備自由自主決定并實施行為的能力，應(yīng)該采取二元限制刑事責(zé)任結(jié)構(gòu)較為合理。

北京市朝陽區(qū)人民檢察院檢察官石林山從案例出發(fā)，讓與會者有了更為直觀的感受。其中一起案件涉及跨境電信詐騙，田某通過加密軟件與境外電詐團(tuán)伙取得聯(lián)系，伙同團(tuán)伙在北京市朝陽區(qū)多個酒店輾轉(zhuǎn)，假設(shè)維護(hù)手機(jī)口的設(shè)備，為境外電詐分子提供通訊傳輸幫助，最后查證田某等人手機(jī)號關(guān)聯(lián)到的詐騙金額為100多萬元。該案件事實簡單，但實際辦理并不簡單。首先是上游犯罪在境外與犯罪分子頻繁更換地點、手機(jī)號等導(dǎo)致的破案難；其次是證據(jù)的收集與金額認(rèn)定難；再次是對于主觀明知的認(rèn)定，本案的主要犯罪嫌疑人都不能主動供述，嫌疑人之間也不會談及具體作案情況，很難通過聊天記錄等客觀證據(jù)來印證主觀明知，辦案人員從初犯偶犯進(jìn)行突破，通過口供和部分聊天記錄相互印證的方式來綜合證明；最后是罪名認(rèn)定問題，公安機(jī)關(guān)移送的罪名是幫助信息網(wǎng)絡(luò)犯罪活動罪，檢察院的起訴書中還包含了對詐騙罪的指控。該案最終被評為2023年度電信網(wǎng)絡(luò)詐騙的典型案件，對于之后可能出現(xiàn)的類似案件的偵辦也起到了很大程度的幫助與指引。

北京市第二中級人民法院法官楊子良主要探討的是在現(xiàn)有的法律框架下，有些罪名能不能夠用來應(yīng)對AI時代的詐騙犯罪。第一個罪名是提供侵入、非法控制計算機(jī)信息系統(tǒng)程序、工具罪，生成式人工智能雖然不屬于專門用來犯罪的工具，但刑法第二百八十五條第3款規(guī)定的罪狀從文義理解上可以將其囊括進(jìn)去，在司法實務(wù)中也可以檢索到相關(guān)生效裁判，例如全國首例的“AI外掛”案。第二個罪名是幫助信息網(wǎng)絡(luò)犯罪活動罪，楊法官認(rèn)為認(rèn)定提供者“明知”是符合事實的，依據(jù)是充分的，即使需要平衡科技創(chuàng)新和風(fēng)險防范，也應(yīng)當(dāng)是在法律框架下進(jìn)行。第三個罪名是拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪，對于人工智能的提供者來說，目前出臺了新的法規(guī)與司法解釋，為其設(shè)置了相應(yīng)的義務(wù)，該罪名的適用，對于打擊防范也能起到一定的作用。

北京理工大學(xué)教授彭海青介紹，AI詐騙呈現(xiàn)出手段多樣化、精準(zhǔn)高效性與隱蔽性三個特點，受害群體有著年輕化趨勢，且除了經(jīng)濟(jì)損失嚴(yán)重外，還存在著心理創(chuàng)傷與社會信任危機(jī)。技術(shù)應(yīng)對不足、跨部門協(xié)作不暢、法律法規(guī)滯后與公眾防范意識薄弱是目前所面臨的治理困境，并且提出相應(yīng)的措施。

清華大學(xué)法學(xué)院院長、全國人大常委會委員、憲法和法律委員會副主任委員周光權(quán)對本次會議進(jìn)行了點評。周光權(quán)認(rèn)為，無論人工智能技術(shù)多么強(qiáng)大，它都不能成為獨立的犯罪主體或是獨立承擔(dān)侵權(quán)責(zé)任。刑法學(xué)中講責(zé)任主義、罪責(zé)原則的時候，包含了憲法的要求，即憲法尊重個人有自己獨立的意識，因此要為自己的行為負(fù)責(zé)，而機(jī)器通過分析數(shù)據(jù)來學(xué)習(xí)，其所謂的“意志”，實際上是生產(chǎn)者使用者灌輸?shù)?。將機(jī)器視為犯罪主體，違背了憲法基本要求，是對刑法教義學(xué)的一些基本原理和底線的沖擊，也與法學(xué)上的自由意志相矛盾，再高級的人工智能，追根溯源仍然是人的價值取向與選擇。人工智能技術(shù)，它確實對犯罪學(xué)思維和刑法學(xué)思維怎么緊密地結(jié)合起來提出了新的考慮，面對人工智能提出來的這些新的問題，我們不禁去思考教義學(xué)是不是需要調(diào)整？總的來講，教義學(xué)確實要認(rèn)識到犯罪學(xué)當(dāng)中所提的一些基本理念，比如說犯罪是正常的，雖然這令人遺憾。犯罪同樣對這個社會有一些正面的功能。犯罪一個現(xiàn)實的功能就是讓我們在發(fā)展人工智能技術(shù)的同時，要想到這個技術(shù)有可能有什么漏洞，可能被犯罪分子利用，那就要把這些補(bǔ)丁都打出來，這對于法律的發(fā)展，無疑起著推動的作用。