2024北京網(wǎng)絡(luò)安全大會正如火如荼地展開，颯姐團隊注意到其中這樣一項會議議程：電子取證論壇。毫無疑問，在數(shù)字經(jīng)濟迅猛發(fā)展和網(wǎng)絡(luò)技術(shù)快速進步的今天，網(wǎng)絡(luò)犯罪手段不斷升級，而電子取證技術(shù)也在人工智能的加持下不斷邁出新的突破。
面對這一形勢，已有不少網(wǎng)安企業(yè)為有效偵測和打擊新型網(wǎng)絡(luò)犯罪、保障網(wǎng)絡(luò)的空間安全性和可靠性作出了建設(shè)性的貢獻。然而，盡管人工智能應(yīng)用于網(wǎng)絡(luò)犯罪偵查的潛力巨大，但其中不可避免地會因為人工智能的特性而涉及到各方問題，進而影響到偵查工作的合法性、透明度和倫理性，甚至可能會對人工智能偵查技術(shù)造成反噬。乃至于在網(wǎng)安企業(yè)運用人工智能技術(shù)提供服務(wù)的過程中，也可能會陷入犯罪的漩渦。
今天，颯姐團隊就想基于此與大家共同探討人工智能技術(shù)在網(wǎng)絡(luò)犯罪的案件偵查中，可能會涉及何種法律問題和挑戰(zhàn)。
(一)數(shù)據(jù)采集可能侵犯他人隱私權(quán)?
人工智能在應(yīng)用過程中必然會訪問、收集海量的數(shù)據(jù)，并基于此生成海量數(shù)據(jù)，這就對人工智能技術(shù)對于海量數(shù)據(jù)的管理和使用提出了重大挑戰(zhàn)，而挑戰(zhàn)背后則帶來的是相應(yīng)的法律風險。
一一方面，在人工智能偵查技術(shù)的開發(fā)和提供過程中，網(wǎng)安企業(yè)所面臨的一個主要問題就是職責和權(quán)限的不明確。這種模糊性在數(shù)據(jù)收集和處理環(huán)節(jié)尤為突出，這在一定程度上給網(wǎng)安企業(yè)帶來了相當?shù)姆娠L險。首先，人工智能偵查技術(shù)通常涉及大量的數(shù)據(jù)收集，包括但不限于個人行為數(shù)據(jù)、通信記錄、社交媒體活動等。這些數(shù)據(jù)的收集可能觸及到隱私權(quán)、數(shù)據(jù)保護和信息安全等問題。然而，由于缺乏明確的法律規(guī)定，網(wǎng)安企業(yè)在收集這些數(shù)據(jù)時可能會面臨合法性質(zhì)疑。其次，收集到的數(shù)據(jù)需要進行處理和分析，以便用于偵查目的。這一過程可能涉及到數(shù)據(jù)的存儲、傳輸和共享。在這個環(huán)節(jié)，不同網(wǎng)安企業(yè)在數(shù)據(jù)管理方面可能會采取不同的標準和措施，這就導(dǎo)致數(shù)據(jù)保護水平的不一致。此外，人工智能偵查技術(shù)的應(yīng)用還涉及到數(shù)據(jù)的使用。網(wǎng)安企業(yè)需要確保其技術(shù)的應(yīng)用不會侵犯個人權(quán)利，同時也要保證技術(shù)的有效性和公正性。然而，由于職責和權(quán)限的不明確，網(wǎng)安企業(yè)在決定如何使用這些數(shù)據(jù)時可能會面臨道德和法律的雙重困境。
另一方面，數(shù)據(jù)在收集以后的使用、管理環(huán)節(jié)，也面臨著諸多風險，其中包括數(shù)據(jù)泄露、濫用風險以及來自第三方的攻擊。當發(fā)生上述情況時，網(wǎng)安企業(yè)需要合理規(guī)避風險，提升自身的抗風險能力以及風險應(yīng)對能力。
為了解決這些問題，颯姐團隊認為，我們不僅需要從法律層面對人工智能偵查技術(shù)的開發(fā)和應(yīng)用進行規(guī)范，更需要企業(yè)加強自律，建立相應(yīng)的數(shù)據(jù)管理合規(guī)機制，確保技術(shù)的應(yīng)用既符合法律法規(guī)，也符合社會道德標準。
(二)權(quán)責問題
當人工智能系統(tǒng)做出錯誤的決策或犯下錯誤時，隨之而來的權(quán)責問題變得尤為突出。這不僅是網(wǎng)安企業(yè)在開發(fā)人工智能產(chǎn)品時需要首先考慮的問題，而且是一個涉及道德和法律的復(fù)雜議題。這一問題不僅關(guān)系到技術(shù)本身，更與法律規(guī)范和社會進步緊密相連。
在技術(shù)層面，人工智能系統(tǒng)的開/發(fā)/者、維護者或算法工程師是否需要對系統(tǒng)中的錯誤或偏見負責，是一個需要深入探討的問題。隨著人工智能技術(shù)的不斷發(fā)展，這些技術(shù)決策者的責任范圍和責任程度需要被明確界定。他們需要確保系統(tǒng)的設(shè)計和實施能夠最/大/程/度地減少錯誤和偏見，同時也需要對可能出現(xiàn)的問題負責。
在法律層面，隨著人工智能技術(shù)的廣泛應(yīng)用，司法體系也需要適應(yīng)這些新技術(shù)的發(fā)展。例如，通過人工智能生成的證據(jù)或其他相關(guān)數(shù)據(jù)是否能在法庭上被采納使用，需要有明確的法律規(guī)定。此外，司法系統(tǒng)還需要考慮如何評估人工智能系統(tǒng)的決策過程，以及如何確保這些決策過程的公正性和透明度。
同時，即使人工智能系統(tǒng)做出的決策在技術(shù)上是合法的，它們?nèi)匀豢赡芤l(fā)/倫理問題。這些問題可能包括但不限于數(shù)據(jù)隱私、算法透明度、決策公平性等。這些倫理道德風險需要被認真對待，并且需要有明確的主體對其負責。這可能涉及到技術(shù)開發(fā)者、企業(yè)、監(jiān)管機構(gòu)甚至整個社會。
為了應(yīng)對這些挑戰(zhàn)，網(wǎng)安企業(yè)、法律界和社會需要共同努力，建立一個全面的框架來指導(dǎo)人工智能系統(tǒng)的責任歸屬、倫理規(guī)范和法律應(yīng)用。這包括制定明確的技術(shù)標準、法律責任和倫理準則，以及建立相應(yīng)的監(jiān)督和評估機制。通過這些措施，我們可以確保人工智能技術(shù)的發(fā)展既符合技術(shù)進步的要求，也符合法律規(guī)范和社會道德的期望。
(三)不可忽視的“幫信罪”
對于網(wǎng)安企業(yè)而言，技術(shù)是立身之本，人工智能技術(shù)的加入無疑極/大程度推進和豐富了網(wǎng)安企業(yè)的技術(shù)手段，但技術(shù)服務(wù)的同時也應(yīng)警惕幫信罪的風險。
幫信罪，即幫助信息網(wǎng)絡(luò)犯罪活動罪，是指我國刑法第287條之二規(guī)定的“明知他人利用信息網(wǎng)絡(luò)實施犯罪，為其提供互聯(lián)網(wǎng)接入、服/務(wù)/器/托/管、網(wǎng)絡(luò)存儲、通訊傳輸?shù)燃夹g(shù)支持，或者提供廣/告/推/廣、支付結(jié)算等幫助，情節(jié)嚴重的行為。”近年來隨著AI、大數(shù)據(jù)等技術(shù)的突破性進展，各類犯罪活動逐漸在網(wǎng)絡(luò)/空間中泛濫。其直接后果便是使得幫信罪的數(shù)量急速上升，已經(jīng)位列“3甲”。
在幫信罪的大背景下，“技術(shù)中立”的語言不復(fù)存在，網(wǎng)安企業(yè)在提供技術(shù)服務(wù)的過程中稍有不慎便會落入幫信罪的泥沼。究其根本，在于“幫信罪”的成立僅要求“明知他人利用信息網(wǎng)絡(luò)實施犯罪”。
對此，盡管《關(guān)于辦理非法利用信息網(wǎng)絡(luò)、幫助信息網(wǎng)絡(luò)犯罪活動等刑事案件適用法律若干問題的解釋》第十一條規(guī)定，“為他人實施犯罪提供技術(shù)支持或幫助，具有下列情形之一的，可以認定為明知他人利用信息網(wǎng)絡(luò)實施犯罪，但是有相反證據(jù)的除外：(一)經(jīng)監(jiān)管部門告知后仍然實施有關(guān)行為的;(二)接到舉報后不履行法定管理職責的;(三)交易價格或者方式明顯異常的;(四)提供專門用于違法犯罪的程序、工具或者其他技術(shù)支持、幫助的;(五)頻繁采用隱蔽上網(wǎng)、加密通信、銷毀數(shù)據(jù)等措施或者使用虛假身份，逃避監(jiān)管或者規(guī)避調(diào)查的;(六)為他人逃避監(jiān)管或者規(guī)避調(diào)查提供技術(shù)支持、幫助的;(七)其他足以認定行為人明知的情形”，因此并非所有客觀上幫助他人實施犯罪的行為均涉及犯罪，但是司法實踐中，對于明知的認定卻有泛化和擴大的傾向，并因此導(dǎo)致不少技術(shù)企業(yè)高管鋃鐺入獄。
由此，對于網(wǎng)安企業(yè)而言，融合AI技術(shù)提供網(wǎng)安服務(wù)固然重要，但也需要仔細甄別所服務(wù)的甲方是否有犯罪嫌疑——事前的主動合規(guī)遠比事后的被動彌補更為有效。
寫在后面
科技的發(fā)展為網(wǎng)絡(luò)安全提供了更多的機會，也提出了更多的挑戰(zhàn)。在未來，颯姐團隊會持續(xù)關(guān)注網(wǎng)安行業(yè)內(nèi)的新動態(tài)、技術(shù)革新和實踐策略，為網(wǎng)安企業(yè)把好法律的關(guān)卡! 文/肖颯律師團|
（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
