當前,人工智能浪潮持續蔓延,聊天機器人和生成式人工智能成為主流。AI技術在快速改變人們日常生活的同時,也帶來大量有關安全合規、應用安全等方面的新風險、新挑戰。
近日,在全國信息安全標準化技術委員會2023年“人工智能安全與標準研討會”上,信安標委大數據安全標準特別工作組發布了《人工智能安全標準化白皮書(2023版)》。該標準梳理了人工智能技術與應用發展現狀,分析了人工智能面臨的新的安全風險,并指出了人工智能安全標準需求,確保AI發展與安全相輔相成。
深度學習需要利用大量數據進行訓練,人工智能服務能力很大程度上也依賴于背后的海量數據。目前,應用市場上存在許多熱門的人工智能聊天機器,如AI聊天創作機器人、AI問答機器人等,其背后就是大語言模型,核心邏輯便是對海量數據進行處理、加工和輸出的過程。然而,這也意味著該類應用很可能在用戶不知情的情況下收集用戶查詢的相關內容,并用于后續模型的開發。出于對信息的保護,一些歐洲國家的公司和機構禁止使用此類人工智能產品,以防止公司機密數據泄露。
AI技術的不斷完善,使其成為生產力進步的有力抓手。許多企業組織將人工智能視為企業數字化轉型的得力助手,將其應用于移動應用APP,以更好地開展移動辦公,為客戶提供更好的業務服務,同時提高工作效率及降低成本。然而,黑產組織對AI應用的蓄意攻擊也在不斷增加,通過侵入系統破壞組織的業務運作,不僅可以竊取用戶和企業數據,還能夠對企業的人工智能模型等核心資產進行篡改。因而,對企業核心資產安全的保護加強也尤為重要。
· 個人需加強信息保護意識,遵守企業制定的相關規范,避免個人及企業數據遭受到安全威脅。
· 企業在使用AI應用的同時,也需要加強管理制度規范及員工安全防范意識培訓。
· AI服務提供方需積極落實《數據安全法》、《個人信息保護法》等相關規范,確保用戶及業務數據的安全性,同時更需加強人工智能模型參數等相關技術的機密性,以保障企業利益不受侵犯。
上訊信息針對人工智能移動業務安全提供應用和數據的全周期安全防護。
· 通過對移動應用APP程序文件進行全面的、多維度的、自動化安全掃描,發現程序代碼中存在的安全漏洞和數據泄露風險。同時使用隱私合規檢測功能,盡可能在應用開發階段,解決應用安全合規問題。
· 在操作系統原有安全體系基礎上,利用動態加載、動態代理、虛擬機保護和加解密等技術手段,對應用程序進行統一安全加固,保證移動應用的安全性和完整性,防止移動應用被反編譯、動態調試和篡改打包,確保移動應用上線發布后的安全可靠運行。
· 通過應用自動化沙箱加殼,實現應用獨立隔離運行環境,提供應用權限控制、應用隱私保護、數據防泄漏、數據加密保護等,增強移動應用業務數據和運行時的安全性,保障應用業務安全可靠。
在當前快速發展的人工智能時代,AI的雙刃劍效應不可避免。為確保AI系統不被濫用或操縱,需要各方積極采取措施,將安全性置于首要位置,通過嚴格的隱私保護和數據安全措施,共同構建值得信賴的AI生態系統。
此處放標題
內容暫無