課程介紹
云安全聯(lián)盟CSA大中華區(qū)推出人工智能安全認(rèn)證專(zhuān)家（Certified Artificial Intelligence Security Professional，CAISP）培訓(xùn)課程，本課程專(zhuān)注于理解人工智能安全的治理與管理環(huán)境，學(xué)習(xí)AI安全的術(shù)語(yǔ)與安全目標(biāo)、針對(duì)于算法、模型以及數(shù)據(jù)安全和隱私進(jìn)行學(xué)習(xí)，全面提升對(duì)AI安全風(fēng)險(xiǎn)的識(shí)別、評(píng)估與測(cè)評(píng)等實(shí)戰(zhàn)化能力；課程還涵蓋了AI安全的國(guó)內(nèi)與國(guó)外的法律法規(guī)框架，并通過(guò)實(shí)際案例，探討如何在組織中實(shí)施AI安全。此外，學(xué)員還將具體學(xué)習(xí)如何應(yīng)對(duì)AI安全的風(fēng)險(xiǎn)與挑戰(zhàn)，包括應(yīng)對(duì)數(shù)據(jù)投毒、對(duì)抗性攻擊和供應(yīng)鏈威脅等多種安全挑戰(zhàn)。
培訓(xùn)對(duì)象
AI行業(yè)相關(guān)人員：AI工程師與開(kāi)發(fā)者、AI安全工程師、AI應(yīng)用的終端用戶(hù)；
安全相關(guān)人員：安全研究員、合規(guī)與風(fēng)險(xiǎn)管理科技工作者、網(wǎng)絡(luò)安全從業(yè)者;
其他：政策制定者和監(jiān)管機(jī)構(gòu)人員、數(shù)字化轉(zhuǎn)型工作人員、理工類(lèi)師生。
課程收益
核心知識(shí)與技能構(gòu)建；
AI算法與模型安全精通；
大模型安全風(fēng)險(xiǎn)管理；
AI安全法規(guī)與安全治理；
DevSecOps與AI集成安全；
全生命周期AI安全管理；
大語(yǔ)言模型安全實(shí)踐；
AI安全成熟度提升；
ChatGPT安全最佳實(shí)踐；
政策法規(guī)與倫理道德。
知識(shí)概要
-- AI安全概述篇；
-- 技術(shù)基礎(chǔ)篇；
-- 安全風(fēng)險(xiǎn)篇；
-- 政策與治理篇；
-- 全生命周期管理篇；
-- 標(biāo)準(zhǔn)與評(píng)估篇；
-- 特別篇ChatGPT的安全影響；
-- 實(shí)踐案例篇；
-- 倫理與未來(lái)發(fā)展篇。
課程大綱
AI安全概述篇
AI與AI安全基本概念
AI與安全衍生
技術(shù)發(fā)展脈絡(luò)
技術(shù)基礎(chǔ)篇
常見(jiàn)AI算法與模型介紹
AI模型與算法安全性分析
數(shù)據(jù)隱私保護(hù)與安全措施
安全風(fēng)險(xiǎn)篇
大模型安全風(fēng)險(xiǎn)概述
典型攻擊與應(yīng)對(duì)策略：提示攻擊、對(duì)抗攻擊、梯度泄露攻擊、推理攻擊、模型萃取攻擊、供應(yīng)鏈攻擊、應(yīng)對(duì)策略
防御機(jī)制解析
政策與治理篇
國(guó)內(nèi)外AI安全法律法規(guī)、標(biāo)準(zhǔn)規(guī)范分析
AI安全治理框架
全生命周期管理篇
DevSecOps與AI
AI安全需求分析與設(shè)計(jì)
安全的AI系統(tǒng)開(kāi)發(fā)指南與實(shí)踐
AI安全測(cè)評(píng)框架應(yīng)用
AI滲透測(cè)試技術(shù)與方法
AI安全運(yùn)營(yíng)保障體系建設(shè)
標(biāo)準(zhǔn)與評(píng)估篇
AI安全框架
AI成熟度模型應(yīng)用與評(píng)估
AI安全標(biāo)準(zhǔn)與測(cè)評(píng)認(rèn)證實(shí)踐
特別篇ChatGPT的安全影響
惡意行為者利用LLM的安全分析
防御者如何將LLM應(yīng)用于網(wǎng)絡(luò)安全
惡意提示詞攻擊的防范措施
企業(yè)安全使用ChatGPT的最佳實(shí)踐
實(shí)踐案例篇
現(xiàn)實(shí)世界中的AI安全問(wèn)題深度分析
解決方案制定與應(yīng)對(duì)策略
關(guān)鍵領(lǐng)域的AI安全最佳實(shí)踐案例
行業(yè)大模型應(yīng)用及安全實(shí)踐案
倫理與未來(lái)發(fā)展篇
AI倫理道德挑戰(zhàn)與分析
典型場(chǎng)景下的AI倫理道德風(fēng)險(xiǎn)
認(rèn)證過(guò)程
考試入口：https://exam.c-csa.cn 線上考試；
考試方式：限時(shí)考試，90分鐘內(nèi)完成60道題，題型為單選和多選題；
證書(shū)獲取：考生獲得70%以上的成績(jī)?yōu)橥ㄟ^(guò)考試，通過(guò)后系統(tǒng)生成考試證書(shū)。
開(kāi)班信息
暫無(wú)開(kāi)班信息