課程簡介
在人工智能技術高速發(fā)展的今天，大模型已成為推動產(chǎn)業(yè)變革的核心引擎，但其安全風險也日益凸顯。本課程聚焦大模型全生命周期的安全威脅與防御體系，結合前沿技術動態(tài)、真實案例與全球治理政策，為學員提供系統(tǒng)性攻防知識框架，助力掌握AI安全領域的核心競爭力。
目標收益
1.從技術到合規(guī)，系統(tǒng)性守護大模型全流程安全；
2.用真實案例經(jīng)驗，快速定位并解決高危漏洞；
3.以權威評估方法，驗證模型安全性與可靠性；
4.站在行業(yè)前沿，應對AI安全領域快速迭代的挑戰(zhàn)
培訓對象
AI研發(fā)工程師、安全運維人員、企業(yè)技術決策者、政策研究人員，以及希望深入理解大模型安全風險與防御策略的專業(yè)人士。
課程大綱
| 大模型安全演進與技術革新 |
1.大模型起源與未來分析 2.deep seek的工程創(chuàng)新點 |
| 大模型安全威脅概況 |
大模型全生命周期安全威脅 1）數(shù)據(jù)層風險 2）訓練層風險 3）推理部署層風險 4）迭代優(yōu)化風險 |
| 大模型全球治理和法律法規(guī) |
1.各國人工智能政策法規(guī) 2.中國人工智能安全政策與標準解讀 3.大模型備案和違規(guī)案例 4.典型司法案例 |
| 數(shù)據(jù)投毒攻擊 |
1.數(shù)據(jù)污染與篡改 1）偽造訓練樣本 2）隱蔽性投毒 2.惡意代碼注入 1）數(shù)據(jù)集腳本攻擊 2）利用庫漏洞 3.訓練過程干擾 4.供應鏈攻擊 |
| 提示詞注入攻擊 |
1.直接和間接提示詞注入攻擊 2.多模態(tài)提示詞注入攻擊 3.代碼提示詞注入攻擊 4.越獄攻擊 5.提示詞注入實戰(zhàn) |
| 大模型生成內(nèi)容安全 |
1.虛假與誤導信息風險 2.歧視與偏見風險 3.違法與有害內(nèi)容風險 4.隱私與數(shù)據(jù)泄露風險 5.意識形態(tài)與國家安全風險 6.技術依賴與失控風險 |
| 系統(tǒng)與基礎設施漏洞 |
1.DDoS攻擊 2.供應鏈漏洞 3.API劫持 4.第三方組件漏洞 3）Ollama 遠程代碼執(zhí)行漏洞 CVE-2024-37032 4）深度學習框架PyTorch遠程代碼執(zhí)行漏洞（CVE-2025-32434） 5）Meta的Llama框架遠程代碼執(zhí)行漏洞 |
| 其他安全威脅 |
1.模型竊取 2.模型嫁接 3.大模型深度偽造 |
| 大模型安全防御研究 |
1.大模型安全防御技術 2.可靠性技術研究 3.可控性技術研究 4.多模態(tài)數(shù)據(jù)中的偏見緩解 |
| 大模型安全防御實踐 |
1.國內(nèi)大模型安全防御實踐 2.Chat-gpt各版本安全防御的改進分析 |
| 大模型安全評估 |
大模型安全評估實驗案例 1）語言模型整體評估 2）SuperCLUE-Safety：中文大模型多輪對抗安全基準 3）多模態(tài)大模型安全性評估 |
|
大模型安全演進與技術革新 1.大模型起源與未來分析 2.deep seek的工程創(chuàng)新點 |
|
大模型安全威脅概況 大模型全生命周期安全威脅 1）數(shù)據(jù)層風險 2）訓練層風險 3）推理部署層風險 4）迭代優(yōu)化風險 |
|
大模型全球治理和法律法規(guī) 1.各國人工智能政策法規(guī) 2.中國人工智能安全政策與標準解讀 3.大模型備案和違規(guī)案例 4.典型司法案例 |
|
數(shù)據(jù)投毒攻擊 1.數(shù)據(jù)污染與篡改 1）偽造訓練樣本 2）隱蔽性投毒 2.惡意代碼注入 1）數(shù)據(jù)集腳本攻擊 2）利用庫漏洞 3.訓練過程干擾 4.供應鏈攻擊 |
|
提示詞注入攻擊 1.直接和間接提示詞注入攻擊 2.多模態(tài)提示詞注入攻擊 3.代碼提示詞注入攻擊 4.越獄攻擊 5.提示詞注入實戰(zhàn) |
|
大模型生成內(nèi)容安全 1.虛假與誤導信息風險 2.歧視與偏見風險 3.違法與有害內(nèi)容風險 4.隱私與數(shù)據(jù)泄露風險 5.意識形態(tài)與國家安全風險 6.技術依賴與失控風險 |
|
系統(tǒng)與基礎設施漏洞 1.DDoS攻擊 2.供應鏈漏洞 3.API劫持 4.第三方組件漏洞 3）Ollama 遠程代碼執(zhí)行漏洞 CVE-2024-37032 4）深度學習框架PyTorch遠程代碼執(zhí)行漏洞（CVE-2025-32434） 5）Meta的Llama框架遠程代碼執(zhí)行漏洞 |
|
其他安全威脅 1.模型竊取 2.模型嫁接 3.大模型深度偽造 |
|
大模型安全防御研究 1.大模型安全防御技術 2.可靠性技術研究 3.可控性技術研究 4.多模態(tài)數(shù)據(jù)中的偏見緩解 |
|
大模型安全防御實踐 1.國內(nèi)大模型安全防御實踐 2.Chat-gpt各版本安全防御的改進分析 |
|
大模型安全評估 大模型安全評估實驗案例 1）語言模型整體評估 2）SuperCLUE-Safety：中文大模型多輪對抗安全基準 3）多模態(tài)大模型安全性評估 |
近期公開課推薦
