大模型安全算法工程師（大模型安全算法方向）

1.負(fù)責(zé)開展大模型的安全性評(píng)測(cè)與指標(biāo)體系建設(shè)，識(shí)別大模型在算法安全及基礎(chǔ)安全層面可能存在的風(fēng)險(xiǎn)點(diǎn)，并輸出評(píng)估方法、度量體系及相關(guān)解決方案；
2.持續(xù)追蹤大模型安全攻防領(lǐng)域的前沿技術(shù)動(dòng)態(tài)，結(jié)合實(shí)際業(yè)務(wù)場(chǎng)景完成高效攻擊驗(yàn)證與防御機(jī)制設(shè)計(jì)；
3.面向多模態(tài)大模型安全、大模型應(yīng)用安全以及大模型賦能安全等方向開展前瞻性技術(shù)預(yù)研，推動(dòng)技術(shù)成果落地并支持業(yè)務(wù)發(fā)展；
4.深入研讀最新大模型相關(guān)學(xué)術(shù)論文，掌握行業(yè)在訓(xùn)練策略、性能優(yōu)化、安全防護(hù)與效果提升等方面的最新進(jìn)展。

崗位要求
1.碩士及以上學(xué)歷，計(jì)算機(jī)科學(xué)、網(wǎng)絡(luò)安全或人工智能等相關(guān)專業(yè)背景；
2.在大語言模型安全領(lǐng)域具備實(shí)踐經(jīng)驗(yàn)，熟悉提示注入、對(duì)抗樣本、模型后門、數(shù)據(jù)投毒、模型竊取等典型威脅，了解安全對(duì)齊機(jī)制與模型安全保障技術(shù)；
3.熟練掌握至少一門主流編程語言，如Python、C++、Java等，具備扎實(shí)的編碼能力，能基于當(dāng)前最優(yōu)方法進(jìn)行模型訓(xùn)練、測(cè)試及功能模塊開發(fā)；
4.注重安全能力在實(shí)際業(yè)務(wù)中的價(jià)值轉(zhuǎn)化，具備良好的溝通協(xié)作意識(shí)，邏輯分析能力強(qiáng)，能快速定位并解決安全問題，對(duì)攻防技術(shù)有濃厚興趣；
5.加分項(xiàng)：具備AI紅隊(duì)實(shí)戰(zhàn)經(jīng)驗(yàn)者優(yōu)先；在人工智能或網(wǎng)絡(luò)安全領(lǐng)域頂級(jí)會(huì)議/期刊發(fā)表過論文者優(yōu)先；參與過大模型開源項(xiàng)目或在安全類競(jìng)賽中獲獎(jiǎng)?wù)邇?yōu)先。