崗位職責：
1.負責大語言模型在終端設備上的推理實現(xiàn)與工程化部署
2.開展終端側(cè)大模型推理框架的研發(fā)，推進性能與功耗的持續(xù)優(yōu)化
3.在高通及MTK平臺上搭建統(tǒng)一的多模態(tài)大模型功能模塊，并完成平臺特性適配

任職要求：
1.碩士及以上學歷，具備兩年以上終端AI技術(shù)落地實踐經(jīng)驗
2.深刻掌握多模態(tài)大模型的推理機制，有使用高通genie或mtkllm_sdk經(jīng)驗者優(yōu)先
3.熟悉多種大語言模型網(wǎng)絡架構(gòu)，擁有模型結(jié)構(gòu)優(yōu)化、量化等實際項目經(jīng)驗
4.具備終端端到端性能分析與調(diào)優(yōu)能力，涵蓋前后處理效率、內(nèi)存占用優(yōu)化等方面
5.精通Python/C/C++編程，熟練運用Linux開發(fā)環(huán)境
6.能夠流暢閱讀英文技術(shù)文獻，并具備快速原型實現(xiàn)能力