亚洲AV午夜成人片,亚洲精品无码专区,亚洲精品视频在线观看视频

加入收藏

今天是：2025年7月6日星期日您現在位于：首頁 → 技術 → 辦公電子（技術聚焦）

驅動增強終端側生成式AI體驗的技術：LoRA

2024/6/11 11:51:24

增強情境化和定制化一直是用戶體驗提升的推動力。盡管生成式AI已展示出變革性的潛力，但仍有進一步提升的豐富空間。為了滿足對定制化和情境化相關體驗日益增長的需求，本文（歡迎閱讀博客第一部分：多模態生成式AI）將探討為何LoRA即將產生重大影響。

類似于裁縫提供量身定制的西裝，LoRA適配器支持定制化生成式AI體驗。

通過LoRA適配器實現定制化

基礎模型和預訓練生成式AI模型擁有廣泛的知識，可以很好地回復多種提示。但是它們有時可能會出現失誤，因為這些模型沒有專門針對特定知識的更多數據進行定制或精調。

“樣樣都懂一點，但樣樣都不精通。”這話很好地描述了這個問題：生成式AI模型能夠展示很多滿足需要的技能，但可能缺乏技術專長。

例如，如果需要一個大語言基礎模型充當健身和健康教練，它可能難以針對鍛煉或膳食建議提供準確的反饋。通過使用正確訓練姿勢、準確的菜肴卡路里含量等示例對模型進行訓練精調，可以顯著提高其準確性。訓練原始基礎模型需要大量數據、計算、預算和技術專長，而對許多AI公司、開發者和從業者來說，針對數據量小得多的特定領域進行精調，仍然太具挑戰性。

為了應對該挑戰，研究人員開發出了LoRA技術，能夠大幅減少AI模型的可訓練參數量（例如參數量減少98%），以降低訓練成本，同時面向精調任務提高模型準確性。模型的變化部分被封裝在LoRA適配器中，添加到模型原始值以創建精調模型。

除了降低模型訓練難度之外，LoRA還能支持終端側生成式AI用例實現更高效率、可擴展性和定制化。LoRA廣泛適用于生成式和傳統AI模型。

例如，可通過精調LLM等生成式AI模型，創建定制個人助手、改進語言翻譯等。開發者和更廣泛的AI社區正在生成LoRA適配器以打造定制體驗，消費者可以選擇符合個人偏好的適配器。

通過LoRA，生成式AI能夠實現規模化擴展，基于消費者和企業偏好提供更加定制化、個性化和準確的體驗。

終端側現可支持定制的Stable Diffusion

最近，高通還演示了在Android智能手機上運行的支持LoRA適配器的Stable Diffusion。LoRA適配器賦能Stable Diffusion基于個人或藝術偏好創建高質量自定義圖像。用戶可選擇某個LoRA適配器并設置適配強度，生成想要的圖像。

例如，我們演示了一個“面條”適配器，它能夠創建與Stable Diffusion類似的圖像，但生成的圖片能夠結合意大利面等面食作為繪畫風格。

除面向不同藝術風格賦能精調的語言視覺模型(LVM)外，LoRA技術也廣泛適用于任何AI模型。由于模型規模以及DRAM和閃存限制，這一點對終端側生成式AI尤為重要——適配器體積較小，通常不到基礎模型規模的2%，而且可以快速切換。

在終端側運行LoRA適配器可提供增強的隱私、安全性、可靠性、個性化和成本優勢。查詢進一步信息，請訪問官方網站