內建人工智慧
內建人工智慧是一項尖端技術，旨在將強大的人工智慧模型直接整合到瀏覽器中，使網頁應用程式能夠在本地執行由人工智慧驅動的任務。這種方法通過在客戶端處理數據來增強隱私性，並通過減少延遲來提高性能。內建人工智慧特別有利於實施大型語言模型（LLMs），如 Gemini Nano，這些模型可以在現代桌面和筆記型電腦上高效運行。
內建人工智慧的好處
對於網頁開發者
- 部署簡便：瀏覽器分發和更新人工智慧模型，減輕開發者管理大型模型下載和更新的負擔。
- 硬體加速：針對各種硬體（包括 GPU 和 NPU）進行優化，確保在各設備上達到最佳性能。
對於使用者
- 隱私：本地處理敏感數據通過端到端加密增強隱私性。
- 用戶體驗：消除伺服器往返可提供近乎即時的結果，提高用戶滿意度。
- 離線訪問：用戶可以在沒有網路連接的情況下訪問人工智慧功能，確保在離線或連接不穩定的情況下功能正常。
如何使用內建人工智慧
客戶端和伺服器端整合
- 混合方法：對於簡單任務使用客戶端人工智慧，對於複雜用例使用伺服器端人工智慧。這種方法確保在客戶端能力有限時的彈性和優雅的後備方案。
瀏覽器架構和 API
- 任務 API：使用如翻譯器和摘要器之類的 API 訪問內建人工智慧功能，這些 API 專為高效的設備上執行而設計。
- 探索性 API：使用如提示 API 之類的 API 進行試驗，探索更多用例並通過 LoRA 等技術提升模型性能。
何時使用內建人工智慧
內建人工智慧非常適合增強網頁上的內容消費和創作。它可用於摘要、翻譯、寫作輔助等，直接在瀏覽器中提供無縫的人工智慧驅動體驗。