最新的消息显示,Chrome团队正在探索一种令人兴奋的新概念——“内置 AI”。这意味着浏览器将具备内置的人工智能模型,可以为浏览器功能和网络平台的API启用设备上的AI。
内置的AI模型使您的网站或Web应用能够运行各种AI任务,而无需担心部署和管理模型。Chrome即将推出的Gemini Nano是Gemini模型系列中最小的版本,可以在大多数配备Chrome的现代台式机和笔记本电脑上本地运行。
据悉,最新的Chrome已内测了Gemini Nano大语言模型,此模型可以用于摘要、翻译、写作等任务,并且可以完全本地运行,无需联网,免费使用。您可以加入早期预览版计划,亲身体验内置AI API的早期版本。
与自行构建设备端AI模型相比,内置AI具有以下优势:
浏览器在分发模型时,会考虑设备的功能和对模型的更新管理。这意味着您无需担心通过网络下载或更新大型模型的问题。您无需为存储空间逐出、运行时内存预算、传送费用以及其他诸多难题而烦恼。
浏览器的AI运行时经过优化,可以充分利用可用的硬件资源,包括GPU、NPU甚至回退到CPU。因此,您的应用程序可以在每台设备上获得最佳性能,从而为用户带来更好的体验。
使用内置AI方法在设备上执行AI任务变得轻而易举,这带来以下优势:
设备端AI可以改进您的隐私保护措施。举例来说,如果您处理敏感数据,使用端到端加密为用户提供AI功能,可以有效保护用户数据的安全性。
某些情况下,无需频繁与服务器通信,意味着您可以在几乎实时地提供结果。设备端AI可能是使功能成为可行且用户体验良好的关键。
用户设备可以处理一些负载,以换取对更多功能的访问权限。例如,如果您提供高级AI功能,用户可以使用设备端的AI来预览这些功能,以便他们了解并体验产品的优势,而无需支付额外费用。这种混合方法还有助于有效管理推断费用,尤其是对于常用用户流的推断费用。
即使没有互联网连接,用户也可以使用AI功能。这意味着您的网站和Web应用程序可以在离线或不稳定的连接环境中正常运行,给用户带来更好的体验。
如有兴趣,您可以申请早期预览版计划,了解更多关于内置AI的信息。申请链接为:https://docs.google.com/forms/d/e/1FAIpQLSfZXeiwj9KO9jMctffHPym88ln12xNWCrVkMY_u06WfSTulQg/viewform?pli=1
官方文档链接为:https://developer.chrome.com/docs/ai/built-in?hl=zh-cn
希望本文能帮助您了解内置AI的优势和应用。请务必关注我们的进一步更新,并留言给我们您对内置AI的看法。我们欢迎任何评论、关注、点赞和感谢您的支持!