苹果悄悄地发布了其第一个多模态大型语言模型(LLM)AI作为开源项目,并将其命名为Ferret。新的雪貂AI是由苹果AI研究员Zhe Gan在10月份通过X/Twitter推出的,但直到现在才被广泛关注。雪貂是由Gan和他在苹果的同事以及哥伦比亚大学的研究人员共同开发的。根据 Gan 的说法,与 OpenAI 的 GPT-4 相比,雪貂在理解和描述小图像区域方面更精确,同时产生的幻觉(错误)更少。
有趣的是,Apple 的 Github 存储库显示,该公司使用 8 个配备 8GB HBM2e RAM 的高端 Nvidia A100 GPU 训练了 Ferret。A100 是继去年年底推出 OpenAI 的 ChatGPT 后生成式 AI 技术爆炸式增长之后市场上最受欢迎的 GPU。它能够在 Tensor Float 32 精度下达到 312 TeraFLOPS,Apple 用于训练 Ferret 的 80GB 模型提供高达 2,039 GB/s 的带宽。然而,该公司没有透露它用来训练新模型的主题。
虽然苹果仍处于雪貂生成式人工智能之旅的早期阶段,但其目标是让雪貂这样的模型在智能手机上有效工作。OpenAI 的 GPT4 被认为拥有超过 1 万亿个参数,但手机目前只能处理大约 100 亿个参数的 LLM。为此,苹果研究人员最近还取得了突破性进展,展示了如何用板载闪存来补充智能手机RAM,以硬塞出比在设备上运行更大的型号。
来源:IT之家
IT时代网(关注微信公众号ITtime2000,定时推送,互动有福利惊喜)所有原创文章版权所有,未经授权,转载必究。
创客100创投基金成立于2015年,直通硅谷,专注于TMT领域早期项目投资。LP均来自政府、互联网IT、传媒知名企业和个人。创客100创投基金对IT、通信、互联网、IP等有着自己独特眼光和丰富的资源。决策快、投资快是创客100基金最显著的特点。
小何
小何
小何
小何