[返回数码家电首页]·[所有跟帖]·[ 回复本帖 ] ·[热门原创] ·[繁體閱讀]·[版主管理]
明珠不再蒙尘,苹果终于意识到Mac才是最好的AI PC
送交者: An4dy[♂★★★声望勋衔14★★★♂] 于 2024-03-01 7:57 已读 8656 次  

An4dy的个人频道

苹果放弃探索了十年之久的电动汽车项目、全面转向AI,无疑是最近几天科技圈的头版头条。近日在苹果公司举行的年度股东大会上CEO蒂姆·库克表示,该公司在人工智能方面“投入了大量资金”,并将于今年晚些时候宣布一项重大公告。此外他还谈及,“所有由苹果芯片驱动的Mac都是非常强大的人工智能机器。事实上,目前市面上用于人工智能的电脑,没有比Mac更好的。”


“生成式人工智能具有令人难以置信的突破潜力,将为用户在生产力、解决问题等方面带来变革性的机会”,这般表态与库克一贯的谋定而后动的惯例俨然也形成了鲜明的对比。其实也不怪他一反常态,毕竟目前苹果力推的“空间计算”概念也遇到了“既生瑜何生亮”的难题,OpenAI所引领的AI狂潮几乎将所有注意力给吸走了。因此现在的情况,是在AI领域苹果俨然已处于落后状态。

且不提作为领军者的OpenAI,谷歌有Bard、Gemini,Meta有开源大模型LLaMA 2,微软有Copilot,亚马逊有Amazon Q,而苹果则只有一个在传闻中的生成式AI模型“AppleGPT”。其号称拥有2000亿参数,在语言理解和生成方面具有高度复杂性和强大的解析力,但AppleGPT毕竟还没有落地。所以如今的现实,是从2022年的Stable Diffusion引爆生成式AI这一概念以来,接近两年时间苹果在这个赛道几乎是毫无建树。

6park.com

一手好牌打的稀烂,这似乎是如今苹果在AI领域最恰当的形容。苹果的统一内存架构则是该公司在AI赛道最强的一张牌,库克说目前市面上用于人工智能的电脑没有比Mac更好的,其实并非吹牛,AI PC这个概念的旗手原本应是苹果才对。众所周知,算力就是AI时代的“石油”,英伟达在这两年一飞冲天、达到市值接近2万亿美元历史顶点,无疑就是因为他们掌握了算力供给。

然而在算力之外,一个极少被提及的概念“内存墙”,却是另一个影响大模型性能的主要因素。而参数量则是大模型性能的基础,参数越大、性能才能越高,以至于大模型相关厂商在参数规模上可以说是竞相大放卫星。可随着AI大模型参数量的不断增长,内存不够的问题也已经逐渐凸显,“CUDA out of memory”这样的报错提示已经成为了如今AI从业者最不愿意看到的代码。


“CUDA out of memory”是指使用CUDA进行计算时,GPU内存不足所导致的错误,这个问题往往出现在需要处理大量数据的时候,这也是为什么在购买用于AI的GPU时,显存同样也是最为核心的指标之一。例如伯克利AI实验室的学者Amir Gholami就曾表示,未来内存墙将是比算力更大的瓶颈。

Amir Gholami的研究团队发现,Transformer架构的大模型尺寸以每两年410倍的速度疯狂增长,而GPU作为AI算力的基座,其内存容量增长速度却只有每两年2倍。因此也使得GPU内存容量严重制约了可训练的模型规模和算力提升速度,并成为了阻碍AI技术发展与落地的重要瓶颈。如今GPU显存只有8GB的水平,那么无论开发者如何进行优化,想要容纳一个千亿参数的大模型显然也是巧妇难为无米之炊。


为此,英伟达给出的解决方案是构建GPU集群来提供聚合的更大内存。比如说目前AI大模型的“硬通货”DGX H100系统,其核心是8个H100 GPU,一共可以提供640GB的GPU内存。然而这个方案的问题在于成本高昂,售价更是高达30万美元以上,且无法逾越GPU间的“通信墙”,也就是数据交换时、由于访问带宽和延迟的限制导致性能下降。

作为英伟达在GPU领域的老对手,AMD的策略则是弱算力+大内存。AMD此前在“Advancing AI”活动上推出于大模型训练和推理的MI300X GPU时,苏姿丰博士就特别强调到,“MI300X的使命是缓解大模型分布式训推所面临的内存制约和互连制约”。

与英伟达的H100相比,MI300X的高带宽内存密度最高可达H100的2.4倍,高带宽内存带宽最高可达H100的1.6倍。也就是说,MI300X能运行比H100更大的AI模型。


这样看来,苹果的统一内存架构与AI大模型岂不是天作之合,Apple Silicon芯片甚至都不用重新设计,直接就能作为推理卡使用。当其他厂商还在苦苦寻找如何将端侧大模型部署在PC上,以期让AI PC名副其实时,苹果却对已经打好地基的端侧AIGC生态“不屑一顾”。君不见过去两年如火如荼的AI PC概念,苹果此前从来就没有将Ma与其联系到一起。

好在,苹果方面终于还是意识到了搭载自研芯片的Mac在AI运算能力方面的优势,只不过这一天到来似乎有点晚。从某种意义上来说,苹果更像是在亡羊补牢。至于说为什么明明已经拥有了现实基础,相关概念也得到了业界的追捧,苹果早前却一直无动于衷。当然是因为今天的苹果与当初推出Apple II、iPhone 4的苹果,不是一个企业了。


诚然,苹果是以破坏式创新起家、乃至走向辉煌,当初iPhone 4给市场带来了与以往截然不同的价值主张,更是砸掉了功能机的饭碗、开启了智能手机时代。然而随着苹果吃到了智能手机时代最大的一块蛋糕、将市值推向2.8万亿美元,大企业病也就随之而来。

苹果造车失败、iPhone被诟病只有“参数升级”、却缺乏“技术创新”,乃至在AI上的落后,或许皆因同一个原因,即某位苹果高层察觉了新兴赛道的机遇,也难以下定决心在前途未卜的情况下将个人在公司内的未来推上赌桌。尽管财大气粗的苹果公司可以承受失败带来的冲击,但员工可能经不起这样的失败。 6park.com

喜欢An4dy朋友的这个贴子的话, 请点这里投票,“赞”助支持!
[举报反馈]·[ An4dy的个人频道 ]·[-->>参与评论回复]·[用户前期主贴]·[手机扫描浏览分享]·[返回数码家电首页]
帖子内容是网友自行贴上分享,如果您认为其中内容违规或者侵犯了您的权益,请与我们联系,我们核实后会第一时间删除。

所有跟帖:        ( 主贴楼主有权删除不文明回复,拉黑不受欢迎的用户 )


    用户名:密码:[--注册ID--]

    标 题:

    粗体 斜体 下划线 居中 插入图片插入图片 插入Flash插入Flash动画


         图片上传  Youtube代码器  预览辅助

    打开微信,扫一扫[Scan QR Code]
    进入内容页点击屏幕右上分享按钮

    楼主本栏目热帖推荐:

    >>>>查看更多楼主社区动态...






    [ 留园条例 ] [ 广告服务 ] [ 联系我们 ] [ 个人帐户 ] [ 版主申请 ] [ Contact us ]