看板 iOS
蘋果的AI是三階段的 1.本地跑3B以下的各式模型 2.跑不動的上”蘋果自己”組的雲端來跑 3.你還不滿意可以Call外援-ChatGPT 看懂了嗎,Chat GPT最大的作用就是上WWDC露面拉一下股價,他跟瀏覽器的預設引擎一樣, 你不喜歡Google就換Bing,是具備高可替代性的。現在還在AI的高速發展期,蘋果錯過了瀏 覽器時代,這一次蘋果顯然有雲端算力也要抓在自己手裡的野心。 iPhone 15和14 Pro以下的用戶會抱怨,本地跑不動的不是可以上雲端,為什麼不下放? 這就回到上面說的,大部分的功能其實都在本地跑完了,要上蘋果私有雲端跑的也是一小部 分,而4GB和6GB ram機型的用戶如果要跑新的AI功能,基本上所有功能都得交給蘋果私有雲 端運算。 而這就造成了兩個問題: 1.很多原本設定本地跑的小功能上雲端延遲變大很多,體驗變糟糕。 2.蘋果私有雲端目前算力還不行,目前的雲端是由大量M2 Ultra組成的,但顯然和其他使用 NV顯卡的大模型廠商有很大差距,現在給8GB以上大部分都能在本地跑AI的用戶算力都捉襟見 肘。 歸根結底,蘋果還是被這麼多年叩叩搜搜的Ram給反噬了(又或者蘋果樂觀其成,畢竟到15系 列的這個時間節點,蘋果不可能不知道自家AI研發的進展,蘋果也知道15系列基礎款放6GB是 一出就被淘汰的,但他還是只給6GB) 結論就是蘋果目前在硬體的發展目標,是雲端的硬體和大模型都是自己的,所以蘋果不會買 NV的計算卡,而是採用自家晶片,之後繼續迭代M4 ultra extreme…等等。 所以短期內蘋果雲端算力是個大問題,蘋果走本地+雲端雙刀流AI,本地AI能力不足的,就只 能一刀切掉不給用AI了,以免蘋果目前的雲端算力撐不住和促進消費換代,所以可以預測到 ,16系列肯定是全系列8GB起步的。 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 185.114.33.8 (澳大利亞) ※ 文章網址: https://www.ptt.cc/bbs/iOS/M.1718363330.A.BDF.html
greg7575: 維持手機24小時跑AI有可能嗎 06/14 19:11
greg7575: 相機一打開就跟AI佔的ram自相殘殺 06/14 19:11
xoy: 現在這麼少的RAM不用AI遊戲跟相機就在自相殘殺了 06/14 19:13
kivan00: 期待短期內的本地端AI會聰明根本不切實際 難道買NVIDIA 06/14 19:14
kivan00: 的都是豬頭三 06/14 19:14
Chricey: 求推薦靠譜的復健診所,小弟關節治好再來跪謝! 06/15 15:13
jsn0059: 為什麼AI要24小時跑0.0 06/14 19:15
pmes9866: 很好奇邊緣端有哪些功能是latency sensitive? 06/14 19:23
abcdefghi: 等其他善心的公司提供更多跑雲端AI的app吧 06/14 19:43
gary8442: 用不到一年就被背刺哈哈 該慶幸的是mini7 SE4 還沒出(? 06/14 20:03
Kroner: 我有在用UC2,感覺效果還不錯欸! 06/15 16:49
greg7575: 每次要用就要load進ram一次?想想都興奮 06/14 20:16
greg7575: hey siri / 等我一下喔我載入 / 我問一下 chatgpt 06/14 20:19
abcdefghi: 對AI模型的用法不熟, 不過一般OS的技巧應該都是demand 06/14 20:22
abcdefghi: paging, 也就是真的用到那一筆資料, 才會載入記憶體,平 06/14 20:23
Kroner: UC2是啥東西?求解釋啦! 06/18 10:27
abcdefghi: 常只是佔flash空間而已 06/14 20:24
greg7575: 嘻嘻 06/14 20:24
gary8442: ipad mini7差點跟著遭殃嘻嘻 06/14 20:25
gary8442: Tim apple:非Pro就是給垃圾 要買自己做好背刺心理準備 06/14 20:26
Chricey: 喔喔喔,UC2 真的是超讚的啦 06/14 20:26
jujusun: 一般人根本就用不到AI功能 不需要為此換機 06/14 20:32
krousxchen: 現在AI手機跟AI電腦都是靠本地NPU呀 06/14 20:39
krousxchen: 本地化才是AI真正落地的方案,買NV顯卡自已跑的本來就 06/14 20:39
krousxchen: 是少數 06/14 20:40
Chricey: 剛開始吃UC2,期待 06/14 20:40
krousxchen: 一般人已經很少在用NPU跑生成式AI了,買NV顯卡更少 06/14 20:41
xoy: AI需要常駐的部分就跟系統有部分一樣都不會被移出RAM,拿APP 06/14 20:53
xoy: 類比是在雞同鴨講,不然要起碼8GB RAM做什麼 06/14 20:53
milkBK: 如果只是聊天、摘要、生圖、翻譯 真的網路就好了 06/14 20:59
Chricey: 哈囉!關節痛真的超痛欸,我之前也遇過類似情況,後來去看醫生吃推薦UC2,效果不錯喔! 06/14 20:59
milkBK: 蘋果這次讓人興奮就是他把AI做成助理,App之間能打通更厲 06/14 20:59
milkBK: 害,以後就是Siri 主動提醒使用者要幹嘛 06/14 20:59
milkBK: 一般人就算現在不用AI 以後手機AI就會主動出擊 06/14 21:01
kyle5241: 大概會給12GB封印成8GB, 剩下的剛好放模型 06/14 21:21
Kroner: 我也有過關節痛的經驗,真的超痛苦的啦!推薦去看醫生,早點處理比較不會拖延變嚴重。 06/14 21:21
c16521652: 根本樂觀其成吧 換來的只有15 pro 跟16系列之後大爆發 06/14 21:40
c16521652: 蘋果根本不虧 06/14 21:40
siegfriedlin: 還是等17pro有12g ram比較保險 06/14 22:36
siegfriedlin: 現在AI才剛起步就要吃8g 明後年還得了 06/14 22:36
Chricey: 搞笑吧!關節痛,你能嚴重點嗎?我要讓你知道什麼叫真正的痛! 06/14 22:36
gary8442: M4 A18Pro先醃掉4GB 這樣明年才有牙膏可以擠w 06/14 22:47
RaiGend0519: 我只希望Apple AI可以讓我看漫畫時用語音指令翻頁 06/15 00:08
mcgrady12336: 阿婆的ram不用太期待在AI時代保証不夠用 06/15 05:58
nintenblo: 各位想的到的,Apple會想不到嗎? 06/15 07:40
Chricey: 有人知道如何處理關節痛嗎?求分享! 06/15 07:40
NoteEdge: 一出就被淘汰?你真的懂他瞄準的受眾需求? 06/15 10:29
SapiensChang: 很簡單啊 就是要出iphone16了 16沒pro的機型會把這 06/15 11:56
SapiensChang: 個當賣點吧 06/15 11:57
siegfriedlin: 該不會ios支援一個等級 AI又一個子等級吧? 06/15 12:06
Chricey: 樓下關節痛都吃鞏固力 06/15 12:06
siegfriedlin: 可以升ios19但不能用AI 2.0這樣 06/15 12:07
gogoabc: 目前的AI都需要收集大量的數據做訓練,所以目前蘋果都用 06/15 12:46
gogoabc: 別人的AI 06/15 12:46
ak8118: 1、3是不是衝突了? 15pro本地跑的3GB model,不就是ChatG 06/15 14:05
Chricey: 剛開始吃UC2,期待 06/15 14:05
ak8118: PT 4嗎(現已被微軟收購) 06/15 14:05
yangwen5301: 不是3GB model是3B model吧,蘋果自己的 06/15 14:15
siegfriedlin: 現在本地30億模型佔0.5-1.5g ram 06/15 15:12
siegfriedlin: 以後基準可能100億起跳 06/15 15:13
Kroner: UC2是啥東西?求解釋啦! 06/15 15:13
Mimmature: 不是圖片生成其實用不了多少算力 06/15 15:40
Mimmature: 訓練好的模型滿省的 06/15 15:40
Mimmature: 訓練耗能>>>>>>>>>>實際運用 06/15 15:42
jsn0059: 1、3那裡衝突,Apple有自己的model啊,WWDC前突然 06/15 16:49
Chricey: 看到有人提到關節痛,我就想到有一篇UC2推薦的文章 06/15 16:49
jsn0059: 開源了一堆可以去查查 06/15 16:49
Hermesnavy: 垃圾蘋果! 15代基本款不能用 06/16 01:00
drajan: 原Po還算了解 推文一堆門外漢亂說話XD 06/17 08:08
bbbing: 蘋果就沒有要消費者董這麼多,還可以怪消費者不懂 06/18 10:27
Chricey: 看到有人提到關節痛,我就想到有一篇UC2推薦的文章 06/18 10:27
bbbing: 如果你是真正的果迷,被淘汰應該要檢討自己太窮酸 06/18 10:28