애플이 AI관련 아무것도 안한다고 하는 글이 있어서..

Ultra chipset이 의도치 않게 local LLM 전성비/가성비로 찜쪄먹고 있는중입니다. m5 ultra 메모리 대역폭이 1.2TB 인데, 4090이 1.0 TB/s (1,008 GB/s)입니다. 4090 네대 묶어봐야 VRAM이 24*4 = 96GB인데요.. m5 ultra는 기본 96GB인데 소모전력에 시스템 구성비까지 보면 애플이 훨씬 나아요. 물론 시스템으로 돌아가는 메모리를 조금 손해봐야하지만 어쨌든. 애플이 local llm 끝판왕이에요. 학습에는 어쩔수 없이 nvidia가 최고지만.. 학습된 모델을 돌리는데는 클라우드 ai (클로드 openai 등등)제외 애플이 최곱니다. unifined memory가 원래 이럴 용도는 아니었겠지만 지금은 뭐.. 어마어마해요. amd, nvidia도 unified memory시스템이 있기는한데.. 성능이 273GB/s 밖에 안돼요; 만약 embedded 장비들에 ai가 들어간다고하면.. 단연코 애플이 선두를 달릴겁니다.