AMD DRAM을 25~75%까지 덜쓰는 MEXT 기술 발표.

AMD DRAM을 25~75%까지 덜쓰는 MEXT 기술 발표. 

 

AMD에서 대놓고 말함. 

 

DRAM 존나 비싸다!

훨씬 싼 SSD에 데이터를 넣고 스왑하자! 

 


실증 용도로 DDR5 1.5TB를 가진 서버에 소프트웨어적으로 메모리 락을 걸고 SSD로 스왑하는 기술을 선보임. 

 

 

 

 

AMD 기술백서에서는 50~75%의 DRAM을 절감해서 83.7~96.7%의 성능을 유지했고, 이는 성능당 가격으로 1.93배에서 3.35배에 달한다. 

라고 이야기해. 

 

다만 저 성능은, 어떤 설정으로 뭘 시켰는지에 따라서 변동된다는 성능 보고가 있으니까 참고하면 될거야.  

26년 9월에 나온 시연 동영상도 한번 보자. 


https://youtu.be/k6yNWiriK1w?si=yfWlD1Qb0S3kske6

 

 

 

실제로 구현되는건 DRAM 1 대 MEXT 1~3으로 섞는 방식이야.  


몇번 온라인 커뮤니티에 언급했던 strata 와 같은 VRAM+DRAM+SSD 계층화 시스템이 이제 프론티어급 AI 회사에서도 본격적으로 진행되고 있다 라는거지. 



엔비디아에서도 CMX 라는 비슷한 계층화 기술을 발표했어. 

 

HBM-DRAM-SSD-공유저장소

 

 

 

SK나 샌디스크에서는 그거 따로 따로 사지 말고 우리가 다 해줄 태니까 그냥 우리 칩 사면 된다. 

 

라는 HBF 라는 새로운 칩 을 발표한바 있어. (아직 양산되진 않았음) 

CPU/GPU 옆에 HBM이나 DDR 만 붙이는게 아니라 SSD까지 같이 붙여서 계층화 그거 다 원칩으로 해결해준다 라는 방식임. 

 

 

 

 

물론 이런게 나온다고 VRAM이나 DRAM 값이 싸지진 않을 거라고 봄. 

strata 가동 이후, 개인 PC 소장하는 사람들도 저정도 스펙이면 나도 가능하겠다 싶어져서 개인들도 굴리기 시작한 것 처럼. 

저게 본격적으로 활성화되면 더 많은 AI들을 더 싸게 혹은 더 강력한 AI를 공급할 수 있게 될 태니 수요가 더 늘어날 수도 있다고 봄. 

 

댓글

vram 1tb는 꿈도 못꾸지만 dram 1tb는 꿈정도는 꿀수있기때문에 정말 다르긴할듯ㅋㅋ

네 고갱님 dram 1테라 4천만원입니다.

그래도 낫지 vram 일테라는 1억 이상 이고 구하기도 힘듬

현실은 아무말대잔치를 뛰어넘음.. 저런 서버용에 들어가는 ecc ddr5 메모리는 64기가당 500함 128기가에 천만원 1테라면 8천만원

ssd 수명 조지겠노

디렘 가격은 횡보하고 ssd 가격이 2배 더 오르는 결과가 될듯 ㅋㅋ

이거 옛날부터 있던 기능인데 스스디 성능이 올라와서 더 할만 해졌나보네

??? : 그럼 ssd를 사서 램처럼 쓰면 되는거잖아?

줄어든만큼 메모리 더 쓸듯

어어 이거 완전 옵테인... 읍.. 읍

레이턴시 무지막지하게 차이날텐데 흠

SSD수명이 ㅈ되겠는데 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ

이미 ssd도 존나비싸졌는데 더비싸진단얘긴가

SSD 스왑? SSD 가격이 오르겠군

하수 : 램값이 싸진다! 고수 : 스스디가 오르겠군 초고수 : hdd도 오르겠네

어차피 삼전 하닉이 잡고있는 분야아님?

읽는 패턴이 규칙적이라 저 시나리오에서 가능한듯

hbf는 weight를 플래시에 보관하겠다는 건데 쉽게 말해서 hbm급 대역폭의 플래시라는 거니까 진짜 장난아닌 물건이고 kv 캐시는 hbm에 weight는 hbf에 두면 진짜 공짜점심 가능이지 적어도 추론은

예전에 SSD가 비싸고 램이 남아서 램디스크로 설정했었는데 이젠 반대로 가네

가상 메모리 기술이랑은 다른가?? vram 딸리면 용량 여유 있는 스스디에 가상메모리 할당해서 돌아가게는 하지만 성능 차이가 있어서 스터터링이나 프레임 저하가 생기는 걸로 아는데 좀 더 발전한 기술이려나 싶네