NVIDIA가 9월 30일 cuObject 클라이언트·서버 라이브러리를 일반 제공한다고 발표했다. cuObject는 GPU 메모리나 시스템 메모리와 S3 호환 객체 저장소 사이에서 RDMA로 데이터를 직접 옮기는 라이브러리다.
RDMA(Remote Direct Memory Access)는 서버 CPU가 관리하는 메모리를 거치지 않고 네트워크 카드가 데이터를 바로 옮기는 방식이다. cuObject에서 S3 GET·PUT 제어 요청은 HTTPS/TCP로 가고, 데이터 본문만 RDMA로 오간다.
클라이언트 라이브러리는 CUDA Toolkit 13.1.1 이상에 포함되고, 저장소 쪽 서버 라이브러리는 별도로 내려받는다. 클라이언트 S3 SDK와 서버 저장소 소프트웨어를 모두 고쳐야 한다는 뜻이다.
같은 발표는 SCADA(Scaled Accelerated Data Access) Server SDK도 소개했다. 저장소 업체가 GPU가 시작한 요청에 응답하는 서버를 만들 수 있게 하는 도구다.
주의할 점: 시제품 통합과 네트워크 요구 사항
발표의 IBM Storage Scale 통합은 SCADA Server SDK로 만든 시제품이며, 모든 객체 저장소의 지원을 보여 주는 사례가 아니다.
문서에 따르면 현재 cuObject 구현은 DC(Dynamic Connection) 전송을 요구하고, DC는 InfiniBand와 RoCEv2에서 동작한다. 저장소 서버의 호환성과 RDMA 네트워크가 갖춰져야 한다.
여기 적은 내용은 NVIDIA의 구조·제공 설명이며, 하드웨어나 통합을 시험하거나 처리량을 독립 측정한 결과가 아니다.
병목 위치부터 확인하는 도입 순서
먼저 병목이 객체 요청 비용인지, 전송인지, 전처리인지, GPU 소비 속도인지 찾는다. 본문 이동이 실제 작업을 막고 있을 때만 더 빠른 이동이 도움이 된다.
그다음 지원 저장소와 네트워크 경로를 맞춘 뒤 전체 학습 처리량을 비교한다. 익숙한 S3 인터페이스라는 사실만으로는 이 경로가 열리는지 알 수 없다.
cuObject가 줄이는 것은 객체 본문의 CPU 경유이며, 그 효과는 저장소와 네트워크가 함께 지원할 때만 나타난다.