MIT와 하버드 연구진이 공개한 DriftWorld를 정리했어요. 디퓨전 기반 월드모델이 너무 느려서 못 하던 일, 즉 실시간 플래닝과 대량 롤아웃을 생성 방식 자체를 바꿔 가능하게 만든 연구예요. 미래 영상 생성을 감독 신호로만 쓰는 World Action Model, GigaWorld-Policy가 추론에서 생성을 빼는 길을 갔다면, 이쪽은 생성을 남기되 한 걸음으로 줄이는 길이에요.
디퓨전 월드모델은 플래닝에 쓰기엔 느려요
디퓨전 모델로 미래 프레임을 예측하는 월드모델은 품질이 좋지만, 프레임 하나를 만들 때마다 노이즈에서 시작해 여러 단계의 디노이징을 반복해요. 플래닝은 후보 행동마다 미래를 굴려보고 비교하는 작업이라 롤아웃이 수십 수백 개 필요한데, 롤아웃 한 번이 느리면 그 전체가 주저앉아요. 월드모델을 학습 도구가 아니라 실행 시점의 판단 도구로 쓰려는 순간 이 비용이 벽이 돼요.
디노이징 대신 드리프트를 배워요
DriftWorld는 반복 샘플링을 드리프팅 생성 모델(drifting generative model)로 대체해요. 훈련 때 행동 조건부 드리프트 함수를 배워 두는데, 이 함수가 현재 관측과 후보 행동 시퀀스를 받아 미래 프레임으로 가는 이동을 직접 내놔요. 그래서 추론에서는 순전파 한 번으로 미래 프레임이 나와요. 노이즈에서 출발해 단계를 밟아 내려오는 과정이 없어요.
디퓨전이나 플로우 매칭과 갈리는 지점이 여기예요. 그쪽 계열도 결국은 어떤 이동장을 배우지만, 그 이동을 추론 시점에 여러 스텝으로 나눠 적분해야 표본이 나와요. 반복 자체가 품질을 만들어내는 구조라 스텝 수를 줄이면 품질이 같이 깎여요. 드리프팅은 반복을 훈련 쪽으로 옮겨서, 실행 시점에는 한 걸음만 남기는 쪽을 택했어요.
속도는 H100 한 장 기준 30fps 이상으로, 디퓨전 기준선 대비 평균 17배 빨라요. 데이터셋별로 보면 Bridge-V2에서 33.3fps, RT-1에서 38.8fps, Language Table에서 36.6fps가 나오고, 관측이 단순한 Robomimic은 100.0fps, Push-T는 270.3fps까지 올라가요. 실시간 영상 속도로 미래를 굴릴 수 있으니, 후보 행동 여러 개를 굴려보고 순위를 매겨 고르는 추론 시점 정책 개선이 실용 범위에 들어와요.
품질을 지키는 장치도 하나 붙어 있어요. 드리프팅 손실에 움직임 가중치를 줘서 정지한 배경보다 움직이는 영역에 학습이 집중되게 해요. 로봇 영상은 화면 대부분이 고정된 작업대라 균등하게 학습하면 정작 중요한 그리퍼의 이동이 뭉개지는데, 가중치를 옮긴 쪽이 FVD에서 뚜렷하게 낮은 값을 기록했어요.
빠른 월드모델은 평가 도구가 돼요
논문이 보고한 생성 품질은 Bridge-V2, RT-1, Language Table에서 IRASim, WorldGym, Ctrl-World, GPC 같은 행동 조건부 월드모델 기준선과 대등하거나 앞서는 수준이에요. 속도를 얻으려고 품질을 내준 구조가 아니라는 게 이 비교의 요지예요.
더 실용적인 수치는 오프라인 정책 평가 쪽에 있어요. 월드모델 안에서 정책을 굴려 얻은 예측 성능과 실제 성능 사이의 상관계수가 Robomimic Lift에서 0.9916, Push-T에서 0.9515, Robomimic Can에서 0.9250으로 나왔어요.
세 값의 순서도 읽을 거리가 있어요. 물체를 들어 올리기만 하는 Lift가 가장 높고, 물체를 그릇에 넣어야 하는 Can이 가장 낮아요. 접촉이 오래 이어지고 물체가 다른 물체와 부딪히는 과제일수록 예측과 실제가 벌어진다는 뜻이라, 월드모델의 신뢰 구간이 어디서 좁아지는지에 대한 힌트로 볼 수 있어요.
이 숫자가 의미하는 건 이래요. 실로봇 실험은 비싸고 느려서 정책 후보를 다 돌려볼 수 없는데, 월드모델 예측이 실기체 결과와 이만큼 정렬돼 있다면 후보 선별을 시뮬레이션 안에서 끝낼 수 있어요. 생성 품질을 유지하면서 속도를 확보하니, 월드모델이 학습 보조를 넘어 정책을 고르고 다듬는 상시 도구로 올라온다는 게 이 연구가 보여주는 그림이에요.