โ ๐ ์ด๋ฒ ์ฃผ Weekly Digest๋ก ๋์๊ฐ๊ธฐ
DD-056 CARLA-Air: Fly Drones Inside a CARLA World โ A Unified Infrastructure for Air-Ground Embodied Intelligence
arXiv: 2603.28032 Upvotes: 330 | Comments: 4 ์์: ์ด๋ฒ ์ฃผ Top 1
1. ์ ์ด ๋ ผ๋ฌธ์ด ์ค์ํ๊ฐ?
๊ธฐ์กด์ ์๋ฎฌ๋ ์ด์ ํ๊ฒฝ์ ์์จ์ฃผํ ์๋์ฐจ๋ฅผ ์ํ CARLA์ ๋๋ก ์ ์ํ AirSim์ด ์๋ก ๋ถ๋ฆฌ๋์ด ์์ด, ์ฐจ๋๊ณผ ๋๋ก ์ด ํ๋ ฅํ๋ ๊ณต์งํ๋(Air-Ground Cooperation) ์ฐ๊ตฌ๋ฅผ ์ํํ ๋ ๋ฐ์ดํฐ ๋๊ธฐํ ์ค๋ฅ๋ ์ง์ฐ์ด ํ์ฐ์ ์ผ๋ก ๋ฐ์ํ์ต๋๋ค. ์ด ๋ ผ๋ฌธ์ ์ด ๋ ์์คํ ์ ํ๋์ ์ธ๋ฆฌ์ผ ์์ง ํ๋ก์ธ์ค ๋ด์์ ์๋ฒฝํ๊ฒ ํตํฉํ์ฌ, ๋ณ๋์ ์ฐ๊ฒฐ ์์ด๋ ์ฐจ๋๊ณผ ๋๋ก ์ด ๋ฌผ๋ฆฌ์ ์ผ๋ก ์ํธ์์ฉํ ์ ์๋ ๋จ์ผํ ํ๊ฒฝ์ ์ ๊ณตํจ์ผ๋ก์จ ์ด๋ฌํ ๋ถ์ ์ฑ์ ํด๊ฒฐํ์ต๋๋ค. ์ด๋ ๋์ฌ ํญ๊ณต ๋ชจ๋น๋ฆฌํฐ๋ ๋๋ก ๋ฌผ๋ฅ์ ๊ฐ์ด ์ง์๊ณผ ๊ณต์ค์ด ๊ฒฐํฉ๋ ๋ณตํฉ์ ์ธ ์์จ ์์คํ ์ฐ๊ตฌ์ ๋ฐ์ ์ ์ค์ํ ๊ธฐ๋ฐ์ด ๋ฉ๋๋ค.
2. ํต์ฌ ์์ด๋์ด ์ฝ๊ฒ ์ดํดํ๊ธฐ
์ผ์์ํ ๋น์
์ด์ ๊น์ง ์ฐ๊ตฌ์๋ค์ ์ฐจ๋ ์๋ฎฌ๋ ์ดํฐ(CARLA)์ ๋๋ก ์๋ฎฌ๋ ์ดํฐ(AirSim)๋ฅผ ๊ฐ๊ฐ ๋ค๋ฅธ ์ปดํจํฐ์์ ์ผ๋๊ณ ์ธํฐ๋ท์ผ๋ก ์ฐ๊ฒฐํด์ ์ฌ์ฉํ๋ ๊ฒ๊ณผ ๊ฐ์ ์ํฉ์ด์์ต๋๋ค. ๋คํธ์ํฌ๊ฐ ๋๋ ค์ง๋ฉด ํ์ชฝ ์ปดํจํฐ์์๋ ์ฌ๊ณ ๊ฐ ๋ฌ๋๋ฐ ๋ค๋ฅธ ์ชฝ ์ปดํจํฐ์์๋ ์์ง ์ฐจ๊ฐ ๋ฌ๋ฆฌ๊ณ ์๋ค๊ณ ์๊ฐํ๋ ์์ โ์ง์ฐโ์ด ๋ฐ์ํ๊ธฐ ์ฝ์ต๋๋ค. CARLA-Air๋ ์ด ๋ ํ๋ก๊ทธ๋จ์ ์ต์ง๋ก ์ฐ๊ฒฐํ๋ ๋์ , ํ๋์ ์์ฃผ ๊ฐ๋ ฅํ ์ปดํจํฐ์์ ๋ ํ๋ก๊ทธ๋จ์ ํ๋๋ก ํฉ์ณ์ ์คํํ๋ ๊ฒ๊ณผ ๊ฐ์ต๋๋ค. ์ด๋ ๊ฒ ํ๋ฉด ์ฐจ์ ๋๋ก ์ด ๋๊ฐ์ ์๊ณ๋ฅผ ๋ณด๊ณ ์์ง์ด๊ณ , ๋๊ฐ์ ํ๋ฉด์ ๋ฐ๋ผ๋ณด๊ธฐ ๋๋ฌธ์ ๋๋ ์ด ์์ด ์๋ฒฝํ๊ฒ ์กฐํ๋ฅผ ์ด๋ฃฐ ์ ์์ต๋๋ค.
๋จ๊ณ๋ณ ๋์ ๋ฐฉ์
์์คํ ์ด ์์๋๋ฉด ๋จผ์ CARLA์ ๊ธฐ๋ฅ์ด ๋ฉ๋ชจ๋ฆฌ์ ๋ก๋๋์ด ๋์ ํ๊ฒฝ, ๋๋ก, ์ ํธ๋ฑ, ์ง์ ์ฐจ๋ ๋ฑ์ ์ค๋นํฉ๋๋ค. ๊ทธ ํ์ AirSim์ ๋นํ ๊ธฐ๋ฅ์ด ํ๋ฌ๊ทธ์ธ ํํ๋ก ์์ ๋ง์์์ง๋๋ฐ, ์ด๋ ๊ธฐ์กด CARLA์ ์ฝ๋๋ฅผ ๊ฑด๋๋ฆฌ์ง ์๊ณ โ๊ฒ์ ๋ชจ๋(GameMode)โ๋ผ๋ ๊ท์น ์ค์ ์ ์์๋ฐ์ ํ์ฅํ๋ ๋ฐฉ์์ ์ฌ์ฉํฉ๋๋ค. ์ด๋ ๊ฒ ํตํฉ๋ ์์คํ ์ ์ง์ ์ฐจ๋์ CARLA์ ๋ฌผ๋ฆฌ ์์ง์, ๋๋ก ์ AirSim์ ํญ๊ณต ์ญํ ์์ง์ ๊ฐ๊ฐ ์ฌ์ฉํ๋ฉด์๋, ๊ทธ๋ํฝ ๋ ๋๋ง๊ณผ ์๊ฐ ๊ฒฝ๊ณผ(ํฑ)๋ ํ๋์ ํ์ดํ๋ผ์ธ์ ๊ณต์ ํ์ฌ ์ฒ๋ฆฌํฉ๋๋ค. ์ฌ์ฉ์๋ ํ์ด์ฌ ์ฝ๋๋ก ๊ฐ๊ฐ์ ์๋ฒ์ ์์ฒญ์ ๋ณด๋ด์ง๋ง, ๋ด๋ถ์ ์ผ๋ก๋ ์๋ฒฝํ๊ฒ ๋๊ธฐํ๋ ํ๋์ ์ธ์์์ ๋ฐ์ดํฐ๋ฅผ ๊ฐ์ ธ์ค๊ฒ ๋ฉ๋๋ค.
ํต์ฌ ์๊ณ ๋ฆฌ์ฆ ๋ฐ ์ค๊ณ ์์น
์ด ๋ ผ๋ฌธ์ ํต์ฌ ๊ธฐ์ ์ ่ดก็ฎ์ ์ธ๋ฆฌ์ผ ์์ง์ โ๋จ์ผ ๊ฒ์ ๋ชจ๋(Single GameMode)โ ์ ์ฝ์ ์ฐํํ ์ค๊ณ์ ์์ต๋๋ค. ๋ณดํต ์ธ๋ฆฌ์ผ ์์ง ๊ฒ์์ ํ๋์ ๊ท์น์ง(GameMode)๋ง ๊ฐ์ง ์ ์๋๋ฐ, CARLA-Air๋ CARLA์ ์ง์ ์๋ฎฌ๋ ์ด์ ๊ธฐ๋ฅ์ ์์(Inheritance)๋ฐ์ ๊ธฐ๋ณธ ๋ฐํ์ผ๋ก ์ผ๊ณ , ๊ทธ ์์ AirSim์ ๋นํ ์กํฐ(Flight Actor)๋ฅผ ๊ตฌ์ฑ ์์๋ก์ ์กฐํฉ(Composition)ํฉ๋๋ค. ์ด ์ค๊ณ๋ฅผ ํตํด CARLA์ ์์ค ์ฝ๋๋ฅผ ์ต์ํ์ผ๋ก ์์ (๋จ 2๊ฐ์ ํ์ผ)ํ๋ฉด์๋, ๋ ์์คํ ์ API, ๋ฌผ๋ฆฌ ์์ง, ๋ ๋๋ง ํ์ดํ๋ผ์ธ์ ํ๊ดดํ์ง ์๊ณ ๋ณด์กดํ ์ ์์์ต๋๋ค.
3. ์คํ ๊ฒฐ๊ณผ ๋ถ์
๋ฒค์น๋งํฌ ํ๊ฒฝ
์ฐ๊ตฌ์ง์ NVIDIA RTX A4000 GPU์ AMD Ryzen 7 5800X CPU๋ฅผ ํ์ฌํ ์ํฌ์คํ ์ด์ ์์ Ubuntu 20.04 ํ๊ฒฝ์ผ๋ก ์ฑ๋ฅ์ ์ธก์ ํ์ต๋๋ค. CARLA์ ๊ณ ํด์๋ ๋งต์ธ Town10HD๋ฅผ ๋ก๋ํ๊ณ , ์ํฝ(Epic) ํ์ง ์ค์ ์ ์ ์ฉํ ์ํ์์ ์ง์ ์ฐจ๋๊ณผ ๊ณต์ค ๋๋ก ์ด ๋์์ ์ดํํ๋ ์๋๋ฆฌ์ค๋ฅผ ๊ตฌ์ฑํ์ต๋๋ค.
์ฑ๋ฅ ๋น๊ต ๋ฐ ์์น
๊ธฐ์กด์ ๋ธ๋ฆฌ์ง(Bridge) ๊ธฐ๋ฐ ๊ณต๋ ์๋ฎฌ๋ ์ด์ ๋ฐฉ์์ ํ๋ก์ธ์ค ๊ฐ ํต์ ์ค๋ฒํค๋๋ก ์ธํด ์๊ฐ์ ์ผ๊ด์ฑ์ด ๋จ์ด์ง๋ ๋ฐ๋ฉด, CARLA-Air๋ ๋จ์ผ ํ๋ก์ธ์ค ๋ด์์ ํต์ ํ์ฌ ์ด๋ฌํ ์ง์ฐ์ ๊ทผ๋ณธ์ ์ผ๋ก ์ ๊ฑฐํ์ต๋๋ค. ์คํ ๊ฒฐ๊ณผ, ์๋ฎฌ๋ ์ด์ ์ ๊ตฌ๋ํ๋ ๋์์ ํ๋ ์ ํ์(Frame-time)์ด ์์ ์ ์ผ๋ก ์ ์ง๋์์ผ๋ฉฐ, ํนํ ์์คํ ์์ ์ ๋ฐ์ํ๋ ๋งต ๋ก๋ฉ ๋ฐ ์ ฐ์ด๋ ์ปดํ์ผ ๊ฐ์ ์ผ์์ ์ธ ๋ถํ(Warm-up)๊ฐ ์ฌ๋ผ์ง ํ์๋ ์ผ์ ํ ์ฑ๋ฅ์ ๋ณด์ฌ์ฃผ์์ต๋๋ค. ๊ตฌ์ฒด์ ์ธ ์ด๋น ํ๋ ์(FPS) ์์น๋ ๊ณต๊ฐ๋ ์์ฝ๋ณธ์ ๋ช ์๋์ง ์์์ผ๋, ๊ธด ์๊ฐ ๋์์ ์ด์ ํ ์คํธ(Sustained Operation)์์ GPU ๋ฉ๋ชจ๋ฆฌ(VRAM) ์ฌ์ฉ๋์ด ์์ ์ ์ผ๋ก ์ ์ง๋์ด ๋ฉ๋ชจ๋ฆฌ ๋์๊ฐ ์์์ ์ ์ฆํ์ต๋๋ค.
์ฃผ๋ชฉํ ๋งํ ์ฑ๊ณผ
๊ฐ์ฅ ์ค์ํ ์ฑ๊ณผ๋ ๋ฌผ๋ฆฌ์ ์ธ โํฑ(Tick)โ๊ณผ ๋ ๋๋ง ํ์ดํ๋ผ์ธ์ ๊ณต์ ํจ์ผ๋ก์จ, ์นด๋ฉ๋ผ ์ผ์๊ฐ ์ดฌ์ํ๋ ์๊ฐ์ ์ฐจ๋๊ณผ ๋๋ก ์ ์์น๊ฐ ์๋ฒฝํ๊ฒ ์ผ์นํ๋ค๋ ์ ์ ๋๋ค. ์ด๋ ๋๋ก ์ด ์ง์ ์ฐจ๋์ ์ถ์ ํ๊ฑฐ๋ ์ํธ ์ธ์ํ๋ ๋ฉํฐ๋ชจ๋ฌ(Multi-modal) ๋ฐ์ดํฐ๋ฅผ ์์งํ ๋ ํ์์ ์ธ ๊ณต๊ฐ-์๊ฐ์ ์ผ๊ด์ฑ(Spatial-Temporal Consistency)์ ๋ณด์ฅํฉ๋๋ค.
4. ํ๊ณ์ ๊ณผ ํฅํ ์ฐ๊ตฌ ๋ฐฉํฅ
์ ์๊ฐ ์ธ๊ธํ ํ๊ณ
ํ์ฌ CARLA-Air๋ ๊ณ ์ ์ต ํญ๊ณต๊ธฐ๋ณด๋ค๋ ๋ฉํฐ๋กํฐ(Quadcopter) ๋๋ก ์ ์ด์ ์ ๋ง์ถ๊ณ ์์ผ๋ฉฐ, AirSim ์๋ณธ ํ๋ก์ ํธ์ ๊ฐ๋ฐ์ด ์ค๋จ(Archived)๋์๊ธฐ ๋๋ฌธ์ ํฅํ CARLA๊ฐ ์ ๋ฐ์ดํธ๋ ๋ ๋ฐ์ํ ์ ์๋ ํธํ์ฑ ๋ฌธ์ ๋ฅผ ์ง์์ ์ผ๋ก ๊ด๋ฆฌํด์ผ ํ๋ค๋ ๊ณผ์ ๊ฐ ์์ต๋๋ค. ๋ํ, ๋ ๋ฌผ๋ฆฌ ์์ง์ ํ๋์ ํ๋ก์ธ์ค์์ ๋๋ฆฌ๊ธฐ ๋๋ฌธ์ ์ฐ์ฐ๋์ด ๋ง์ ์๋๋ฆฌ์ค์์๋ ํ๋์จ์ด ๋ถํ๊ฐ ์๋์ ์ผ๋ก ๋์ ์ ์์ต๋๋ค.
๊ฐ์ ๊ฐ๋ฅํ ์
ํฅํ ์ฐ๊ตฌ์์๋ ๋ค์ํ ์ข ๋ฅ์ ๋นํ์ฒด(์: ๊ณ ์ ์ต, VTOL)๋ฅผ ์ง์ํ๋ ๋ชจ๋ธ์ ํ์ฅํ๊ณ , ์ง์๊ณผ ๊ณต์ค ์์ด์ ํธ ๊ฐ์ ๋ ๋ณต์กํ ์ํธ์์ฉ์ ์ํ ์๋ก์ด ์๋๋ฆฌ์ค ๋ฒค์น๋งํฌ๋ฅผ ์ ์ํ ์ ์์ต๋๋ค. ๋ํ, ํ์ฌ์ ๋จ์ผ ํ๋ก์ธ์ค ๊ตฌ์กฐ๋ฅผ ๋์ด์ ๋ ๋๊ท๋ชจ์ ๋ถ์ฐ ์๋ฎฌ๋ ์ด์ ํ๊ฒฝ์ผ๋ก ํ์ฅํ๋ ๋ฐฉ๋ฒ์ ๋ํ ์ฐ๊ตฌ๋ ๊ฐ๋ฅํฉ๋๋ค.
5. ์ค๋ฌด ์ ์ฉ ๊ฐ๋ฅ์ฑ
์ด๋์ ๋ฐ๋ก ์ ์ฉ ๊ฐ๋ฅ?
๋๋ก ํ๋ฐฐ๊ฐ ์ง์ ์ฐจ๋๊ณผ ํ๋ ฅํ์ฌ ๋ฌผ๊ฑด์ ๋ฐฐ์กํ๋ ๋ฌผ๋ฅ ์์คํ ์๋ฎฌ๋ ์ด์ ์ด๋, ๋๋ก ์ด ๊ตํต ์ ์ฒด ์ํฉ์ ์ค์๊ฐ์ผ๋ก ๊ฐ์ํ๊ณ ์ง์ ์์จ์ฃผํ์ฐจ์ ์ ๋ณด๋ฅผ ์ ๊ณตํ๋ ์ค๋งํธ ์ํฐ ๊ด์ ์์คํ ๊ฐ๋ฐ์ ์ฆ์ ํ์ฉํ ์ ์์ต๋๋ค. ๋ํ, ์ฐจ๋ ์์ ๋๋ก ์ด ์ฐฉ๋ฅํ๊ฑฐ๋ ์ด๋ฅํ๋ ๋ชจ๋น๋ฆฌํฐ ๊ธฐ์ ์ ํ ์คํธํ๋ ๋ฐ๋ ์ด์์ ์ธ ํ๊ฒฝ์ ์ ๊ณตํฉ๋๋ค.
ํ์ํ ๋ฆฌ์์ค
์ด ์๋ฎฌ๋ ์ด์ ์ ๊ตฌ๋ํ๋ ค๋ฉด ์ธ๋ฆฌ์ผ ์์ง์ ์ํํ ๋๋ฆด ์ ์๋ ์ต์ ์ฌ์์ ์ปดํจํฐ๊ฐ ํ์ํฉ๋๋ค. ํ์ต์ฉ์ผ๋ก๋ RTX 3060 ์ ๋์ GPU๋ ๊ฐ๋ฅํ์ง๋ง, ์ฌ๋ฌ ๋์ ์ฐจ๋๊ณผ ๋๋ก ์ ๋์์ ๋๋ฆฌ๋ฉฐ ๊ณ ํ์ง ์ผ์ ๋ฐ์ดํฐ๋ฅผ ์์งํ๋ ค๋ฉด RTX 4070 ์ด์์ ๊ทธ๋ํฝ ์นด๋์ 32GB ์ด์์ RAM์ ๊ฐ์ถ ์ํฌ์คํ ์ด์ ์ ์ค๋นํ๋ ๊ฒ์ด ์ข์ต๋๋ค.
6. ์ด ๋ ผ๋ฌธ์ ์ดํดํ๊ธฐ ์ํ ์ฌ์ ์ง์
- Unreal Engine (์ธ๋ฆฌ์ผ ์์ง): ์ํฝ๊ฒ์์ฆ์์ ๋ง๋ ๊ณ ์ฑ๋ฅ 3D ๊ฒ์ ์์ง์ผ๋ก, CARLA์ AirSim ๋ชจ๋ ์ด ์์ง์ ๊ธฐ๋ฐ์ผ๋ก ํ์ฌ ์ฌ์ค์ ์ธ ๊ทธ๋ํฝ๊ณผ ๋ฌผ๋ฆฌ ํ๊ฒฝ์ ์ ๊ณตํฉ๋๋ค.
- CARLA: ์์จ์ฃผํ ์๋์ฐจ ์ฐ๊ตฌ๋ฅผ ์ํด ํนํ๋ ์คํ์์ค ์๋ฎฌ๋ ์ดํฐ๋ก, ๋์ ํ๊ฒฝ๊ณผ ๊ตํต ํ๋ฆ์ ๋ชจ์ฌํ๋ ๋ฐ ๊ฐ์ ์ด ์์ต๋๋ค.
- AirSim: ๋ง์ดํฌ๋ก์ํํธ๊ฐ ๊ฐ๋ฐํ ์คํ์์ค ์๋ฎฌ๋ ์ดํฐ๋ก, ๋๋ก ๊ณผ ์๋์ฐจ์ ๋นํ ๋ฐ ์ฃผํ ์ญํ, ๊ทธ๋ฆฌ๊ณ ๋ค์ํ ์ผ์ ๋ฐ์ดํฐ๋ฅผ ์ ๋ฐํ๊ฒ ์ ๊ณตํฉ๋๋ค.
- RPC (Remote Procedure Call): ์ฌ์ฉ์์ ํ์ด์ฌ ์ฝ๋์ ์๋ฎฌ๋ ์ดํฐ ์์ง์ด ์๋ก ํต์ ํ๊ธฐ ์ํด ์ฌ์ฉํ๋ ํ๋กํ ์ฝ๋ก, ์๊ฒฉ์ ์๋ ํจ์๋ฅผ ํธ์ถํ๋ฏ ๋ช ๋ น์ ๋ด๋ฆด ์ ์๊ฒ ํด์ค๋๋ค.
- Physics Tick (๋ฌผ๋ฆฌ ํฑ): ์๋ฎฌ๋ ์ด์ ๋ด์์ ๋ฌผ๋ฆฌ ๋ฒ์น(์ค๋ ฅ, ์ถฉ๋ ๋ฑ)์ด ๊ณ์ฐ๋๋ ์ต์ ์๊ฐ ๋จ์๋ก, ์ด ํฑ์ด ์ผ๋ง๋ ์์ฃผ ๋ฐ์ํ๋๋์ ๋ฐ๋ผ ์๋ฎฌ๋ ์ด์ ์ ๋ถ๋๋ฌ์๊ณผ ์ ํ๋๊ฐ ๊ฒฐ์ ๋ฉ๋๋ค.
- Embodied AI (๊ตฌํ๋ ์ง๋ฅ/๋ชธ์ด ์๋ ์ธ๊ณต์ง๋ฅ): ๋จ์ํ ๋ฐ์ดํฐ๋ง ์ฒ๋ฆฌํ๋ ๊ฒ์ด ์๋๋ผ, ๋ก๋ด์ด๋ ๋๋ก ๊ณผ ๊ฐ์ ๋ฌผ๋ฆฌ์ ๋ชธ์ ํตํด ํ๊ฒฝ์ ์ธ์งํ๊ณ ํ๋ํ๋ AI๋ฅผ ์๋ฏธํฉ๋๋ค.
- Co-simulation (๊ณต๋ ์๋ฎฌ๋ ์ด์ ): ์๋ก ๋ค๋ฅธ ๋ ๊ฐ ์ด์์ ์๋ฎฌ๋ ์ดํฐ(์: ์ฐจ๋์ฉ, ๋๋ก ์ฉ)๋ฅผ ๋คํธ์ํฌ๋ก ์ฐ๊ฒฐํ์ฌ ํ๋์ ์์คํ ์ฒ๋ผ ๋์ํ๊ฒ ํ๋ ๊ธฐ์ ์ ๋๋ค.
๐ ์ด๋ฒ ์ฃผ ๊ด๋ จ Deep Dive
| ์์ | ๋ ผ๋ฌธ | Deep Dive |
|---|---|---|
| ๐ฅ | CARLA-Air: Fly Drones Inside a CARLโฆ | ๐ ํ์ฌ ๋ฌธ์ |
| ๐ฅ | FIPO: Eliciting Deep Reasoning withโฆ | DD-057 |
| ๐ฅ | ClawKeeper: Comprehensive Safety Prโฆ | DD-058 |
| 4. | ShotStream: Streaming Multi-Shot Viโฆ | DD-059 |
| 5. | DataFlex: A Unified Framework for Dโฆ | DD-060 |
๐ ์์ฑ์ผ: 2026-04-05 | ๐ค GLM-4.7 Deep Dive