테슬라 오토파일럿 잡겠다던 comma.ai의 야망, NHTSA 사망 사고 조사로 마주한 '애프터마켓 ADAS'의 한계

1. 오픈소스 자율주행의 기수 comma.ai, 연방 정부의 칼날 위에 서다

자율주행 업계에서 가장 흥미롭고도 논쟁적인 아이콘을 꼽으라면 단연 조지 호츠(George Hotz)와 그가 만든 comma.ai일 것입니다. 아이폰 탈옥과 플레이스테이션 해킹으로 이름을 날렸던 천재 해커가 "단돈 1,000달러로 테슬라 오토파일럿보다 나은 경험을 제공하겠다"라며 포문을 열었을 때, 많은 이들이 열광했습니다. 실제로 comma.ai의 오픈소스 소프트웨어인 openpilot은 2020년 컨슈머 리포트 평가에서 완성차 제조사(OEM)들의 순정 시스템을 제치고 가장 높은 평가를 받기도 했죠.

하지만 자율주행의 세계는 가혹합니다. 미국 도로교통안전국(NHTSA)의 결함조사국(ODI)이 comma.ai 기기를 장착한 차량들의 연쇄 추돌 사고에 대해 예비 조사(Preliminary Evaluation)를 착수했다는 소식이 전해졌습니다.

NHTSA가 파악한 사고는 총 5건으로, openpilot이 활성화된 상태에서 도로 위에 정지해 있거나 느리게 움직이는 차량을 그대로 들이받은 케이스입니다. 이 중 두 건의 사고로 무려 3명이 사망하고, 11명이 부상을 입었습니다. 특히 사망 사고 중 한 건은 도로 위에 정지해 있던 응급 구조 차량(First Responder)을 추돌한 것으로 밝혀져 충격을 주고 있습니다.

현업에서 안전 최우선의 자율주행 아키텍처를 설계하는 엔지니어 관점에서, 이번 사건은 단순한 '일개 스타트업의 불운'이 아닙니다. 이것은 애프터마켓(Aftermarket) 자율주행 하드웨어가 가진 원초적 한계와 오픈소스 소프트웨어 배포 방식이 안고 있는 기능안전(Functional Safety)의 구조적 결함이 수면 위로 드러난 필연적인 결과에 가깝습니다.

2. 현업 엔지니어가 해부하는 openpilot의 아키텍처와 치명적 아킬레스건

comma.ai의 최신 하드웨어인 Comma Four는 차량의 전면 유리에 부착되어 전방 카메라로 도로 상황을 인지하고, 차량 내부의 OBD-II 포트나 LKAS(차선유지 보조시스템) 카메라 하네스(Harness)에 연결되어 차량을 제어합니다. 이 방식을 엔지니어링 관점에서 뜯어보면 매우 아슬아슬한 줄타기를 하고 있음을 알 수 있습니다.

CAN 버스 위조(Spoofing)와 제어권 개입의 메커니즘

순정 ADAS는 차량 설계 단계부터 철저히 계산된 E/E 아키텍처(Electrical/Electronic Architecture) 위에서 동작합니다. 조향, 제동, 가속 명령은 게이트웨이(Gateway)의 보안 검증을 거치고, 각 제어기(ECU) 간의 상호 감시를 통해 오작동을 차단하죠.

반면, comma.ai의 장치는 일종의 '중간자 공격(Man-in-the-Middle)' 방식으로 동작합니다. 차량이 원래 장착하고 있는 순정 카메라의 신호를 가로채거나, 주행 제어 네트워크(CAN Bus)에 직접 주행 명령 패킷을 주입(Injection)하는 방식입니다. 차량 시스템 입장에서는 이 명령이 순정 ADAS 모듈에서 오는 것인지, 유리에 붙은 1,000달러짜리 스마트폰 변형 기기에서 오는 것인지 완벽하게 구분하기 어렵습니다.

이 제어 루프를 도식화하면 다음과 같습니다.

flowchart TD
    A["전방 카메라 입력<br/>(Comma Unit)"] --> B["openpilot 뉴럴넷 추론<br/>(경로 및 제어량 계산)"]
    B --> C["CAN 메시지 생성<br/>(조향/가속 명령 패킷)"]
    C --> D["차량 CAN 버스 주입<br/>(Harness/OBD-II 연결)"]
    D --> E["차량 액추에이터 동작<br/>(EPS 조향 / ESC 제동)"]

    style A fill:#f8faff,stroke:#0066cc,stroke-width:1.5px,color:#222
    style B fill:#f8faff,stroke:#0066cc,stroke-width:1.5px,color:#222
    style C fill:#f8faff,stroke:#0066cc,stroke-width:1.5px,color:#222
    style D fill:#ffcccc,stroke:#cc0000,stroke-width:2px,color:#222
    style E fill:#f8faff,stroke:#0066cc,stroke-width:1.5px,color:#222
    classDef default fill:#f8faff,stroke:#0066cc,stroke-width:1.5px,color:#222,font-size:13px;

여기서 가장 치명적인 부분은 'D(CAN 버스 주입)' 단계입니다. 순정 시스템의 안전 가드레일을 우회하여 메시지를 주입하기 때문에, 만약 소프트웨어 버그나 센서 오인식으로 인해 잘못된 제어 명령이 주입될 경우 차량의 섀시 제어기가 이를 즉각적으로 거부하거나 안전 모드(Fail-Safe)로 진입시키는 데 한계가 있습니다.

'정지 차량(Stationary Object)' 인식 실패의 원인

NHTSA가 지적한 "정지해 있거나 느리게 움직이는 차를 들이받는 현상"은 자율주행 비전(Vision) 알고리즘의 고전적인 난제 중 하나입니다.

comma.ai는 테슬라와 마찬가지로 카메라 이미지에 극도로 의존하는 '비전 온리(Vision-Only)' 노선을 걷고 있습니다. 카메라 기반 뉴럴 네트워크는 전방의 차량이 '움직이고 있을 때'는 옵티컬 플로우(Optical Flow)와 바운딩 박스 추적을 통해 비교적 정확히 인지합니다. 그러나 도로 위에 완전히 멈춰 서 있는 소방차나 경찰차, 혹은 기하학적으로 특이한 형태의 트레일러는 배경(Background)이나 도로 구조물로 오인하기 쉽습니다.

특히 고속 주행 시에는 카메라 프레임 레이트와 노출(Exposure) 변화, 역광 등의 변수로 인해 뉴럴넷이 정지 객체의 깊이(Depth)를 순간적으로 놓치는 '싱크홀(Sinkhole) 현상'이 발생합니다. 레이더(Radar)나 라이다(LiDAR) 같은 이종 센서의 융합(Sensor Fusion) 없이 단일 비전 파이프라인에만 의존하는 시스템이 가진 치명적인 취약점입니다.

---

3. 기능안전(ISO 26262) 관점에서 본 애프터마켓 ADAS의 실무적 한계

양산 차량의 ADAS를 개발할 때, 전체 개발 기간의 절반 이상은 기능안전 표준인 ISO 26262를 만족시키기 위한 검증과 가상·실차 테스트(HIL, VIL)에 소요됩니다. 소프트웨어 한 줄을 고치더라도 수만 가지 시나리오를 시뮬레이션하고 리스크 평가(HARA)를 거쳐 ASIL(Automotive Safety Integrity Level) 등급을 획득해야 하죠.

하지만 openpilot을 비롯한 애프터마켓 자율주행 솔루션은 이 엄격한 규제의 그늘에서 벗어나 있었습니다.

💡 애프터마켓 ADAS의 구조적 취약점 요약

임의의 소프트웨어 포크(Fork) 허용: 이번 fatal crash 중 최소 한 건은 공식 빌드가 아닌 사용자가 수정한 'FrogPilot'이라는 커스텀 포크를 실행 중이었습니다. 오픈소스 특성상 안전 제어 장치(Torque Limit 등)가 해제된 코드가 필터링 없이 실차에 적용될 수 있습니다.

운전자 모니터링(DMS)의 우회 가능성: 순정 시스템은 운전대 토크 센서, 정전식 센서, 적외선 카메라 등을 다중 레이어로 엮어 운전자의 전방 주시를 강제합니다. 반면, 거치형 기기는 기기에 내장된 소형 카메라 하나에만 의존하므로 시야각 제한이나 야간 인식 오류 시 운전자의 태만을 잡아내지 못합니다.

하드웨어 이중화(Redundancy) 부재: Comma 기기는 모바일 AP 기반의 단일 보드 컴퓨터입니다. 차량용 반도체 등급(AEC-Q100)을 만족하더라도, 메인 프로세서가 락업(Lock-up)되거나 열화로 인해 다운되었을 때 차량을 안전하게 갓길로 인도할 백업 제어기(Secondary Safety Controller)가 없습니다.

결국 사용자는 "스스로 책임을 진다"는 오픈소스 라이선스 동의서에 체크하고 이 기기를 쓰지만, 실제 도로 위에서는 본인뿐만 아니라 아무런 죄가 없는 주변 운전자와 보행자의 목숨까지 담보로 잡게 되는 모순이 발생합니다.

4. 마치며

이번 NHTSA의 조사는 자율주행 업계에 무거운 질문을 던지고 있습니다. "소프트웨어의 빠른 혁신과 배포(OTA)가 사람의 생명을 다루는 자동차 분야에서 어디까지 허용될 수 있는가?"에 대한 질문입니다.

조지 호츠는 과거 NHTSA의 규제 움직임에 반발해 하드웨어 판매를 중단하고 오픈소스로 코드를 공개하는 방식으로 법망을 피해 갔습니다. "우리는 소프트웨어만 제공할 뿐, 설치하고 사용하는 것은 사용자의 책임"이라는 논리였죠. 하지만 실제 도로에서 사망 사고가 발생하고 연방 정부가 직접 메스를 들이댄 이상, 더 이상 이러한 유체이탈식 책임 회피는 통하지 않을 것입니다.

엔지니어로서 openpilot이 보여준 기술적 민첩성과 커뮤니티 주도의 혁신은 매우 경이롭다고 생각합니다. 그러나 자동차는 스마트폰이 아닙니다. 스마트폰 앱이 죽으면 재부팅하면 그만이지만, 자율주행 시스템이 1초만 먹통이 되어도 물리 법칙은 가차 없이 작동합니다.

이번 조사를 계기로 애프터마켓 자율주행 기기 및 차량 제어 신호 무단 주입(CAN Injection)에 대한 강력한 규제 가이드라인이 마련될 것으로 보입니다. 혁신이라는 미명 하에 간과되었던 안전의 기본 원칙—다중 센서 융합, 하드웨어 이중화, 그리고 엄격한 기능안전 검증 - 이 왜 자율주행의 필수 불가결한 뼈대인지를 다시금 뼈아프게 일깨워준 사건입니다.

참고 자료 (References)

공식 원문: Ars Technica / Aftermarket driver assist under federal probe following fatal crashes

'SDV & 자율주행 SW' 카테고리의 다른 글

테슬라 FSD 비켜라, 799달러로 구현하는 '엔비디아급' 자율주행 하드웨어: 콤마 AI(Comma.ai)의 Chestnut eGPU 분석 (0)	2026.09.28
구글 웨이모가 미·중 관세 폭탄에도 중국산 지커(Zeekr) 미니밴을 5,000대나 들여오는 진짜 이유 (0)	2026.09.27
토요타와 리눅스 재단이 손잡고 ARM·인텔 의존도 낮추는 법: AGL SoDeV와 RISC-V의 결합 (0)	2026.09.27
테슬라 FSD가 감추고 싶어 한 '7월의 비극': 4건의 사망 사고와 100% 비공개 데이터의 내막 (0)	2026.09.26