자율주행 기술이 성숙함에 따라, 시스템의 안전성과 신뢰성을 보장하는 것은 업계의 최우선 과제가 되었습니다. 이러한 배경 속에서 2019년에 발간된 "자동주행 안전 최우선 (Safety First for Automated Driving, 이하 SaFAD)" 백서 는 SAE 레벨 3 및 레벨 4 자율주행 시스템의 안전한 개발과 검증을 위한 포괄적인 프레임워크를 제시하며 업계의 주목을 받았습니다. 이 기술 블로그는 SaFAD 백서의 "1. 서론 및 동기 부여" 섹션 에 초점을 맞추어, 해당 부분이 자율주행 업계 현직자들에게 왜 중요한지, 그리고 전체 백서의 이해를 위해 어떤 핵심적인 메시지를 담고 있는지를 심층적으로 분석하고자 합니다.
링크 : https://group.mercedes-benz.com/documents/innovation/other/safety-first-for-automated-driving.pdf
1. SaFAD 탄생 배경과 지향점: 안전을 위한 공동의 노력
A. 변혁의 시대, 협력의 필요성
SaFAD 백서는 단일 기업의 결과물이 아닌, Aptiv, Audi, Baidu, BMW, Continental, Daimler, FCA US LLC, HERE, Infineon, Intel, Volkswagen 등 주요 자동차 제조사(OEM), 부품 공급업체(Tier 1), 핵심 기술 제공업체들이 공동으로 참여하여 작성되었습니다. 이러한 광범위한 저자 구성은 SaFAD가 제시하는 내용이 특정 기업의 시각을 넘어, 복잡한 안전 문제에 대한 업계 전반의 합의점을 반영하고 있음을 시사합니다. 이는 자율주행 전문가들에게 SaFAD가 단편적인 기술 지침이 아니라, 업계의 주요 주체들이 공유하는 안전 철학의 기반이 될 수 있음을 의미합니다. 2019년에 발간되었음에도 불구하고 , SaFAD가 제시하는 근본적인 원칙들은 레벨 3 및 레벨 4 자율주행 시스템의 상용화라는 현재진행형 과제에 직면한 업계에 여전히 높은 관련성을 지닙니다. 이 백서는 당시의 선진적인 사고를 집대성한 결과물로서, 이후의 기술 발전과 표준화 논의에 지속적인 영향을 미치고 있습니다.
이처럼 다양한 주체들이 협력하여 안전에 대한 공통된 목소리를 낸다는 것은, 자율주행 기술의 안전이라는 문제가 개별 기업의 경쟁 영역을 넘어선, 산업 생태계 전체의 신뢰와 발전을 위한 전제 조건임을 인지하고 있다는 방증입니다. 즉, SaFAD는 기술 경쟁이 치열한 자율주행 분야에서 안전이라는 근본적인 가치에 대해서는 선제적인 합의가 가능하다는 중요한 선례를 남겼으며, 이는 공공의 신뢰를 확보하고 잠재적으로 규제 경로를 간소화하는 데 기여할 수 있는 전략적 움직임으로 해석될 수 있습니다.
B. 핵심 과제 해결: 자율주행의 안전 명령
SaFAD 서론은 자율주행 기술의 핵심 동기를 명확히 제시합니다. "자율주행은 핵심적인 현대 기술 중 하나이며, 이동성에 대한 더 넓은 접근성을 제공할 뿐만 아니라, 운전 관련 사고 및 충돌 건수를 줄이는 데도 도움을 줄 수 있습니다.". 실제로 독일 교통사고 통계(Destatis, 2018)에 따르면 교통사고의 98% 이상, 미국 국가고속도로교통안전청(NHTSA) 보고서(NCSA, 2015)에 따르면 미국 내 심각한 차량 충돌의 94%가 최소한 부분적으로라도 인간의 실수로 인해 발생합니다. 이러한 통계는 자율주행 기술이 인간의 오류를 줄임으로써 안전성을 향상시킬 수 있다는 강력한 근거를 제공합니다.
"그렇게 함에 있어 자율주행 차량의 안전은 가장 중요한 요소 중 하나입니다." 라는 간결하지만 단호한 문장은 안전이 타협할 수 없는 최우선 가치임을 강조하며, 백서 전체에 걸쳐 논의될 상세한 방법론의 기조를 설정합니다. 서론에서 이러한 사고 통계를 명시적으로 인용하는 것은 단순히 동기 부여를 넘어, 향후 "긍정적 위험 균형"을 평가하는 기준점을 제시하는 역할을 합니다. 이는 자율주행 시스템의 성능에 대한 높은 기대치를 설정하는 동시에, 기술 개발의 궁극적인 목표가 단순한 기술적 진보를 넘어 실질적인 인명 피해 감소에 있음을 업계 전문가들에게 상기시킵니다.
C. SaFAD의 명시적 목적: 단일 솔루션을 넘어서
SaFAD는 "자율주행의 안전 관련 주제에 대한 포괄적인 접근 방식을 장려"하며 , "안전 원칙을 설계 기반 안전(Safety by Design) 역량, 요소 및 아키텍처로 체계적으로 분류한 다음, 검증 및 유효성 확인(V&V) 방법을 요약하여 긍정적 위험 균형을 입증하는 것"을 목표로 합니다. 더 나아가, "이 백서는 자율주행의 산업 전반 표준화를 향한 현재의 활동에 기여하기 위한 것"이라고 명시합니다.
이는 SaFAD가 특정 기술이나 최종적인 해결책을 제시하는 것이 아니라, 안전에 대한 구조화된 접근 방식과 향후 표준 정립을 위한 기여를 목표로 함을 분명히 합니다. 자율주행 전문가들은 SaFAD를 규범적인 체크리스트가 아닌, 사고의 틀이자 논의의 기반으로 이해해야 합니다. "산업 전반의 표준화"에 기여하겠다는 목표는 업계가 외부의 강제적인 규제를 수동적으로 기다리기보다, 자체적으로 규제의 미래를 능동적으로 만들어가려는 의지를 보여줍니다. 즉, SaFAD와 같은 포괄적인 문서를 통해 "여기에 안전에 대한 견고하고 잘 고려된 프레임워크가 있으며, 이것이 미래 표준의 기초가 되어야 한다"고 주장하는 것입니다. 이는 미래 규제가 기술적으로 건전하고 실용적이며 업계의 역량 및 합의와 일치하도록 보장하기 위한 전략적 행보로 볼 수 있습니다.
2. "긍정적 위험 균형"의 정의와 추구
A. 핵심 목표
SaFAD 안전 비전의 중심에는 "평균적인 인간 운전 성능과 비교하여 자율주행 솔루션의 긍정적 위험 균형 (positive risk balance)"을 달성하는 목표가 자리 잡고 있습니다. 이는 독일 윤리위원회의 권고 사항이기도 합니다. 이 개념은 모든 위험을 제거하는 것이 아니라(이는 불가능함), 인간 운전자 대비 순 안전 이익을 입증하는 데 초점을 맞춥니다. 이는 자율주행 전문가들에게 시스템 성공의 궁극적인 기준을 제시하는 매우 중요한 개념입니다.
인간 운전 성능 통계를 보면, "모든 심각도의 충돌 사이에 평균 30만 km의 주행 거리... 미국에서 치명적인 충돌 사이의 평균 거리는 2억 2,800만 km이며, 독일 고속도로에서는 6억 6,100만 km에 달합니다.". 이러한 수치는 인간의 오류 가능성을 보여주는 동시에, 자율주행 시스템이 긍정적 위험 균형을 입증하기 위해 넘어서야 할 (심각한 사고 간 주행 거리 측면에서의) 높은 신뢰도 수준을 설정합니다. 이는 검증 및 유효성 확인(V&V)에 있어 매우 어려운 과제입니다. "긍정적 위험 균형" 개념은 안전 담론을 절대적인 완벽성(사고 제로) 달성에서 인간 운전자보다 통계적으로 입증 가능한 개선이라는 보다 실용적인 목표로 전환시킵니다. 이는 현실적인 개발 및 검증 목표를 설정하는 데 매우 중요합니다. 초기의 자율주행에 대한 대중적 담론은 때때로 거의 완벽한 안전에 대한 암묵적인 기대를 담고 있었습니다. SaFAD 문서는 "긍정적 위험 균형"을 강조함으로써 보다 성숙하고 달성 가능한 엔지니어링 목표를 제시합니다. 복잡한 환경 속 복잡한 시스템은 필연적으로 예측하지 못한 상황에 직면할 것임을 인정하는 것입니다. 따라서 초점은 "이 기술이 인간 운전자가 있을 때보다 도로를 더 안전하게 만드는가?"를 균형 있게 입증하는 것으로 맞춰집니다. 이는 다른 안전 공학 분야에서 이미 확립된 위험 관리 접근 방식을 허용하며, 위험 제거 접근 방식보다 현실적입니다.
B. "긍정적 위험 균형"의 미묘한 측면
SaFAD는 "동시에, 드물고 발생 가능성이 낮은 시나리오에서 자율주행 시스템의 약간 부정적인 안전 균형은 모든 상황에서 긍정적 위험 균형이 유지된다면 여전히 수용 가능할 수 있다"고 명시합니다. 이는 매우 중요한 설명으로, 자율주행 시스템이 모든 상상 가능한 (특히 드물고 발생 가능성이 낮은) 시나리오에서 완벽하지 않을 수 있음을 인정합니다. 초점은 전반적인 위험 프로파일에 맞춰져 있습니다. 전문가들은 시스템을 설계하고 검증할 때 이러한 미묘한 차이를 이해하고, 전반적인 시스템 생존 가능성이나 가용성을 희생하면서 모든 극단적인 경우에 완벽을 추구하기보다는 전체적인 안전에 집중해야 합니다.
이러한 언급은 모든 위험이 동등하지 않으며 모든 시나리오를 완벽하게 처리할 수 없음을 시사하기 때문에 중요합니다. 이는 이러한 "드물고 발생 가능성이 낮은 시나리오"의 확률과 심각성을 평가하기 위한 프레임워크의 필요성을 제기합니다. 무엇이 "수용 가능한" 것인지 누가 결정하는가? "약간 부정적인" 것은 어떻게 정량화되는가? 이는 견고한 시나리오 데이터베이스, 정교한 시뮬레이션, 그리고 수용 가능한 위험 수준에 대한 잠재적인 공공 담론의 필요성을 시사하며, 이 모든 것은 SaFAD의 후반부 장에서 다루어지거나 암시됩니다. 또한 순전히 결정론적인 안전 접근 방식의 한계를 암시하기도 합니다. 독일 윤리위원회를 언급한 것 은 기술 개발을 보다 광범위한 사회적, 윤리적 고려 사항과 조화시키려는 초기 시도를 나타내며, 이는 대중 수용에 중요한 요소입니다. 윤리위원회를 인용함으로써 SaFAD 저자들은 자율주행의 안전이 순전히 기술적인 문제가 아님을 알리고 있습니다. 그것은 심오한 윤리적 차원을 가지고 있습니다. 이러한 조화는 대중의 신뢰를 구축하는 데 매우 중요합니다. 만약 대중이 자율주행 시스템을 윤리적으로 근거가 없거나 사회적 규범을 벗어나 운영된다고 인식한다면, 기술적 능력과 관계없이 채택은 더딜 것입니다. 이는 서론 후반부에서 논의될 "12가지 원칙"의 중요성을 예고합니다.
3. 신뢰를 위한 청사진: SaFAD의 아키텍처 기둥과 기본 원칙
A. "지붕과 기둥" 비유
백서의 구조는 집으로 시각화됩니다. "긍정적 위험 균형"은 지붕의 용마루이며, "12가지 원칙"에 의해 지지됩니다. 이들은 "설계 기반 안전"(2장)과 "검증 및 유효성 확인"(3장)이라는 두 개의 기둥에 의해 지탱됩니다. 이 비유는 전문가들이 SaFAD의 포괄적인 접근 방식을 이해하기 위한 명확한 개념적 지도를 제공합니다. 이는 원칙들이 독립적으로 존재하는 것이 아니라 설계를 통해 구체화되고 V&V를 통해 입증되며, 모두 긍정적 위험 균형이라는 궁극적인 목표를 지향함을 보여줍니다.
이 "지붕과 기둥" 비유는 단순한 구조적 개요 이상으로, 원칙, 설계, 검증의 상호 의존성을 강조합니다. 한 기둥의 약점은 전체 안전 구조를 위태롭게 합니다. 집의 기둥이 약하면 무너지는 것처럼, 자율주행 시스템이 뛰어난 "설계 기반 안전"을 갖추고 있지만 "V&V" 프로세스에 결함이 있거나 그 반대의 경우, "긍정적 위험 균형"(지붕) 달성 주장은 유지될 수 없습니다. 이러한 전체론적 관점은 조직에 매우 중요하며, 서로 다른 팀(설계, 테스트, 안전 공학)이 정렬되고 전체 안전 사례에 대한 각자의 기여를 이해하도록 보장합니다.
B. 제1 기둥: 설계 기반 안전 (Safety by Design, SbD)
2장에서는 의도된 기능 안전(SOTIF), 기능 안전(functional safety), 자동차 사이버 보안(automotive cybersecurity)이라는 신뢰성 영역(dependability domains)을 소개하고, 원칙과 영역에서 역량을 도출하며, 역량을 구현하기 위한 요소를 도입하고, 일반적인 아키텍처를 제시합니다. 서론은 SbD를 선제적인 접근 방식으로 강조합니다. 전문가들에게 이는 안전을 부가적인 요소나 V&V 전용 관심사로 취급하는 대신 개발 초기 단계부터 안전 고려 사항을 포함시키는 것을 의미합니다. SOTIF, ISO 26262, 그리고 사이버 보안에 대한 언급은 기존 및 신흥 안전 분야의 통합을 시사합니다.
처음부터 "설계 기반 안전"의 핵심 구성 요소로 "자동차 사이버 보안" 을 명시적으로 포함한 것은 연결된 자율주행 시스템에서 안전과 보안의 분리 불가능한 특성을 강조합니다. 전통적인 자동차 시스템에서는 안전과 보안이 다소 분리된 영역으로 취급되었을 수 있습니다. 그러나 자율주행, 특히 레벨 3/4의 경우 시스템은 센서 데이터, 연결성 및 복잡한 소프트웨어에 크게 의존합니다. 서론은 시스템이 안전하지 않으면 안전하다고 간주될 수 없음을 분명히 합니다. 이는 개발 프로세스에 중대한 영향을 미치며, SaFAD 후반부와 ISO/SAE 21434와 같은 표준에서 설명하는 통합된 안전 및 보안 엔지니어링 수명 주기를 요구합니다.
C. 제2 기둥: 검증 및 유효성 확인 (Verification and Validation, V&V)
3장에서는 V&V 접근 방식, 테스트 수량, 시뮬레이션, 요소의 V&V 및 현장 운영에 대해 논의합니다. 서론은 안전성 입증에 엄격한 V&V가 필요함을 강조합니다. 전문가들은 시뮬레이션과 실제 테스트 간의 균형을 포함하여 복잡한 자율주행 시스템 검증이라는 엄청난 과제를 해결하는 방법에 대한 논의를 예상할 것입니다.
D. 기초: 자율주행의 12가지 원칙
서론은 공공 기관 및 소비자 협회(예: IWG, ABI & Thatcham Research, NTSB, BMVI)에서 도출된 12가지 원칙을 제시합니다. 여기에는 안전 운행, ODD, 사용자 책임, 핸드오버, 보안, 안전 평가, 데이터 기록, 수동적 안전 및 교통 행동이 포함됩니다. 이러한 원칙들은 "전반적인 안전 요구 사항 및 활동의 기준선을 도출하기 위한 기초"로 제시됩니다. 업계 전문가들에게 이러한 원칙들은 윤리적이고 운영적인 나침반을 제공합니다. 이는 순전히 기술적인 사양을 넘어 자율주행 시스템에 대해 "좋고" "안전한" 행동이 무엇인지에 대한 합의를 나타냅니다. "Fail-Operational", "ODD Determination", "User Responsibility", "Minimal Risk Condition"과 같은 각 원칙은 시스템 설계 및 V&V에 심오한 영향을 미칩니다.
"공공 기관 또는 소비자 협회" 로부터 "12가지 원칙"을 도출한 것은 기술적으로 건전할 뿐만 아니라 사회적으로 수용 가능하고 규제 기대치와 일치하는 시스템을 구축하려는 외부 지향적인 접근 방식을 의미합니다. 원칙을 진공 상태에서 만드는 대신, SaFAD 저자들은 기존의 윤리 지침, 규제 논의 및 소비자 우려 사항을 참고했습니다. 외부의 권위 있는 출처에 근거함으로써 원칙에 더 많은 비중과 정당성을 부여합니다. 이는 가능한 경우 기존의 사회적 합의를 바탕으로 구축함으로써 잠재적인 갈등을 선제적으로 예방하려는 이해를 시사합니다. 이는 자율주행의 성공적인 배포를 위해 기술적 타당성만큼이나 대중의 신뢰와 규제 승인이 중요하다는 것을 암시합니다.
다음은 SaFAD 서론에서 제시된 "자율주행의 12가지 원칙"을 요약한 표입니다.
| 원칙 | 설명 |
| 안전 운행 (SAFE OPERATION)- 고장 시 작동 (FAIL-OPERATIONAL) | - 안전 관련 기능 또는 시스템 구성 요소에 위험이 발생할 경우, 시스템은 보상하고 안전한 상태로 전환할 수 있어야 합니다. 운전자에게 제어권을 안전하게 전환할 충분한 시간을 보장해야 합니다. - 안전 관련 기능 또는 시스템 구성 요소의 손실이 안전 관련 상황으로 이어져서는 안 됩니다. |
| 운행 설계 영역 (OPERATIONAL DESIGN DOMAIN, ODD) - 일반적인 상황 관리 (MANAGE TYPICAL SITUATIONS) |
- 시스템의 안전한 기능을 제한하는 시스템 한계가 인식되는 즉시, 시스템은 보상하거나 충분한 시간 내에 운전자에게 인수 요청을 발행해야 합니다. - 자율주행 시스템은 ODD 내에서 일반적으로 예상할 수 있는 상황을 고려하고 가능한 위험을 해결해야 합니다. |
| 운전자 주도 핸드오버 (VEHICLE OPERATER-INITIATED HANDOVER) | - 자율주행 시스템의 작동 및 해제는 운전자의 명시적인 상호 작용을 요구하여 의도의 높은 신뢰도를 나타내야 합니다. |
| 보안 (SECURITY) | - 자율주행 시스템을 제공할 때, 자율주행 시스템을 보안 위협으로부터 보호하기 위한 조치를 취해야 합니다. |
| 사용자 책임 (USER RESPONSIBILITY) - 책임 (RESPONSIBILITIES) - 모드 인식 (MODE AWARENESS) |
- 안전을 증진하기 위해 사용자의 상태(예: 각성 상태)는 책임감 있는 인수 절차에 적합해야 합니다. 시스템은 사용자 상태를 인식하고 필요한 사용자 작업에 관한 책임을 사용자에게 알려야 합니다. - 운전자의 책임 하에 남아 있는 주행 작업의 측면은 운전자에게 명확해야 합니다. - 자율 기능은 현재 활성 주행 모드를 언제든지 명시적이고 명확하게 인식할 수 있도록 보장해야 합니다. 또한 주행 모드 변경도 사용자에게 명확하게 나타나야 합니다. |
| 차량 주도 핸드오버 (VEHICLE-INITIATED HANDOVER) - 최소 위험 상태 (MINIMAL RISK CONDITION) - 인수 요청 (TAKEOVER REQUESTS) |
- 운전자가 인수 요청에 응하지 않을 경우, 자율주행 시스템은 위험을 최소화하는 기동을 수행하여 최소 위험 상태에 도달해야 합니다. - 차량 주도 핸드오버는 운전자에게 명확하게 이해되고 관리 가능해야 합니다. |
| 운전자와 ADS 간의 상호의존성 (INTERDEPENDENCY BETWEEN THE VEHICLE OPERATOR AND THE ADS) | - 시스템 안전성의 전반적인 평가는 자율주행 기간이 종료된 직후 및 주행의 자율주행 부분과 직접적인 관련이 있을 때 자동화로 인해 운전자에게 미치는 영향을 고려해야 합니다. |
| 안전 평가 (SAFETY ASSESSMENT) | - 검증 및 유효성 확인은 전반적인 안전성의 일관된 개선을 달성하기 위해 안전 목표가 충족되도록 보장하는 데 사용되어야 합니다. |
| 데이터 기록 (DATA RECORDING) | - 자율주행 차량은 해당 데이터 개인 정보 보호법을 준수하는 방식으로 이벤트 또는 사고가 인식될 때 자율주행 시스템의 상태와 관련된 데이터를 기록해야 합니다. |
| 수동적 안전 (PASSIVE SAFETY) - 충돌 시나리오 - 대체 좌석 위치 |
- 차량 레이아웃은 차량 자동화로 인한 충돌 시나리오 변경을 수용해야 합니다. - 자율주행 시스템을 통해 가능해진 새로운 실내 사용 방식에서도 탑승자 보호가 보장되어야 합니다. |
| 교통 행동 - 도로에서의 매너 - 규칙 준수 |
- 자율 기능의 행동은 주변 (취약한) 도로 사용자에게 이해하기 쉬울 뿐만 아니라 예측 가능하고 관리 가능해야 합니다. - 해당 교통 규칙은 자율주행 시스템에 의해 고려되어야 합니다. 위 "사용자 책임" 원칙은 남아있는 사용자 책임을 설명합니다. |
| 안전 계층 (SAFE LAYER) | - 자율주행 시스템은 시스템 한계, 특히 운전자에게 제어권을 안전하게 전환할 수 없는 한계를 인식하고 위험을 최소화하도록 대응해야 합니다. |
4. SaFAD 지침의 범위, 의도 및 한계 정의
A. SaFAD가 제공하고자 하는 것
SaFAD 백서의 목표는 "안전한 자율주행 시스템을 개발하고 검증하기 위한 일반적인 단계에 대한 개요와 지침을 제공하는 것"입니다. 특히 "SAE 레벨 3 및 레벨 4 자율주행"과 "기존 SAE 레벨 1 및 레벨 2 운전자 지원 시스템에 추가로 필요한 개발"에 중점을 둡니다. 또한, "이 백서는 자율주행의 산업 전반 표준화를 향한 현재의 활동에 기여하기 위한 것"이라고 명시합니다. 전문가들은 SaFAD가 특히 시스템이 특정 조건 하에서 동적 주행 작업(DDT)에 대한 전적인 책임을 지는 L3/L4 자동화로 인해 발생하는 복잡성에 대한 프레임워크와 지침을 제공한다는 점을 이해해야 합니다. 이는 표준화를 향한 디딤돌입니다.
B. SaFAD가 명시적으로 아닌 것
SaFAD는 "명시적인 기술적 해결책이나 최소 또는 최대 표준을 고안하는 것은 이 백서의 범위에 포함되지 않는다"고 분명히 밝힙니다. 또한 "이 백서는 자율주행 시스템에 대한 최종적인 진술이나 최소 또는 최대 지침 또는 표준으로 사용될 의도가 없다"고 강조합니다. "각 회사는 자율주행 시스템 개발에 있어 특정 요구에 가장 적합한 표준이나 프로세스를 결정하고 사용할 권리를 특별히 보유한다" 고 하며, 그 비전은 "구속력이 없다" 고 명시합니다.
이는 매우 중요한 면책 조항입니다. 업계 전문가들은 SaFAD를 최종적인 규칙집으로 오해해서는 안 됩니다. 공통된 언어와 접근 방식을 제공하지만, 기업들은 특정 구현에 있어 자율성을 유지합니다. 이러한 유연성은 빠르게 발전하는 기술 환경에서 필수적입니다. SaFAD가 "표준이 아니며 구속력이 없다" 고 신중하게 명시하는 것은 잠재적 경쟁자들로 구성된 컨소시엄이 작성한 문서에 필요한 전략적 법적 및 경쟁적 면책 조항입니다. 이는 혁신을 저해하거나 빠르게 발전하는 분야에서 시기상조이거나 지나치게 규범적인 규칙을 만드는 것 없이 기초적인 안전에 대한 협력을 가능하게 합니다. "지침" 및 "비구속적"으로 규정함으로써 저자들은 개별 기업들이 제품을 혁신하고 차별화할 수 있는 능력을 유지하면서 공유 학습 및 원칙에 대한 조정을 허용합니다. 이러한 균형은 산업 전반의 발전에 매우 중요합니다.
C. 범위에서 제외된 주제
SaFAD는 "비지도 학습, (SOTIF에 따른 예측 가능한 오용을 넘어서는) 오용, 데이터 프라이버시 또는 첨단 운전자 지원 시스템 [자체 기능, L3/L4 추가 요구 사항 제외]"은 다루지 않습니다. 또한 "편안한 주행 전략이나 지점 간 최단 경로 탐색과 같은 비안전 관련 요소도 이 백서의 범위에 포함되지 않습니다.". 제외 사항을 아는 것은 전문가들이 SaFAD의 핵심 안전 주장에 집중하는 데 도움이 됩니다. 이러한 다른 주제들도 중요하지만, SaFAD는 L3/L4 자율주행의 안전 중요 측면에 엄격하게 초점을 맞춥니다.
발간 당시(2019년) "비지도 학습" 을 제외한 것은 안전이 중요한 애플리케이션에서 당시 AI의 현황에 대한 신중한 접근 방식을 시사하며, 암묵적으로 지도 학습 방법(또는 더 명확한 V&V 경로를 가진 방법)이 제시되는 안전 주장에 대해 더 성숙한 것으로 간주되었음을 나타냅니다. 비지도 학습은 강력하지만 설명 가능성, 예측 가능성 및 형식적 검증(모두 안전 사례에 중요함) 측면에서 종종 더 큰 과제를 제시합니다. 이를 제외(또는 포함하지 않음)한 것은 컨소시엄이 기존 지식 및 표준(ISO 26262 및 신흥 SOTIF 등)을 기반으로 보다 명확한 안전 주장을 구성할 수 있는 방법을 우선시했음을 시사합니다. 부록 B에서는 나중에 DNN에 대해 자세히 설명하지만, 초기 범위 제한은 주목할 만합니다.
D. "살아있는 문서" 측면
서론 자체는 SaFAD가 정적이지 않음을 인정하며, "...사회적 수용, 기술 및 법규 분야에서 발전이 있을 때마다 그 내용을 지속적으로 재검토하고 개정해야 한다"고 언급합니다. 이는 전문가들에게 중요한 시사점입니다. 자율주행 안전 추구는 학습과 적응의 지속적인 과정입니다. 이 예측은 중요합니다. 자율주행 기술, 규제 및 대중 인식은 결코 정적이지 않습니다. 이를 인정함으로써 SaFAD는 진화하는 지식 체계의 출발점으로 자리매김합니다. 이는 업계가 안전을 해결된 문제가 아닌 지속적인 개선 프로세스로 취급하도록 장려하며, 모범 사례에 대한 지속적인 대화와 업데이트를 요구합니다. 이는 또한 전문가들이 SaFAD 2019를 최종적인 결론이 아닌, 진행 중인 여정의 중요한 이정표로 보아야 함을 의미합니다.
5. 자율주행 전문가를 위한 SaFAD 서론의 중요성
A. 전체론적 안전 사고를 위한 프레임워크
서론은 "긍정적 위험 균형"을 목표로 하는 포괄적인 구조(원칙, SbD, V&V)를 제시합니다. 전문가들에게 이는 높은 수준의 안전 목표를 구체적인 엔지니어링 활동과 연결하는 정신적 모델을 제공합니다. 이는 안전이 분리되지 않고 개발 수명 주기 전반에 걸쳐 통합되는 시스템 사고 접근 방식을 장려합니다. SaFAD 서론의 기본 주장을 이해함으로써 전문가들은 조직 내에서 견고한 안전 프로세스를 더 잘 옹호하고 구현할 수 있습니다. 회사의 엔지니어, 관리자 및 경영진이 SaFAD 서론에 요약된 원칙과 목표(예: 긍정적 위험 균형, 12가지 원칙)에 대한 공통된 이해를 공유하면 안전 중요 활동에 대한 자원 할당을 정당화하고, 안전을 우선으로 하는 어려운 절충 결정을 내리며, 안전이 모든 사람의 책임이라는 문화를 조성하기가 더 쉬워집니다.
B. 업계 합의 및 방향성 이해
SaFAD의 협력적 성격과 표준화에 기여하려는 목표 는 업계의 영향력 있는 부분들이 자율주행 안전을 위해 설정하려는 궤적을 이해하는 데 도움이 됩니다. 이는 회사 자체의 전략적 조정 및 표준화 노력에 대한 기여에 정보를 제공할 수 있습니다.
C. L3/L4 개발의 복잡성 탐색
L3/L4 시스템에 대한 "추가적인" 요구 사항에 대한 초점 은 SaFAD가 운전자가 아닌 시스템이 DDT 및 폴백(fallback)을 책임지는 높은 수준의 자동화로 인해 발생하는 고유한 과제를 탐구할 것임을 시사합니다. 이는 전문가들이 이러한 고급 시스템에 필요한 분석의 깊이를 예상하는 데 도움이 됩니다. 서론에서 "일반적인 접근 방식" 을 강조하면서 표준이 아니라고 명시하는 것은 기업들이 광범위한 업계 합의에 대해 자체 안전 방법론을 벤치마킹할 수 있는 귀중한 기준선을 제공합니다. 회사가 자체적인 독점 안전 프로세스를 가지고 있더라도 SaFAD 프레임워크와 비교하면 잠재적인 격차나 개선 영역을 발견할 수 있습니다. "우리의 접근 방식이 이 광범위한 컨소시엄이 제시한 것만큼 포괄적인가? 모든 핵심 원칙을 고려하고 있는가?"와 같은 자체 평가로 이어질 수 있습니다. 이는 내부 프로세스 개선 및 안전 사례 강화로 이어질 수 있습니다. 또한, L3/L4에 대한 서론의 초점 은 L2 ADAS에서 L3+ ADS로의 책임(따라서 안전 보증 복잡성)의 상당한 도약을 전문가들에게 암묵적으로 교육합니다. 이러한 프레이밍은 SaFAD 후반부에 자세히 설명된 광범위한 방법론을 정당화하는 데 도움이 됩니다. L2(운전자 감독)에서 L3(시스템 감독, 운전자 폴백)로의 전환은 주요 패러다임 전환입니다. 서론은 독자에게 SbD 및 V&V에 대한 후속 장이 왜 그렇게 상세하고 SOTIF를 더 깊이 다루는 것과 같은 새로운 접근 방식이 왜 필요한지에 대해 미묘하게 준비시킵니다. 이는 L3/L4가 L2에 대한 점진적인 개선이 아니라 보다 심오한 안전 엔지니어링 노력을 필요로 하는 질적 변화임을 강조합니다.
D. SaFAD 문서의 나머지 부분 해석
서론은 백서의 나머지 부분에 대한 "사용 설명서" 역할을 합니다. 여기에 요약된 동기, 범위 및 기본 원칙을 이해하는 것은 설계, V&V 및 DNN(부록 B)과 같은 특정 요소에 대한 후속 장의 상세한 기술적 논의를 올바르게 해석하는 데 매우 중요합니다. 이러한 맥락이 없으면 지침을 잘못 적용하거나 그 의도를 오해할 수 있습니다.
