자동차 산업은 SDV, 즉 Software-Defined Vehicle 전환을 중심으로 빠르게 변화하고 있습니다. 과거 자동차 소프트웨어가 개별 ECU 단위의 기능 구현과 제어에 집중되어 있었다면, 이제는 E/E Architecture, Domain Controller, Zonal Architecture, OTA 업데이트까지 고려해야 하는 복잡한 소프트웨어 플랫폼으로 확장되고 있습니다.
이러한 변화는 자동차 SW 개발 조직에 더 높은 개발 생산성과 품질 관리 역량을 요구합니다. 요구사항과 코드베이스는 점점 복잡해지고, 기능 간 의존성도 높아집니다. 특히 ADAS, 제동, 조향, 배터리 관리 시스템처럼 Safety-Critical 특성을 가진 영역에서는 작은 코드 변경도 기능 안전과 품질 검증 측면에서 신중하게 다뤄져야 합니다.
생성형 AI는 코드 이해, 요구사항 분석, 변경 영향 검토, 테스트 케이스 초안 작성, 코드 리뷰 보조 등 다양한 영역에서 개발자의 반복 업무를 줄일 수 있습니다. 하지만 자동차 SW 개발에서 AI를 단순한 코드 생성 도구로만 접근하는 것은 위험합니다. ISO 26262, ASPICE, Traceability, 변경 이력 관리와 같은 품질·안전 기준을 고려하지 않는 AI 활용은 오히려 새로운 리스크를 만들 수 있습니다.
자동차 SW 개발 조직에서 AI를 안전하게 적용하려면 모델 성능뿐 아니라 보안, 권한 관리, 사용 이력, 검증 절차, Human-in-the-loop 승인 체계가 함께 준비되어야 합니다. 이번 글에서는 자동차 SW 개발 조직이 생성형 AI를 도입할 때 고려해야 할 주요 리스크와 필수 조건을 살펴보고, 기업용 AI 플랫폼 관점에서 안전한 AI 활용 전략을 정리합니다.
AI는 자동차 SW 개발의 반복 업무를 줄일 수 있습니다
자동차 SW 개발 조직에서 AI는 복잡한 코드베이스를 이해하고, 요구사항 문서를 분석하며, 변경된 기능이 어떤 모듈에 영향을 줄 수 있는지 검토하는 데 활용될 수 있습니다.
특정 기능의 요구사항을 기반으로 관련 소스코드를 탐색하거나, 기존 코드의 동작 방식을 요약 받을 수 있습니다. 또한 변경 영향 분석, 테스트 케이스 초안 작성, 코드 리뷰 체크리스트 생성, 개발 문서 요약과 같은 반복적인 업무에서도 AI의 도움을 받을 수 있습니다.
하지만 자동차 SW 개발에서 AI 적용은 신중해야 합니다
자동차 소프트웨어는 일반적인 애플리케이션과 달리 Safety-Critical 특성을 가집니다. ADAS, 제동, 조향, 배터리 관리 시스템, 파워트레인 제어와 같은 영역은 기능 오류가 실제 안전 문제로 이어질 수 있습니다.
따라서 AI가 생성한 코드나 분석 결과를 검증 없이 반영하는 방식은 적절하지 않습니다. 특히 ISO 26262, ASIL 등급, Functional Safety가 요구되는 영역에서는 AI의 결과물이 어떤 근거로 생성되었는지, 어떤 코드와 문서를 참조했는지, 사람이 어떤 기준으로 검토했는지까지 관리되어야 합니다.
ASPICE 관점에서도 마찬가지입니다. 자동차 SW 개발에서는 요구사항, 설계, 구현, 테스트, 결함 이력이 서로 단절되지 않고 연결되어야 합니다. 하나의 요구사항 변경이 어떤 소프트웨어 컴포넌트에 영향을 주는지, 어떤 테스트 케이스로 검증되어야 하는지, 기존 결함 이력과 어떤 관계가 있는지를 추적할 수 있어야 합니다.
이러한 Traceability가 확보되지 않은 상태에서 AI를 활용하면 단기적으로는 개발 속도가 빨라질 수는 있겠지만, 장기적으로는 검증 부담이 커지고, 변경 이력과 품질 근거를 설명하기 어려운 리스크가 발생하게 됩니다.
AI 결과도 개발 프로세스 안에서 관리되어야 합니다
자동차 SW 개발에서 중요한 것은 요구사항이 어떤 설계와 구현으로 이어졌는지, 해당 구현이 어떤 테스트로 검증되었는지, 변경이 발생했을 때 어떤 영향이 있었는지를 확인하는 것입니다.
AI가 요구사항을 요약하거나, 변경 영향 범위를 제안하거나, 테스트 케이스 초안을 생성하더라도 그 결과가 개발 프로세스 밖에 따로 존재해서는 안 됩니다. AI가 만든 분석 결과 역시 요구사항, 설계, 코드, 테스트, 결함 이력과 연결되어 검토되고 승인될 수 있어야 합니다.
이를 위해서는 AI 개발 환경이 기존 ALM 체계와 분리되지 않고 연결되는 구조가 필요합니다. 예를 들어 Trace.Space와 같은 요구사항 관리 및 Traceability 도구와 연계하면, AI가 제안한 분석 결과를 요구사항, 테스트, 변경 이력과 함께 검토하는 흐름을 만들 수 있습니다. 이때 AI는 독립적인 자동화 도구가 아니라, 자동차 SW 개발 프로세스 안에서 추적성과 검증을 보조하는 역할을 하게 됩니다.
안전한 AI 적용을 위해서는 통제 가능한 환경이 필요합니다
AI가 어떤 데이터에 접근할 수 있는지, 어떤 작업을 수행할 수 있는지, 생성된 결과가 어떻게 검토되고 기록되는지까지 함께 관리되어야 합니다.
가장 먼저 고려해야 할 것은 소스코드와 개발 문서의 보안입니다. 자동차 SW 개발에는 내부 설계 문서, 요구사항 명세서, 테스트 결과, 품질 이력, 고객사 프로젝트 정보 등 외부로 노출되기 어려운 데이터가 포함됩니다. 따라서 외부 SaaS형 AI 도구에 민감한 코드를 그대로 입력하거나, 내부 문서를 업로드하는 방식은 많은 기업에서 제한될 수밖에 없습니다.
이런 환경에서는 내부망 또는 온프레미스 기반으로 LLM을 운영하고, 모델별 사용 권한과 조직별 접근 정책을 세분화할 수 있는 구조가 필요합니다. Puteron AI 처럼 기업 내부 환경에서 모델 운영, 사용자 권한, 사용 정책, 운영 이력을 관리할 수 있는 플랫폼은 자동차 SW 조직이 AI를 통제 가능한 방식으로 도입하는 데 중요한 기반이 될 수 있습니다.
두 번째는 권한 관리입니다. AI가 사내 코드와 문서를 기반으로 답변하려면 사용자, 조직, 프로젝트별 접근 권한을 반영해야 합니다. 권한이 없는 개발자가 특정 프로젝트의 요구사항이나 소스코드를 AI 응답을 통해 간접적으로 확인할 수 있다면, 이는 보안 리스크로 이어질 수 있습니다.
세 번째는 사용 이력과 감사 로그입니다. 누가 어떤 질문을 했는지, AI가 어떤 코드와 문서를 참조했는지, 어떤 결과를 생성했는지 기록되어야 합니다. 특히 Safety-Critical 영역에서는 AI 결과가 실제 개발 과정에 어떻게 사용되었는지 추적할 수 있어야 합니다.
네 번째는 Human-in-the-loop 승인 체계입니다. AI는 개발자의 판단을 보조할 수 있지만, 최종 의사결정과 검증 책임까지 대체할 수는 없습니다. 코드 변경, 테스트 케이스 반영, 리뷰 결과 적용과 같은 작업은 사람이 검토하고 승인하는 절차 안에서 운영되어야 합니다.
에이전트 기반 워크플로우는 개발 프로세스 안에서 동작해야 합니다
AI의 활용은 에이전트 기반 워크플로우로 확장될 수 있습니다. 예를 들어 특정 요구사항이 변경되었을 때, AI Agent가 관련 문서와 코드를 탐색하고, 영향 범위를 분석하며, 필요한 테스트 케이스 후보와 리뷰 체크리스트를 제안할 수 있습니다. 이러한 방식은 자동차 SW 개발 조직에서 특히 유용합니다.
다만 AI Agent가 실제 개발 도구와 연결될수록 통제의 중요성은 더 커집니다. 코드 저장소, 이슈 시스템, 문서 저장소, 테스트 관리 도구와 연동되는 경우에는 접근 권한, 실행 범위, 작업 이력, 승인 절차가 명확해야 합니다.
이 지점에서 CodeCenter와 같은 기업용 AI 개발 플랫폼이 필요합니다. 개발자는 IDE 안에서 사내 코드베이스와 문서를 기반으로 질문하고, 요구사항 변경에 따른 영향 범위 분석, 테스트 케이스 초안 작성, 코드 리뷰 체크리스트 생성 같은 작업을 AI Agent 워크플로우로 확장할 수 있습니다. 즉, AI를 실제 개발 환경 안에서 활용할 수 있게 됩니다.
기업용 AI 개발 환경은 생산성과 통제를 함께 관리해야 합니다.
자동차 SW 조직에는 통제 가능한 AI 운영 환경과 개발자 중심의 AI 워크플로우가 함께 설계되어야 합니다. PuteronAI가 내부망 기반 모델 운영과 사용 정책 관리를 담당한다면, CodeCenter는 IDE, 코드베이스, 문서, AI Agent 워크플로우를 연결하는 역할을 합니다. 여기에 Traceability 도구가 함께 연계되면 AI가 생성한 분석 결과를 요구사항, 테스트, 변경 이력과 함께 검토하는 구조를 만들 수 있습니다.
이러한 구조가 마련되면 AI는 개인 개발자가 임의로 사용하는 도구가 아니라, 조직의 보안 정책과 개발 표준 안에서 운영되는 개발 인프라가 됩니다. 개발자는 반복적인 분석과 탐색 업무를 줄일 수 있고, 조직은 AI 활용 과정에서 필요한 보안, 권한, 이력, 검증 체계를 함께 확보할 수 있습니다.
마무리
AI는 자동차 SW 개발의 생산성을 높이는 강력한 도구이지만, 기업 환경에서 AI 를 실제 업무에 안전하게 활용하기 위해서는 모델 성능뿐 아니라 보안, 권한 관리, 이력 관리, 검증 체계, 추적성까지 함께 고려되어야 합니다.
특히 자동차 산업은 기능 안전과 규제 준수가 중요한 만큼, AI 역시 개발 프로세스와 거버넌스 안에서 운영될 수 있어야 합니다. 이러한 기반이 갖춰질 때 AI는 자동차 SW 개발 전반을 지원하는 핵심 인프라로 자리 잡을 수 있습니다.
또한 보안 요구사항이 높은 조직에서는 SaaS 기반 AI만으로는 한계가 있을 수 있습니다. 따라서 내부 데이터와 개발 자산을 안전하게 보호하면서 AI를 활용할 수 있도록 On-Prem 또는 Hybrid AI 환경을 기반으로 조직의 통제력을 확보하는 것이 무엇보다 중요합니다.
