|
| 1 | +# ISO/IEC 42001:2023 — AI Management System (AIMS) |
| 2 | +# 핵심 요구사항 요약 (오픈소스 관점) |
| 3 | + |
| 4 | +**출처**: ISO/IEC 42001:2023 (공식 국제 표준, ©ISO) |
| 5 | +**버전**: 1.0 (2023) |
| 6 | +**제정 기관**: ISO/IEC JTC 1/SC 42 (인공지능) |
| 7 | +**용도**: ISO 42001 가이드 작성 시 나침반 — 오픈소스 관리와 교차하는 요구사항 및 통제항목 매핑 기준 |
| 8 | + |
| 9 | +> **저작권 고지**: 이 파일은 ISO/IEC 42001:2023의 저작권을 준수하기 위해 |
| 10 | +> 원문을 그대로 복사하지 않고 요구사항을 요약·의역한 것이다. |
| 11 | +> 정확한 원문은 ISO 공식 사이트(iso.org)에서 구매할 수 있다. |
| 12 | +
|
| 13 | +> **오픈소스 교차 표시**: ★ 는 오픈소스 관리와 직접 교차하는 요구사항을 나타낸다. |
| 14 | +
|
| 15 | +--- |
| 16 | + |
| 17 | +## 표준 구조 개요 |
| 18 | + |
| 19 | +ISO 42001은 ISO/IEC 경영 시스템 표준(Management System Standard, MSS) 공통 구조(Annex SL)를 따른다. |
| 20 | +ISO 9001(품질), ISO 27001(정보보안)과 동일한 §4–§10 구조를 사용한다. |
| 21 | + |
| 22 | +``` |
| 23 | +§4 조직 맥락 → AI MS 범위와 이해관계자 파악 |
| 24 | +§5 리더십 → AI 정책, 역할·책임 |
| 25 | +§6 기획 → AI 리스크·기회, AI 영향 평가 |
| 26 | +§7 지원 → 역량, 인식, 문서화 |
| 27 | +§8 운영 → AI 시스템 생애주기, 데이터, 외부 AI 조달 |
| 28 | +§9 성과 평가 → 모니터링, 내부 감사, 경영 검토 |
| 29 | +§10 개선 → 부적합, 시정 조치, 지속 개선 |
| 30 | +Annex A → 통제목표 및 통제항목 (참조용, 선택적 적용) |
| 31 | +``` |
| 32 | + |
| 33 | +--- |
| 34 | + |
| 35 | +## §4 조직 맥락 (Context of the Organization) |
| 36 | + |
| 37 | +### §4.1 조직과 조직 맥락의 이해 |
| 38 | + |
| 39 | +조직은 AI 관리 시스템의 목적과 의도한 결과에 영향을 미치는 내·외부 이슈를 파악해야 한다. |
| 40 | +AI 시스템과 관련된 사회적·윤리적·기술적 맥락을 고려해야 한다. |
| 41 | + |
| 42 | +### §4.2 이해관계자의 필요와 기대 이해 |
| 43 | + |
| 44 | +AI 시스템에 관련된 이해관계자(규제기관, 고객, AI 시스템 사용자, 공급망 파트너 등)를 식별하고 |
| 45 | +그들의 요구사항과 기대를 파악해야 한다. |
| 46 | + |
| 47 | +### §4.3 AI 관리 시스템 범위 결정 |
| 48 | + |
| 49 | +조직은 AI 관리 시스템이 적용될 AI 시스템, 프로세스, 조직 경계를 문서로 정의해야 한다. |
| 50 | + |
| 51 | +### §4.4 AI 관리 시스템 |
| 52 | + |
| 53 | +AI 관리 시스템을 수립·구현·유지·지속적으로 개선해야 한다. |
| 54 | + |
| 55 | +--- |
| 56 | + |
| 57 | +## §5 리더십 (Leadership) |
| 58 | + |
| 59 | +### §5.1 리더십과 의지표명 |
| 60 | + |
| 61 | +최고경영진은 AI 관리 시스템에 대한 리더십과 의지표명을 보여야 한다. |
| 62 | +AI 정책을 수립하고 충분한 자원을 배분해야 한다. |
| 63 | + |
| 64 | +### §5.2 AI 정책 ★ |
| 65 | + |
| 66 | +조직은 AI 정책을 수립해야 한다. AI 정책은 다음을 포함해야 한다: |
| 67 | +- 조직의 AI 사용 목적과 원칙 |
| 68 | +- AI 관련 법·규정 및 윤리 원칙 준수 의지 |
| 69 | +- AI 시스템 생애주기에 걸친 책임 체계 |
| 70 | +- 지속적 개선 의지 |
| 71 | + |
| 72 | +**★ 오픈소스 교차점**: AI 정책에 오픈소스 AI 프레임워크·모델·데이터셋 사용에 관한 |
| 73 | +라이선스 컴플라이언스 원칙을 포함해야 한다. |
| 74 | + |
| 75 | +### §5.3 조직의 역할, 책임, 권한 |
| 76 | + |
| 77 | +AI 관리 시스템과 관련된 역할을 정의하고 책임과 권한을 부여해야 한다. |
| 78 | + |
| 79 | +--- |
| 80 | + |
| 81 | +## §6 기획 (Planning) |
| 82 | + |
| 83 | +### §6.1 리스크와 기회에 대응하는 조치 |
| 84 | + |
| 85 | +#### §6.1.1 일반사항 |
| 86 | + |
| 87 | +AI 관리 시스템 기획 시 리스크와 기회를 모두 고려해야 한다. |
| 88 | + |
| 89 | +#### §6.1.2 AI 리스크 평가 ★ |
| 90 | + |
| 91 | +조직은 다음을 포함하는 AI 리스크 평가 프로세스를 수립·구현·유지해야 한다: |
| 92 | +- AI 리스크 식별 기준 및 허용 가능한 수준 정의 |
| 93 | +- AI 시스템과 관련된 리스크 식별 및 분석 |
| 94 | +- 리스크 수준 평가 |
| 95 | + |
| 96 | +**★ 오픈소스 교차점**: AI 리스크 평가 시 오픈소스 컴포넌트의 라이선스 리스크(GPL 오염, |
| 97 | +특허 조항 등)와 보안 취약점 리스크(CVE)를 명시적으로 포함해야 한다. |
| 98 | + |
| 99 | +#### §6.1.3 AI 리스크 처리 |
| 100 | + |
| 101 | +리스크 처리 옵션(회피, 완화, 전가, 수용)을 선택하고 처리 계획을 수립해야 한다. |
| 102 | + |
| 103 | +#### §6.1.4 AI 시스템 영향 평가 ★ |
| 104 | + |
| 105 | +AI 시스템이 개인, 그룹, 사회에 미칠 수 있는 영향을 평가하는 프로세스를 수립해야 한다. |
| 106 | +영향 평가 결과를 문서화하고 주기적으로 재평가해야 한다. |
| 107 | + |
| 108 | +**★ 오픈소스 교차점**: AI 시스템 영향 평가 항목에 사용된 오픈소스 컴포넌트의 라이선스 의무 |
| 109 | +이행 여부(특히 저작권 표시, 소스 코드 공개 의무)를 포함할 수 있다. |
| 110 | + |
| 111 | +### §6.2 AI 목표 및 달성 기획 |
| 112 | + |
| 113 | +측정 가능한 AI 목표를 수립하고 이를 달성하기 위한 계획(담당자, 일정, 수단, 측정 방법)을 |
| 114 | +문서화해야 한다. |
| 115 | + |
| 116 | +--- |
| 117 | + |
| 118 | +## §7 지원 (Support) |
| 119 | + |
| 120 | +### §7.1 자원 |
| 121 | + |
| 122 | +AI 관리 시스템의 수립·구현·유지·개선에 필요한 자원(인력, 인프라, 환경, 지식 등)을 |
| 123 | +파악하고 제공해야 한다. |
| 124 | + |
| 125 | +### §7.2 역량 ★ |
| 126 | + |
| 127 | +AI 관리 시스템과 관련된 역할을 수행하는 인원의 필요 역량을 결정하고, 교육·훈련·경험을 |
| 128 | +통해 역량을 확보·유지해야 한다. |
| 129 | + |
| 130 | +**★ 오픈소스 교차점**: AI 시스템 개발·운영 인원에게 오픈소스 라이선스 컴플라이언스 및 |
| 131 | +보안 취약점 관리 역량이 포함되어야 한다. |
| 132 | + |
| 133 | +### §7.3 인식 |
| 134 | + |
| 135 | +AI 관련 역할을 수행하는 인원은 AI 정책, AI 관리 시스템의 목표, 자신의 기여 방법, |
| 136 | +미준수 시 결과 등에 대해 인식하고 있어야 한다. |
| 137 | + |
| 138 | +### §7.4 커뮤니케이션 |
| 139 | + |
| 140 | +AI 관리 시스템과 관련하여 내·외부 커뮤니케이션 대상, 내용, 시기, 방법을 결정해야 한다. |
| 141 | + |
| 142 | +### §7.5 문서화된 정보 ★ |
| 143 | + |
| 144 | +조직은 다음을 포함하는 문서화된 정보를 수립·유지해야 한다: |
| 145 | +- AI 관리 시스템 운영에 필요한 문서 |
| 146 | +- 의도한 결과 달성 신뢰를 위한 기록 |
| 147 | +- AI 시스템 관련 의사결정·설계·개발·배포 이력 |
| 148 | + |
| 149 | +**★ 오픈소스 교차점**: AI 시스템의 구성 문서(AI SBOM)는 §7.5의 "문서화된 정보" |
| 150 | +요구사항과 직접 연결된다. AI SBOM은 다음을 포함해야 한다: |
| 151 | +- AI 프레임워크 및 라이브러리 목록과 버전 |
| 152 | +- 사전 훈련된 모델(Pre-trained model)과 출처 |
| 153 | +- 학습 데이터셋과 라이선스 |
| 154 | +- 각 구성요소의 라이선스 정보 |
| 155 | + |
| 156 | +--- |
| 157 | + |
| 158 | +## §8 운영 (Operation) |
| 159 | + |
| 160 | +### §8.1 운영 기획 및 통제 |
| 161 | + |
| 162 | +AI 관리 시스템 요구사항을 충족하는 데 필요한 프로세스를 계획·구현·통제·유지해야 한다. |
| 163 | + |
| 164 | +### §8.2 AI 리스크 평가 (운영 시) |
| 165 | + |
| 166 | +계획된 주기나 중요한 변경 발생 시 AI 리스크 평가를 수행해야 한다. |
| 167 | + |
| 168 | +### §8.3 AI 리스크 처리 (운영 시) |
| 169 | + |
| 170 | +리스크 처리 계획을 이행하고 그 결과를 문서화해야 한다. |
| 171 | + |
| 172 | +### §8.4 AI 시스템 영향 평가 (운영 시) ★ |
| 173 | + |
| 174 | +AI 시스템의 영향 평가를 수행하고 결과를 이해관계자와 공유해야 한다. |
| 175 | +영향 평가는 AI 시스템의 수명주기 동안 반복적으로 수행해야 한다. |
| 176 | + |
| 177 | +**★ 오픈소스 교차점**: 영향 평가 시 오픈소스 컴포넌트의 알려진 취약점(CVE)이 |
| 178 | +AI 시스템 전체 보안에 미치는 영향을 포함한다. |
| 179 | + |
| 180 | +### §8.5 AI 시스템 생애주기 ★ |
| 181 | + |
| 182 | +AI 시스템의 설계, 개발, 검증, 배포 각 단계에서 요구사항을 수립·이행해야 한다. |
| 183 | +각 단계의 산출물과 의사결정을 문서화해야 한다. |
| 184 | + |
| 185 | +**★ 오픈소스 교차점**: AI 시스템 개발 단계에서 사용하는 오픈소스 프레임워크 |
| 186 | +(예: PyTorch, TensorFlow, Hugging Face)에 대한 라이선스 컴플라이언스 확인이 필요하다: |
| 187 | +- 사용 프레임워크의 라이선스 확인 (Apache 2.0, MIT, GPL 등) |
| 188 | +- 라이선스 의무(고지문, 소스 공개 등) 이행 |
| 189 | +- SBOM에 프레임워크 포함 |
| 190 | + |
| 191 | +### §8.6 AI 시스템을 위한 데이터 ★ |
| 192 | + |
| 193 | +AI 시스템 개발에 사용되는 데이터는 다음 측면에서 관리해야 한다: |
| 194 | +- 데이터 품질(완전성, 대표성, 편향 등) |
| 195 | +- 데이터 출처 및 수집 방법 |
| 196 | +- 데이터 처리·저장·보호 방법 |
| 197 | +- 개인정보 및 지식재산권 준수 |
| 198 | + |
| 199 | +**★ 오픈소스 교차점**: 학습 데이터셋에 오픈 데이터 또는 크리에이티브 커먼즈 라이선스 |
| 200 | +데이터가 포함된 경우, 해당 라이선스 조건(저작자 표시, 동일 조건 변경 허락 등)을 |
| 201 | +준수해야 한다. AI SBOM에 데이터셋과 라이선스를 포함한다. |
| 202 | + |
| 203 | +### §8.7 AI 시스템의 피드백 인터페이스 |
| 204 | + |
| 205 | +AI 시스템 사용자가 피드백, 우려사항, 이의를 제기할 수 있는 메커니즘을 마련해야 한다. |
| 206 | + |
| 207 | +### §8.8 외부 당사자가 공급하는 AI 시스템 사용 ★ |
| 208 | + |
| 209 | +외부에서 조달한 AI 시스템(모델, API, 서비스 포함)을 사용할 때의 요구사항: |
| 210 | +- 외부 AI 시스템에 대한 평가 및 검토 프로세스 |
| 211 | +- 외부 공급자의 AI 관리 수준 확인 |
| 212 | +- 외부 AI 시스템 사용 관련 책임 명확화 |
| 213 | + |
| 214 | +**★ 오픈소스 교차점**: 외부 오픈소스 AI 모델(예: Llama, Mistral, Falcon 등) 또는 |
| 215 | +오픈소스 AI 플랫폼을 조달·사용할 때: |
| 216 | +- 모델 라이선스 확인 (Community License, Apache 2.0, CC-BY 등) |
| 217 | +- 상업적 사용 가능 여부 및 조건 확인 |
| 218 | +- AI 공급망 SBOM에 외부 모델 포함 |
| 219 | + |
| 220 | +--- |
| 221 | + |
| 222 | +## §9 성과 평가 (Performance Evaluation) |
| 223 | + |
| 224 | +### §9.1 모니터링, 측정, 분석 및 평가 ★ |
| 225 | + |
| 226 | +AI 관리 시스템의 성과를 모니터링하고 측정해야 한다. |
| 227 | +모니터링 대상, 방법, 주기, 결과 분석 방법을 결정해야 한다. |
| 228 | + |
| 229 | +**★ 오픈소스 교차점**: 성과 지표에 오픈소스 컴플라이언스 지표(SBOM 최신화율, |
| 230 | +취약점 패치율, 라이선스 위반 건수 등)를 포함할 수 있다. |
| 231 | + |
| 232 | +### §9.2 내부 감사 |
| 233 | + |
| 234 | +AI 관리 시스템이 요구사항을 충족하는지 확인하기 위한 내부 감사 프로그램을 |
| 235 | +계획·실행·보고·결과 보존해야 한다. |
| 236 | + |
| 237 | +### §9.3 경영 검토 |
| 238 | + |
| 239 | +최고경영진은 주기적으로 AI 관리 시스템을 검토하여 지속적 적합성·적절성·효과성을 |
| 240 | +확인해야 한다. |
| 241 | + |
| 242 | +--- |
| 243 | + |
| 244 | +## §10 개선 (Improvement) |
| 245 | + |
| 246 | +### §10.1 부적합 및 시정 조치 |
| 247 | + |
| 248 | +부적합 발생 시 즉각 조치, 근본 원인 분석, 시정 조치를 수행하고 결과를 문서화해야 한다. |
| 249 | + |
| 250 | +### §10.2 지속적 개선 |
| 251 | + |
| 252 | +AI 관리 시스템의 적합성·적절성·효과성을 지속적으로 개선해야 한다. |
| 253 | + |
| 254 | +--- |
| 255 | + |
| 256 | +## Annex A 통제항목 요약 (오픈소스 교차 항목 중심) |
| 257 | + |
| 258 | +Annex A는 ISO 42001이 참조하는 통제목표와 통제항목을 제공한다. |
| 259 | +ISO 27001의 Annex A와 유사한 구조이며, 조직이 선택적으로 적용한다. |
| 260 | + |
| 261 | +| 통제 영역 | 오픈소스 관련성 | 해당 가이드 섹션 | |
| 262 | +|-----------|----------------|----------------| |
| 263 | +| **A.2 AI 관련 정책** | AI 정책에 OSS 사용 원칙 포함 | 1-context-leadership | |
| 264 | +| **A.4 AI 시스템 자원** | OSS 프레임워크 선택 기준 | 2-planning | |
| 265 | +| **A.5 AI 시스템 영향 평가** | OSS 취약점의 AI 시스템 영향 | 2-planning | |
| 266 | +| **A.6 AI 시스템 생애주기** | 개발 시 OSS 컴플라이언스 | 4-operation/1-oss-in-ai | |
| 267 | +| **A.7 AI 시스템을 위한 데이터** | 오픈 데이터셋 라이선스 | 4-operation/1-oss-in-ai | |
| 268 | +| **A.8 이해관계자를 위한 정보** | AI SBOM 투명성 공개 | 4-operation/2-ai-sbom | |
| 269 | +| **A.9 제3자 AI 시스템 사용** | 외부 OSS 모델 조달 검증 | 4-operation/3-supply-chain | |
| 270 | + |
| 271 | +--- |
| 272 | + |
| 273 | +## ISO 5230 / ISO 18974 / ISO 42001 관계 요약 |
| 274 | + |
| 275 | +| 비교 항목 | ISO 5230 | ISO 18974 | ISO 42001 | |
| 276 | +|-----------|----------|-----------|-----------| |
| 277 | +| **대상** | 오픈소스 라이선스 | 오픈소스 보안 | AI 시스템 전체 | |
| 278 | +| **관리 대상** | 소프트웨어 공급망 | 오픈소스 취약점 | AI 시스템 생애주기 | |
| 279 | +| **입증자료** | 25개 명시 | 25개 명시 | 없음 (shall 요구사항) | |
| 280 | +| **자체 인증** | OpenChain 체크리스트 | OpenChain 체크리스트 | 자체 갭 분석 (도구 없음) | |
| 281 | +| **오픈소스 관련성** | 직접 (전체) | 직접 (전체) | 교차 (일부 조항) | |
| 282 | +| **교차 조항** | — | — | §5.2, §6.1.2, §7.5, §8.5, §8.6, §8.8 | |
| 283 | + |
| 284 | +--- |
| 285 | + |
| 286 | +## 오픈소스 교차 요구사항 빠른 참조 |
| 287 | + |
| 288 | +| ISO 42001 조항 | 오픈소스 교차 내용 | 대응 ISO 5230/18974 | |
| 289 | +|----------------|-------------------|---------------------| |
| 290 | +| §5.2 AI 정책 | OSS 사용 정책 포함 | ISO 5230 §3.1.1 | |
| 291 | +| §6.1.2 AI 리스크 평가 | OSS 라이선스·취약점 리스크 | ISO 18974 §4.3.2 | |
| 292 | +| §6.1.4 AI 영향 평가 | OSS 컴포넌트 영향 | ISO 18974 §4.1.5 | |
| 293 | +| §7.2 역량 | OSS 컴플라이언스 역량 | ISO 5230 §3.1.2 | |
| 294 | +| §7.5 문서화 | AI SBOM | ISO 5230 §3.3.1 / ISO 18974 §4.3.1 | |
| 295 | +| §8.5 AI 생애주기 | OSS 프레임워크 컴플라이언스 | ISO 5230 §3.3 | |
| 296 | +| §8.6 AI 데이터 | 오픈 데이터셋 라이선스 | ISO 5230 §3.3.2 | |
| 297 | +| §8.8 외부 AI 조달 | OSS 모델 공급망 검증 | ISO 5230 §3.3, ISO 18974 §4.3.2 | |
| 298 | +| §9.1 성과 평가 | OSS 컴플라이언스 지표 | ISO 5230 §3.6 | |
0 commit comments