AI기본법 시행, 우리 회사도 고영향 인공지능 영향평가를 준비해야 할까?
Article posted in 2026-10-08 18:08:22 | VEAT
인공지능을 개발하거나 이를 활용한 서비스를 제공하는 기업은 AI의 성능뿐 아니라 사람의 권리와 안전에 미치는 영향도 살펴봐야 합니다. 2026년 1월 22일부터 시행된 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(이하 “AI기본법”)에 따라, 서비스 출시 전 고영향 인공지능 해당 여부를 검토하는 것이 중요한 확인사항이 되었습니다.
AI기본법은 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로서 보건의료 등 일정한 영역에서 활용되는 것을 ‘고영향 인공지능’으로 정의합니다. 보건의료·의료기기, 채용·대출 심사, 교통시스템 운영, 공공기관의 의사결정, 학생 평가 등에 활용되는 AI가 그 대상이 될 수 있습니다. 다만 이러한 분야에서 AI를 활용한다는 이유만으로 고영향 인공지능으로 분류되는 것은 아닙니다. 서비스의 구체적인 기능과 목적, AI가 도출한 결과가 의사결정에 활용되는 방식 등을 종합적으로 살펴야 합니다.
고영향 인공지능에 해당한다면 영향평가를 반드시 실시해야 할까요?
AI기본법 제33조는 인공지능사업자가 제품이나 서비스를 제공하기 전에 고영향 인공지능 해당 여부를 검토하도록 규정하고 있습니다. 반면 제35조 제1항에 따른 기본권 영향평가는 실시를 위해 노력해야 하는 사항으로, 모든 사업자에게 일률적인 평가 완료 의무를 부과하는 것은 아닙니다.
다만 고영향 인공지능으로 분류되는 경우에는 별도로 법 제34조에 따른 위험관리, 이용자 보호, 사람의 관리·감독 등 안전성·신뢰성 확보 조치를 살펴야 합니다. 따라서 영향평가의 실시 여부뿐 아니라 서비스에 적용되는 법적 의무의 범위를 구분하는 것이 중요합니다.
고영향 인공지능 영향평가에서는 무엇을 살펴볼까요?
고영향 인공지능 영향평가는 정확도나 오류율을 확인하는 기술적 성능평가와 다릅니다. AI의 판단으로 권리나 안전에 영향을 받을 수 있는 개인 또는 집단을 파악하고, 서비스의 이용 과정에서 발생할 수 있는 기본권 위험과 그 범위를 분석하는 절차입니다.
예를 들어 채용 과정에서 AI가 지원자의 적합도를 평가하거나 선발 순위를 제시한다면 개인정보 수집·이용의 적법성, 학습데이터의 편향, 특정 지원자 집단에 대한 차별 가능성 등이 쟁점이 될 수 있습니다. AI의 결과가 단순 참고자료로 제공되는지, 담당자의 최종 판단에 어느 정도 영향을 미치는지에 따라서도 살펴볼 사항은 달라집니다.
영향평가를 진행할 때에는 서비스의 목적과 주요 기능, 데이터 처리 과정, AI의 판단 결과가 활용되는 절차를 확인해야 합니다. 또한 영향을 받을 수 있는 집단과 기본권의 유형을 파악하고, 취약계층의 특성, 위험의 예방·완화 방안, 필요한 개선사항 등을 살펴봅니다. 개발·운영 문서와 담당자 인터뷰를 통해 시스템의 작동 방식과 사람의 개입 구조를 확인하는 과정도 이러한 판단에 활용될 수 있습니다.
법무법인 비트는 AI 서비스의 기술적 구조와 운영 방식을 법률적 관점에서 분석하고, 고영향 인공지능 해당 여부 및 기본권 영향평가 과정에서 고려해야 할 쟁점을 살펴 개별 서비스에 맞는 검토 방향을 제시합니다.
자주 묻는 질문
Q. 우리 회사가 사용하는 AI도 고영향 인공지능에 해당하나요?
A. 고영향 인공지능 해당 여부는 AI를 활용하는 산업 분야뿐 아니라 서비스의 구체적인 기능과 판단 결과가 이용자의 권리·안전에 미치는 영향을 고려하여 판단해야 합니다. 채용·의료·교육·금융 등의 분야에서 AI를 사용하더라도 모두 고영향 인공지능으로 분류되는 것은 아닙니다. 따라서 기업은 AI의 활용 목적과 의사결정 과정에서의 역할, 결과가 영향을 미치는 대상 등을 살펴 고영향 인공지능 해당 여부를 확인해야 합니다.