EU,세계 첫 AI규제법 가결…연말 발효

AI 활용분야 4등급 나눠 차등 규제
딥페이크 사진, 영상 'AI 조작' 명기

EU의회가 인공지능 규제법을 압도적 표차로 통솨시켰다. / 로이터 연합뉴스

유럽연합(EU)이 세계 최초로 마련한 인공지능(AI) 규제법이 최종 승인돼 연말께부터 발효된다.

유럽의회는 13일(현지시간) 프랑스 스트라스부르에서 열린 본회의에서 'AI 법' 최종안이 찬성 523표, 반대 46표, 기권 49표로 가결됐다고 밝혔다. 규제 법안이 제안된 지 5년만이다.

EU의 'AI 법'은 AI 규제를 놓고 고심하는 세계 각국에서 이정표 역할을 할 것으로 보인다.

최종안에 따르면 EU는 AI 활용 분야를 총 네 단계의 위험 등급으로 나눠 차등 규제할 계획이다. 고위험 등급으로 분류되는 의료, 교육을 비롯한 수도·전기 등 공공 서비스나 선거, 핵심 인프라, 자율주행 등에서 AI 기술을 사용할 때 사람이 감독하도록 하고 위험관리시스템을 구축해야 한다. 또 고품질 데이터 사용과 사용자에 대한 고지 의무 등이 강화된다.

범용 AI(AGI·사람과 유사하거나 그 이상의 지능을 갖춘 AI)를 개발하는 기업에 대해서는 '투명성 의무'를 부여하기로 했다. 범용 AI 업체들은 EU 저작권법을 준수해야 하며 AI의 학습과정에 사용한 콘텐츠를 명시해야 한다.

사람의 행동을 통제하는 사회평가 시스템, 예측형 치안, 학교나 직장에서의 감정 인식 시스템처럼 위험을 야기할 수 있는 분야에서는 AI 사용이 원천 금지된다. AI로 생성한 딥페이크 사진, 영상, 오디오 등엔 AI로 조작된 것임을 명기해야 한다.

오픈AI의 GPT4와 구글 챗봇 제미니처럼 체계적 위험을 내포한 강력한 모델들은 추가 규제 대상이 된다. EU는 이런 AI가 오용될 경우 사이버 공격 수준의 심각한 사고가 발생할 수 있다고 우려했다. 또 생성형 AI의 경우 앱을 통해 다수의 사용자에게 편견을 유포할 수 있다고 판단했다. 이에 따라 해당업체는 위험을 평가하고 심각한 피해를 유발할 수 있는 오작동 등이 발생할 경우 보고가 의무화된다. 또 에너지 사용량도 공개해야 한다.

'AI 법'을 위반하면 최대 3800만 달러(약 500억 달러)의 벌금이나 전 세계 매출의 1.5%에서 최대 7%에 해당하는 과징금이 부과될 수 있다.

벨기에 브뤼셀에 AI 사무소가 설치되고 EU 각 나라에는 AI 감시센터가 설립될 예정이다.