매일, AI 기사를 만나보세요
보다보면 나만의 아이디어가 떠오를지도?
EU AI ACT 1 - 유럽의회, 인공지능을 위한 최최 규칙 협상 준비
안녕하세요.
오늘도 AI뉴스입니다.
그동안 EU AI ACT에 대한 기사들을 몇번 다뤘습니다.
인공지능과 관련된 중요한 움직임이기 때문에 어떤내용을 담고 있는지 가지고 왔습니다.
다음은 기사의 한국 번역입니다.
유럽 의회, 안전하고 투명한 인공지능을 위한 최초 규칙 협상 준비
보도자료 PLENARY SESSION IMCO LIBE 14-06-2023 - 12:52
생체 인식, 감정 인식, 예측적 치안유지에 대한 인공지능(AI) 완전 금지
ChatGPT와 같은 생성형 AI 시스템은 AI가 생성한 콘텐츠임을 명시해야 함
선거에서 유권자에게 영향을 미치는 AI 시스템은 고위험으로 간주
CCTV 카메라 화면 시뮬레이션과 얼굴 인식
새로운 규칙은 소셜 스코어링(영향력지수 평가), 생체 인식 및 감정 인식을 위한 AI 시스템을 금지합니다.
이 규칙은 인간 중심적이고 신뢰할 수 있는 AI의 확산을 촉진하고, 건강, 안전, 기본권 및 민주주의를 AI로 인한 유해한 영향으로부터 보호하는 것을 목표로 합니다.
수요일, 유럽 의회는 AI 액트에 대한 협정 입장을 채택했습니다. 이로써 법률의 최종 형태에 대해 EU 회원국과의 협상이 이루어질 것입니다. 이 규칙은 EU 권리와 가치를 완벽하게 준수하는 AI의 개발과 사용을 보장합니다. 이에는 인간 감독, 안전, 개인 정보 보호, 투명성, 비차별성, 사회 및 환경적 웰빙이 포함됩니다.
금지된 AI 시행
이 규칙은 위험 중심적 접근을 따르며, AI가 생성할 수 있는 위험 수준에 따라 공급자와 AI 시스템을 배치하는데 있어 의무사항을 제정합니다.
인간의 안전에 대해 받아들일 수 없는 수준의 위험을 가진 AI 시스템은 금지됩니다. 예를 들어, 사람들을 사회적 행동이나 개인적 특성에 따라 분류하는 소셜 스코어링에 사용되는 AI가 그 중 하나입니다. 의회는 공격적이고 차별적인 AI 사용을 금지하는 데에도 더 넓게 다음과 같은 것들을 금지합니다.
- 공공 장소에서 사용되는 "실시간" 원격 생체 인식 시스템
- "포스트" 원격 생체 인식 시스템은 단, 심각한 범죄를 수사하기 위해 법 집행기관에 의해 사전 허가를 받은 경우만 허용됨
- 민감한 특성(예: 성별, 인종, 민족, 시민권 상태, 종교, 정치적 성향)을 사용하는 생체 분류 시스템
- 프로파일링, 위치 또는 과거 범죄 행동에 기반한 예측적 치안유지 시스템
- 법 집행, 국경 통제, 직장 및 교육 기관에서 사용되는 감정 인식 시스템
- 인권과 개인 정보 보호를 침해하는 인터넷 또는 CCTV 영상에서 얼굴 이미지를 비선택적으로 수집하여 인식 데이터베이스를 만드는 것
- 고위험 AI
의회는 고위험 응용 프로그램의 분류에 대한 보다 구체적인 기준을 마련하여 건강, 안전, 기본권 또는 환경에 중대한 피해를 입히는 AI 시스템을 포함하도록 하였습니다. 유권자에게 영향을 미치고 선거 결과에 영향을 미치는 AI 시스템 및 소셜 미디어 플랫폼(4500만명 이상의 사용자가 있는 경우)에서 사용되는 추천 시스템이 고위험 목록에 추가되었습니다.
일반용 AI에 대한 의무사항
AI 분야에서의 새롭게 부상하는 'foundation models'의 제공자들은 발매 전에 해당 모델의 위험 요소(건강, 안전, 기본권, 환경, 민주주의, 법치)를 평가하고 완화해야 하며, EU 시장에 출시하기 전에 이들 모델을 EU 데이터베이스에 등록해야 합니다. 이와 같은 모델을 기반으로 하는 ChatGPT와 같은 생성형 AI 시스템은 투명성 요구사항(콘텐츠가 AI에 의해 생성되었다는 사실 공개, 딥페이크 이미지와 실제 이미지 구분을 돕기 위한 사항 포함)을 준수해야 하며 불법 콘텐츠 생성 방지를 위한 보호장치를 제공해야 합니다. 또한 훈련에 사용된 저작권 보호 데이터의 상세 요약을 공개해야 합니다.
혁신 지원과 시민의 권리 보호
AI 혁신을 촉진하고 중소기업 지원을 위해, 의회는 연구 활동 및 오픈 소스 라이선스 하에 제공되는 AI 구성 요소에 대한 예외 사항을 추가했습니다. 이 새로운 법률은 공공 당국에 의해 설립된 '규제 샌드박스' 또는 실제 환경에서 AI를 배치하기 전에 테스트할 수 있는 환경을 촉진합니다.
마지막으로, 의회는 시민들이 AI 시스템에 대한 불만을 제기하고 기본권에 중대한 영향을 미치는 고위험 AI 시스템에 대한 결정에 대한 설명을 받을 권리를 강화하고자 합니다. 의회는 또한 EU AI 사무소의 역할을 개혁하여 AI 규칙서가 어떻게 시행되는지를 모니터링할 것입니다.
인용문
투표 후, 공동 주도자 브란도 베니페이(사회민주당, 이탈리아)는 "오늘은 모든 시선이 우리를 바라보고 있습니다. 빅테크 기업들이 자체 창조물에 대해 경고를 내고 있을 때, 유럽은 AI가 시작하는 위험에 대해 구체적인 대응책을 제안했습니다. 우리는 AI의 창의성과 생산성에 대한 긍정적 잠재력을 이용하고, 협상에서 우리의 위치를 보호하며 민주주의와 자유에 대한 위험에 대항하겠습니다."라고 말했습니다.
공동 주도자 드라고스 투도라케(개혁유럽, 루마니아)는 "AI 액트는 인공지능의 개발과 거버넌스에 전 세계적인 톤을 제시하며, 이 기술이 미래 사회를 근본적으로 변화시키면서도 민주주의, 기본권 및 법치의 유럽 가치와 일치하도록 보장합니다."라고 말했습니다.
다음 단계
법률의 최종 형태에 대한 의회와 회의는 오늘 늦게 시작될 예정입니다.
기자회견
공동 주도자 브란도 베니페이(사회민주당, 이탈리아)와 드라고스 투도라케(개혁유럽, 루마니아)는 오늘 6월 14일 오후 1시 30분에 EP 회장 로베르타 메졸라와 함께 기자회견을 개최하여 오늘의 투표 결과 및 다음 단계에 대해 설명할 예정입니다.
의회는 이 법률의 추진으로 미래 유럽 컨퍼런스에서 제기된 다음과 같은 시민의 제안에 대응하고 있습니다. AI 관련 프로세스에 인간 감독을 보장하는 것(제안서 35(3)), 신뢰할 수 있는 AI의 잠재력을 최대한 활용하는 것(제안서 35(8)), 언어 장벽을 극복하기 위해 AI와 번역 기술을 활용하는 것(제안서 37(3)).
#인공지능윤리 #인공지능뉴스 #인공지능기사 #AI #AI기사 #인공지능세특 #세특 #입시 #AI세특 #GPT #GPT4
#ChatGPT #인공지능용어 #인공지능지식 #인공지능상식 #AI상식 #AI용어 #AI지식 #AI공부 #인공지능공부
#인공지능시사 #생성형AI #AI채용 #인공지능시대 #AI시대 #AMCULAB #EUAIACT #AIACT #유럽의회
#유럽AI법 #인공지능법 #고위험AI
