딥페이크나 가짜뉴스 등 생성형 인공지능(AI)을 통한 사회적 혼란과 갈등의 부작용이 커지며 AI 규제 움직임이 가속화되는 상황에 미국 행정부와 G7에서 규제의 기준이 될만한 지침이 나왔다.
바이든 미국 대통령이 서명한 행정명령과 G7이 합의한 '히로시마 AI 프로세스'의 내용을 알아본다.
딥페이크 가짜뉴스 등 생성형 AI 규제 방안, 바이든 행정명령과 히로시마 AI 프로세스
바이든 대통령, AI 관련 행정명령 서명
10.30 조 바이든 미국 대통령, '안정적이고 안전하며, 신뢰할 수 있는 AI에 대한 행정명령에 서명.
주요 목표
- 딥 페이크 등 가짜 AI 생성 콘텐츠로부터 미국인의 사생활과 시민권을 보호
- 형평성 및 시민권을 증진, 소비자 및 노동자를 옹호, 혁신과 경쟁을 촉진
▶ 생성형 AI관련 부작용과 인공지능 기술 논란들 참조
주요 조치
- AI 안전 및 보안을 위한 새로운 표준을 수립
- AI 개발 시 사전에 취약점을 찾아내는 레드팀 의무적 구성
- 국가안보, 경제안보, 공중보건 및 안전에 심각한 위험을 초래하는 AI모델 테스트 시 연방정부에 보고
(최소한 핵무기와 생화학무기, 중요 인프라와 에너지 안조 등에 위협을 판단하는 평가도구 개발)
- AI 모델 개발 시 개발 의도와 훈련계획, 사이버 보안 조치 보고 의무화
- AI 생성 콘텐츠 인증 및 워터마크 부착
- AI 학습 관련 저작권 지침 마련
* 미국 상무부, AI로 만든 콘텐츠에 명확한 라벨을 붙이기 위해 콘텐츠 인증 및 워터마크에 대한 지침을 개발할 예정
* 2023년 7월 바이든 주최 백악관 행사에서 오픈 AI, 알파벳, 마이크로소프트, 메타, 아마존 등 주요 AI 기업들은 AI 생성 콘텐츠에 워터마크를 넣는 등의 안전 조치를 약속
G7, 히로시마 AI 프로세스 합의
히로시마 AI프로세스
10. 31 G7, '히로시마 AI 프로세스'에 의한 AI 개발 국제 지침 및 행동 강령에 합의.
'히로시마 AI 프로세스'는 2023년 5월 히로시마에서 열렸던 G7 정상회의에서, 생성형 AI의 국제 규범과 국제 정보 유통의 틀을 만드는 것을 목표로 추진되어 왔다.
* G7 : 미국, 독일, 캐나다, 영국, 프랑스, 이탈리아, 일본
- 고도의 AI 개발 조직에 국제 행동 규범을 준수할 것을 요구
- 정부 당국자들이 히로시마 AI 프로세스를 더욱 발전시키기 위한 작업 계획을 연말까지 책정하도록 요청
AI 개발자 국제지침과 행동 강령, 11개 항목
- 인권에 중대한 위험을 초래할 방법으로 고도의 AI를 개발, 도입해서는 안 된다
- 국제적인 기술 규격에 맞게 개발을 추진
- 세계적 과제 해결을 위한 AI 시스템 개발 우선순위 지정
- AI 제품 배포 전후 내, 외부 테스트를 통한 보안 취약점 확인
- 안전, 보안 평가 보고서 공개
- 개인정보보호 및 위험관리 정책 공개
- 물리, 정보 보안 조치 구현
- 지식재산(IP), 개인정보 보호를 위해 시스템으로 유입되는 데이터 제어
- 워터마크 등으로 AI 생성 콘텐츠 식별
- AI 안전성 연구 투자
- 테스트 및 콘텐츠 인증에 대한 국제표준 채택
구속력을 갖춘 AI 규제법안 필요와 추진
이번에 바이든 대통령이 서명한 행정명령이나 G7의 행동강령은 구체적인 법안만큼의 강제성이 부족하다. 위반 시에 법적으로 규제할 구속력이 없기 때문에 AI 개발 기업들이 제대로 준수할 가능성이 낮아진다.
미국의 빅테크 기업들에 시장 주도권을 장악당한 유럽은 강력한 AI 규제를 추진하고 있는 반면, 미국과 일본 등은 경제 성장을 위하여 상대적으로 약한 규제로 접근하는 모양새다.
투자은행 골드만삭스가 인공지능(AI)의 발전으로 생산성 증대가 향상된다며 세계 각국의 GDP 증가율 전망치를 상향하는 등 AI의 발전 가능성과 유용함은 인정되지만, 딥페이크나 가짜뉴스 생성 등의 부작용 또한 경제, 정치, 사회 속에 이미 큰 혼란을 일으킨 바 있다.
정치와 경제논리에 함몰되어 오랜 시간을 두고 사회적 비용을 치르는 인간의 역사는 되풀이되어 왔다. 단기적이고 근시안적인 이해관계로 인한 소극적 접근보다는, 폭넓은 논의와 적극적인 사전 대응 조치가 필요할 듯하다.
딥페이크 기술의 악용과 딥페이크 범죄처벌과 불법영상물 논란
딥페이크 기술의 악용, 딥페이크 범죄 처벌과 불법영상물 논란
인공지능을 기반으로 한 이미지 합성 기술 딥페이크(deepfake)가 불법 영상물 제작에 이용되고 그 영상물이 온라인에 배포되면서, 사회적 논란과 범죄의 증가가 점점 늘어나고 있다. 딥페이크의
artopic.tistory.com
'사회토픽' 카테고리의 다른 글
| 여당은 김포 서울 편입, 대통령은 지방시대, 여론조사는 반대가 두배 (0) | 2023.11.04 |
|---|---|
| 조삼모사 윤석열식 재정건전성, 비상경제민생회의, 서민 지원하려니 탄핵...? (0) | 2023.11.01 |
| 내사, 용의자, 입건과 피의자, 공소와 기소, 기소유예 등 법률용어 (81) | 2023.10.27 |
| 채상병 사건 생존 해병 대원, 전역 후 임성근 해병대1사단장 업무상과실치상 고소 (3) | 2023.10.25 |
| 국정감사 일정(10.20~11.08)과 대상기관 2편, 국정감사 생중계와 보고서 처리절차 (51) | 2023.10.16 |
댓글