생성형 AI관련 부작용, 인공지능 기술의 논란들

생성형 AI, 대화형 AI 등 인공지능 기술의 활용도와 사용자가 급격히 늘어나면서, 인공지능을 활용한 시장 또한 빠르게 팽창하고 있다.

또한 인공지능 기술을 오용하거나 악용하여 타인과 사회에 피해를 주는 사례가 늘고 있어, EU를 비롯한 세계 각국에서 인공지능 규제와 규율에 대한 활발한 논의가 이루어지고 있다.

최근 일고 있는 인공지능 기술 활용의 부작용과 논란들을 살펴본다.

AI 일러스트

 

생성형 AI관련 부작용, 인공지능 기술의 논란들

 

AI 생성 가짜 판례로 변호사 징계위기

지난달 미국에서는 실제 재판 사건에서 AI가 만든 가짜 판례가 발견돼 변호사 징계를 받게 됐는데, 30년 경력의 스티븐 슈워츠 변호사가 재판을 준비하면서 챗 GPT에 도움을 요청한 게 문제였다. 쉽게 의뢰인 측에 유리한 선례를 찾을 것이라는 예상과 달리 채팅 GPT는 가상의 선례를 보여주었고, 슈워츠의 변호인은 이 내용을 아무 생각 없이 의견서에 담아 재판부에 제출하였는데, 결국 그는 가짜 판례가 담긴 서류를 제출한 혐의로 법원 심리에 넘겨졌습니다.

 

AI 합성사진 가짜뉴스에 증시 출렁

지난달 SNS를 중심으로 미국 국방부 청사 근처에서 대규모 폭발이 일어났다는 소식이 생생한 사진과 함께 퍼져나갔는데 이는 AI가 만든 가짜뉴스였다. AI에 의해 합성된 사진으로 만들어진 가짜뉴스에 불과했지만 주요 증시가 하락세를 겪었고 이후 미국 국방부의 공식 해명으로 가짜 뉴스임이 밝혀졌다.

아마추어 만화가들, AI사용 웹툰 보이콧

최근 네이버웹툰 게시판에는 AI 사용에 반대하는 독자들과 아마추어 만화작가들의 'AI 보이콧' 운동이 벌어졌고, 반면 AI를 이용해 고강도 노동시간을 단축하는 등 피할 수 없는 흐름이라는 의견도 일고 있다.

아마추어 만화가들은 자기 작품을 올리는 네이버 웹툰 '도전만화' 게시판에 AI로 만들어진 웹툰을 반대한다는 글을 수십 개씩 반복해서 올리며 "AI는 수집된 데이터에서 일치하는 이미지를 합성해 출력할 뿐"이라며 "원작자의 그림을 무단으로 도용한 것"이라는 주장을 펼쳤다.

반응형

 

그래미 어워즈 AI로만 만든 음악 수상 부적격

미국 최고 권위의 대중음악 시상식인 그래미 어워즈가 '인공지능으로만 만든 노래'는 그래미 음악상 수상 자격이 없음을 밝혔다.

그래미 어워즈를 주최하는 미국 음악 전문가 단체 '레코딩 아카데미'는 이번 개정한 규정집에서 그래미 어워즈는 인간 창작자들만 참가할 수 있다는 내용을 신설했고, 인간의 저작물이 포함되지 않은 작품은 어떤 시상 부문에도 부적격이라고 설명했다.

이 내용은 규정집에 "제출된 작품의 인간 저작 요소는 의미 있어야 한다"는 문구로 포함되었는데, 이는 지난달 아카데미 이사회에서 인간 창작자가 음악이나 가사에 '의미 있는' 기여를 했다면 AI 요소가 들어간 작품도 그래미 어워즈 참가 자격이 있다고 결정한 것에 따른 것이다.

일부분 AI의 도움을 받을 순 있지만 전적으로 AI가 만든 음악은 안 된다는 규정이다.

 

생성 AI, 회사 기밀 정보 유출 위험

구글의 모회사인 알파벳이 직원들에게 '챗 GPT'나 '바드'같은 생성 AI에 회사 기밀 정보를 입력하지 말라고 경고했는데, 비밀 유지가 필요하거나 민감한 정보는 넣지 말라는 내용이 최근 개인정보보호지침에 추가된 것으로 알려졌다.

이는 AI가 정보를 유출할 위험이 있기 때문이고 실제로 챗GPT가 회사 내부 정보와 비슷한 답변을 한 사례가 확인되었기 때문이다. 이 때문에 월마트, MS, 아마존 등도 직원들에게 회사 중요 정보를 생성 AI에 입력하지 말라고 경고했다 한다.

 

사망한 존 레넌의 미완성 곡, AI기술 적용 발매

1980년 사망한 존 레넌의 미완성곡이 인공지능 기술의 도움을 통해 올해 말 발매될 예정이다. 비틀스 멤버인폴 매카트니는 존 레넌이 데모테이프에 남긴 음원을 바탕으로 비틀스의 마지막 기록을 만들었다고 밝혔다.

AI 기술을 사용해 존 레넌의 목소리를 선명하게 뽑아내고 믹싱 작업을 거쳐 노래를 완성했다고 말한 그는, AI를 이용해 재구성한 노래에 대한 팬들의 우려를 이해하면서도 그게 우리의 미래이기 때문에 흥미롭기도 하다는 견해를 밝혔다.

현재 AI 기술로 목소리 추출과 멜로디 변경, 가사 바꿔 부르기 등이 가능하지만 이번 신곡에서 어떤 AI 기술을 적용했는지는 확인되지 않았다고 한다.