차원이 다른 ChatGPT의 충격(5/7)

차원이 다른 ChatGPT의 충격(5/7)

 

큰 위협도

 

놀라울 만큼 빠르게 진화하는 AI. 그 위협에 대해 전 세계적으로 우려의 목소리가 높아지고 있다.

미국에서는, 비영리 단체가 “고도화된 AI의 등장으로 인류가 문명을 통제하지 못하게 될 우려가 있다.”며 최소한 반년 동안 개발을 중단할 것을 요구하는 서한을 공개했다.

 

실업가 일론 머스크 씨나 애플의 공동 창업자 중 한 명인 스티브 워즈니악 씨 등 유명 인사들이 서명에 참여했으며, 11일 시점에서 2만 명을 넘는 서명이 모였다.

 

데이터 이용 문제

우려되는 점 중 하나는, AI가 학습하는 인터넷상의 데이터 이용 문제다.

데이터에는 개인 정보나 비즈니스의 기밀 정보 등이 포함될 가능성이 있다.

 

이탈리아 당국은 “개인 데이터를 법적 근거 없이 수집하고, 이용자의 대화 내용이나 결제 관련 정보에서 데이터 침해가 있었다.”며 개인정보 보호법 위반 혐의가 있다고 보고 일시적으로 사용을 금지한다고 발표했다.

 

이에 대해 개발 기업은 “AI가 학습하는 데이터에 개인 정보가 포함될 수는 있으나 가능한 한 삭제하고 있으며, AI가 생성하는 답변은 폭력 등을 포함한 내용이 만들어지지 않도록 하고 있다.”고 밝혔다.

또한, 이용자는 18세 이상, 혹은 보호자의 허락을 받은 13세 이상으로 제한되며, 앞으로는 나이를 확인하는 시스템 도입을 검토하고 있다고 했다.

가짜 생성, 사이버 범죄로의 악용은

또 하나의 위험은 잘못된 정보나 가짜 뉴스의 확산, 국가의 프로파간다 등에 이용될 수 있다는 점이다.

특정 국가나 정치인 등에 호의적이거나 악의적인 방향으로 기사를 대량 생산하면 여론을 조작할 수 있는 우려도 있다.

 

사이버 범죄에 악용될 위험도 지적된다.

미국의 조사 회사가 발표한 2023년 세계 10대 리스크에서는 러시아, 중국에 이어 3위에 「대혼란 생성 무기」라는 제목으로, ChatGPT 등 생성형 AI의 발전과 보급이 정치·경제적 혼란에 광범위하게 영향을 미칠 수 있다고 평가되며 선정되었다.

 

도쿄대학교의 마쓰오 유타카 교수는 규칙 마련의 필요성을 지적한다.

(도쿄대학교 마쓰오 유타카 교수)

“인간의 의사 결정에 큰 영향을 미칠 가능성이 있는 만큼, ‘이런 방식의 사용은 좋다·나쁘다’라는 규칙을 가능한 한 빨리 마련해야 한다. 자동차가 등장했을 때 제한 속도나 안전벨트 규정이 생긴 것과 마찬가지다.”

* 출처=NHK

https://www3.nhk.or.jp › ... ›