AI 도입으로 인한 6가지 해로운 점과 향후 전망

AI 도입으로 인한 6가지 해로운 점과 향후 전망

 

 인공지능 도입의 해로운 점이란?

 

인공지능 탑재 제품 및 서비스 비교 목록・도입 사례・자료 요청을 무료로 할 수 있는 AI 포털 미디어 인공지능을 도입함으로써 많은 이점을 얻을 수 있지만, 동시에 단점도 존재한다. 아래에 나열된 단점들을 도입 전에 반드시 숙지해 두는 것이 중요하다.

 

1. 고용 감소

“노동력 부족을 해소할 수 있다.”는 점은 분명 이점이지만, 다른 시각에서 보면 “인간의 일이 사라진다”는 의미이기도 하다. 현재는 인간이 담당하고 있는 업무도, 장래에는 인공지능이 대체할 가능성이 있다. 특히, 운전 관련 업무나 건설 관련 기술직 등에서는 인공지능이 주도적인 역할을 하게 될 가능성이 높다.

다만, 모든 업무가 인공지능에 의해 대체되는 것은 아니다. 창의력이 요구되는 창작 업무에 있어서는 인간이 인공지능보다 뛰어나기 때문이다. 따라서, 이러한 창의적 업무에서는 오히려 고용 수요가 높아질 것으로 예상된다.

 

2. 정보 유출의 위험

인공지능을 활용할 경우, 네트워크를 통해 고객 정보와 같은 기밀 정보를 다루게 된다. 이는 매우 편리하지만, 외부 해킹이나 정보 유출의 위험이 있기 때문에 주의가 필요하다.

AI의 학습 기능을 악용해 매우 빠른 속도로 시스템에 침입하는 사이버 공격 사례도 많이 발생하고 있다. 이러한 AI를 이용한 공격에 대응할 수 있는 것은 결국 AI밖에 없을 가능성이 높다. 따라서 AI를 탑재한 보안 시스템을 활용하거나 다층 방어 구조를 갖춘 보안 대책이 필요하다.

또한, 내부 직원에 의한 정보 유출 가능성도 존재한다. 이에 따라, AI를 활용할 때는 사내 보안 규칙을 마련하고, 직원 대상의 보안 교육도 병행해야 한다. 자사의 보안을 강화하는 조치로서, AI와 보안에 관한 전문 지식을 갖춘 인력을 상시 배치하는 것도 효과적이다.

 

3. 리스크 관리의 어려움

AI를 도입하는 기업이 증가함에 따라 리스크 관리의 필요성도 커지고 있다. 도입된 AI 시스템에 문제가 발생하면 관련 업무가 모두 중단될 위험이 있다. 이 경우 기업은 큰 피해를 입을 수 있다.

따라서, AI를 도입하기 전에 예상되는 리스크나 문제 발생 원인, 문제의 영향 범위, 대응 방안을 사전에 파악하는 것이 중요하다. AI에 대한 전문 인력이 사내에 없다면 문제 발생 시 대응이 어려울 수 있으므로, 우선 부분적으로 AI를 도입하는 것이 바람직하다. AI의 리스크 관리를 전문적으로 지원하는 서비스를 활용하는 방법도 있다.

 

4. 책임 소재 불분명

AI를 탑재한 자동차, 로봇, 드론 등이 사고를 일으켜 타인에게 피해를 입힌 경우, 소유자나 제조업체가 책임을 지게 된다. 하지만 때로는 그 책임의 소지가 불분명해질 수 있다.

AI의 소유자는 “불법 행위 책임”을 질 가능성이 있다. 단, 다음 세 가지 조건을 모두 충족해야 한다:

1) 침해 행위에 고의 또는 과실이 있을 것

2) 피해가 발생했을 것

3) 침해 행위와 피해 사이에 인과관계가 있을 것

한편, AI 제조업체는 “제조물 책임”을 질 가능성이 있다. 이 역시 다음 세 가지가 모두 인정될 경우에 해당한다:

1) 제조물에 결함이 있을 것

2) 타인에게 피해가 발생했을 것

3) 결함과 피해 사이에 인과관계가 있을 것

AI로 인한 사고에 대비해, 어떤 책임이 발생할 수 있는지를 충분히 이해하고 리스크를 회피할 수 있는 준비가 필요하다.

 

5. 사고 과정의 블랙박스화

사람이 업무를 진행하거나 아이디어를 낼 경우, 그 사고 과정을 명확히 확인할 수 있다. 하지만 AI는 방대한 정보를 고속으로 처리하기 때문에, 어떤 사고 과정을 통해 결과에 도달했는지 인간이 파악하기 어렵다.

예를 들어, 2016년에 AI가 프로 바둑 기사에게 승리했지만, 이 경기에서 AI의 사고 과정은 밝혀지지 않았다. 즉, 왜 AI가 이길 수 있었는지조차 알 수 없다. 이는 “AI 블랙박스 문제”로 불리며, AI의 사고 과정이 불분명하기 때문에 그 결론이 정말 최적인지 판단하기 어렵고, 최종 결정에 활용하기 어렵다는 문제가 있다.

또한 AI에 문제가 생겼을 경우 원인 파악이 어렵다. 이에 대응하기 위해, AI의 사고 과정을 시각화하려는 솔루션을 개발 중인 기업들도 있다.

 

6. 비용의 증가

AI를 도입하면 다양한 비용 절감이 기대되지만, 도입과 유지에는 상당한 비용이 소요된다는 점도 사실이다. 시스템 개발이나 교체, AI를 관리하고 운용할 인재 채용 등으로 인해 초기에는 비용이 증가할 수밖에 없다.

또한 정밀한 인공지능을 개발하기 위해서는 방대한 양의 빅데이터 수집이 필수이다. 하지만 단순히 많은 데이터를 모은다고 해서 되는 것이 아니다. AI의 정밀도는 빅데이터의 “질”에 크게 좌우되기 때문이다.

아무리 많은 데이터를 수집하더라도, 그 질이 낮으면 AI의 예측·분석 정확도는 향상되지 않다. 즉, 데이터의 양과 질을 모두 확보해야 한다.

따라서, 고정밀 인공지능을 도입하려면 양질의 방대한 데이터를 수집하기 위한 시간과 비용을 투자해야 한다. 도입 비용과 운영 비용을 계산하고, 그 효과가 투자에 상응하는지를 반드시 고려해야 한다.

* 일본어원문=AI・人工知能の導入によって生まれるメリット・デメリットや問題点

* 출처=AIsmiley

https://aismiley.co.jp ›

 

****주식회사 아이스마일리가 운영하는 AI 포털 미디어 "AIsmiley"는 AI 전문가가 콘텐츠를 제공하고 제품을 소개하는 웹 미디어입니다. AI 자격을 보유한 편집부가 DX(디지털 전환) 추진 사례, 인공지능 솔루션의 활용 방법, 뉴스, 트렌드 정보를 발신하고 있습니다.****