오류정보 생성(Hallucination) 발생률 0.25%.(끝)

오류정보 생성(Hallucination) 발생률 0.25%.(끝)

==놀라운 정밀도를 자랑하는 ‘AI를 평가하는 AI’란 무엇인가 AI(인공지능).==

 

 

경영진의 이해가 필수 – ‘기술은 동료다’

 

일본 기업은 수직적인 조직 구조 속에 현장의 권한이 강한 경향이 있습니다. 부서가 다르면 별개의 회사처럼 운영되는 경우도 많습니다.

이러한 구조 속에서 AI를 활용한 조직 혁신을 추진하기 위해서는 경영진의 이해가 필수입니다.

AI inside에서 AI 도입 컨설팅을 담당하는 타카하시 쿠라도(髙橋蔵人) 씨는 “AI 활용을 추진하기 위해선 역시 경영진의 이해가 중요시 된다”고 강조합니다.

“AI 같은 기술의 발전으로 개혁 사례가 많이 나왔습니다. 경영진에게는 기술 활용이 매출 확대를 위한 하나의 전략임을 인식시키고, KPI 달성의 조력자로 인식되도록 해야 합니다.” (타카하시 씨)

 

‘AI가 AI를 평가’ – 할루시네이션 발생률 0.25%

 

이번 AIIC의 주요 주제 중 하나였던 ‘생성형 AI의 과제와 리스크’를 논의하는 데 있어, 할루시네이션에 대한 기술적 해결책도 소개되었습니다.

AI inside의 CEO 와타쿠치 타쿠(渡久地 拓)는 할루시네이션을 줄이기 위한 기술로 ‘Critic Intelligence(CI)’를 개발했다고 밝혔습니다. CI는 **‘AI를 평가하는 AI’**로, 자사가 개발한 일본어 특화 LLM인 PolySphere-2가 생성한 응답에서 오류 가능성이 있는 부분을 탐지합니다.

CI는 데이터 품질과 AI 응답의 정확도를 크게 향상시켜, 할루시네이션 발생률을 0.25%까지 낮추는 데 성공했으며, **데이터 구조화 정확도는 89.86%**에 이르렀습니다.

 

AI 에이전트와 함께 일하는 ‘Work with Buddy’ 실현을 향해

 

AI inside는 자사의 주력 서비스인 **AI-OCR ‘DX Suite’**에 생성형 AI를 활용한 ‘AI 에이전트’를 탑재할 것이라고 발표했습니다.

DX Suite는 각종 양식을 데이터화할 수 있으며, 새롭게 탑재될 AI 에이전트는 사용자 대신 설정이나 데이터 가공 등의 작업을 수행하는 전담 AI로, 화면 우측 상단에 상시 대기하게 됩니다.

해당 기능은 2025년부터 순차적으로 적용될 예정이며, 초기 업데이트에서는 CI 기술을 활용한 데이터 정확성 검증 기능이 도입될 예정입니다.

예전에는 AI-OCR 처리 후 사용자가 눈으로 데이터를 확인하는 과정이 필요했지만, AI 에이전트가 대신 오류 가능성을 알려주는 구조로 발전하게 됩니다.

AI inside는 이러한 AI 에이전트 탑재를 통해 **“No more Tools, Work with Buddy”**라는 개념을 사회에 정착시키고자 합니다.

“툴(tool)은 설정이 필요하지만, 버디(buddy)는 그렇지 않다. 이런 생각을 자사 커뮤니티를 통해 사회에 정착시키고 싶다.” (와타쿠치 CEO)

AI가 진정한 동료로 진화하며 인간과 협업하는 시대의 도래를 실감케 하는 행사였습니다.

필요하시면 요약본이나 특정 섹션만 뽑아드릴 수도 있습니다.

 

* 일본어원문=ハルシネーション（「Hallucination」/誤情報の生成）出現率0.25％。脅威の精度 を誇る｢AIを                       評価するAI｣とは

* 출처=Business Insider Japan