AI 챗봇을 올바르게 활용하기 위해 알아두어야 할 5가지 포인트(2/3)

AI 챗봇을 올바르게 활용하기 위해 알아두어야 할 5가지 포인트(2/3)

 

3. AI 챗봇은 최신 정보를 인터넷 검색으로 조사한다

 

AI 챗봇은 스스로 새로운 정보를 계속 학습하는 것은 아니다. 따라서 아주 최근의 사건에는 대응하지 못하거나 모르는 것도 많다.

 

그들의 지식 원천은 ‘학습 데이터’이며, 그 마지막 갱신 시점을 **지식 컷오프(knowledge cut-off)**라고 부른다. 즉, 컷오프 이후에 일어난 일은 기본적으로 알지 못한다는 뜻이다.

2025년 6월 27일 현재, ChatGPT-4o의 지식 컷오프는 2024년 6월이다. 그 이후의 사건에 대한 질문을 받으면, ChatGPT는 Bing이라는 검색 엔진을 사용해 인터넷상의 정보를 조사하고, 관련성과 신뢰성이 높은 것을 선택해 답변한다.

 

이러한 AI의 지식 갱신에는 비용이 많이 들고, 기술적으로도 아직 안정적이지 않다.

또한 검색 기능을 통한 답변에는 출처나 신뢰성의 편차가 존재한다.

AI가 항상 최신 정보를 가지고 있는 것은 아니라는 점을 이해하고, 필요할 때는 스스로도 확인하는 것이 중요하다.

 

4. 자신감 있게 틀린 정보를 말할 수 있다

 

AI 챗봇에는 **‘환각(hallucination)’**이라는 문제가 있다. 이는 사실이 아님에도 불구하고 그럴듯한 말투로 이야기해 버리는 현상이다.

 

예를 들어, 실제로 존재하지 않는 논문의 내용을 설명하거나, 존재하지 않는 URL을 제시하는 경우가 있다.

AI는 사실을 검증하는 것이 아니라, 단지 ‘그럴듯해 보이는 답’을 만들어낼 뿐이기 때문이다.

 

이러한 오류를 완전히 막기는 어렵지만, “정보 출처를 알려주세요” “모를 때는 모른다고 말해주세요”와 같은 지시를 내리면 어느 정도 정확성을 높일 수 있다.

그럼에도 불구하고 현재 시점에서는 환각을 완전히 없앨 수는 없다.

 

* 출처=https://karapaia.com › サイエンス＆テクノロジー