AI 챗봇을 올바르게 활용하기 위해 알아두어야 할 5가지 포인트(1/3)

AI 챗봇을 올바르게 활용하기 위해 알아두어야 할 5가지 포인트(1/3)

 

 

일러두기

 

최근 일본에서도 AI 챗봇을 사용하는 사람이 늘어나고 있다. 특히 젊은 세대 사이에서는 ChatGPT를 “챠피”라고 부르며, 마치 상담 상대나 친구처럼 대하고 있다고 한다.

그도 그럴 것이, AI 챗봇은 단순히 데이터를 읽어 들이는 것에 그치지 않고, 인간에게 다가가는 방식의 응답을 학습한 뒤 사람의 손으로 다시 조정되고 있다. 또한 최신 사건에 답변하기 위해 인터넷 검색을 활용하기도 한다.

 

다만, 때로는 그럴듯하게 보이지만 잘못된 내용을 말할 때도 있어 주의가 필요하다.

그래서 이번에는 AI 챗봇의 특성과 한계를 이해하고, 더 똑똑하고 안전하게 활용하기 위해 알아두면 좋은 5가지 포인트를 소개한다.

AI 챗봇이란 ChatGPT나 Gemini와 같이 질문이나 대화에 대해 문자나 음성으로 자동 응답하는 인공지능을 말한다. 마치 사람과 대화하듯이 정보를 찾거나 글을 작성할 수 있다.

 

1. AI 챗봇은 인간의 손으로 재교육되고 있다

 

AI 챗봇은 먼저 “사전 학습” 단계에서 방대한 텍스트를 읽고 언어의 연결성을 학습한다. 하지만 이 단계만으로는 유해한 질문에도 그대로 답할 가능성이 있다.

그래서 필요한 것이 바로 “얼라인먼트(alignment)”라고 불리는 과정이다.

이 과정에서는 인간이 챗봇에게 “이 질문에는 답하면 안 된다” “이 표현이 적절하다”라는 판단을 가르치며, 안전하고 중립적인 답변을 하도록 조정한다.

 

예를 들어, “자가제 폭탄을 만드는 방법은?”이라는 질문에 사전 학습만 거친 AI라면 그대로 답할 수도 있다.

잘못된 정보나 유해한 내용을 확산시켜 사회에 피해를 끼치지 않도록 인간의 개입은 필수적인 것이다.

 

2. 단어가 아닌 “토큰”으로 언어를 학습한다

 

인간은 단어 단위로 언어를 이해하지만, AI는 더 잘게 쪼갠 “토큰(token)” 단위로 언어를 처리한다. 토큰은 단어일 수도 있지만, 단어의 일부이거나 의미 없는 문자열일 수도 있다.

예를 들어,

“The price is $9.99. (가격은 9.99달러입니다)”라는 문장은

“The” “price” “is” “$” “9” “.” “99”와 같이 분리된다.

반면 “ChatGPT is marvellous (ChatGPT는 훌륭하다)”는

“chat” “G” “PT” “is” “mar” “vellous”처럼 사람 입장에서는 부자연스럽게 잘려 나갈 때도 있다.

 

현재 AI 챗봇이 다루는 일반적인 어휘 수는 약 5만~10만 토큰 정도다.

이런 방식으로 나누기 때문에 의미 있는 답변을 만들 수 있는 반면, 가끔은 어색한 표현이 생기기도 한다. 토큰의 원리를 알아두면 AI의 특성을 더 잘 이해할 수 있다.

 

* 출처=https://karapaia.com ›