한 줄 차이
검색엔진은 자료를 찾는 도구에 가깝고, 생성형 AI는 자료를 읽고 답을 만들어내는 도구에 가깝다.
요즘 ChatGPT·Claude·Gemini는 검색 기능까지 붙어 있기 때문에 둘이 한 화면에 섞여 보인다. 그래도 구분해야 한다.
AI가 문장을 자연스럽게 만들었다는 것과 그 문장이 사실이라는 것은 같은 말이 아니다.
AI에게 먼저 맡기기 좋은 일
처음에는 정답을 요구하기보다 가공하는 일부터 맡기는 것이 쉽다.
- 긴 문서를 짧게 요약하기
- 회의 메모를 보고서 형식으로 바꾸기
- 여러 안을 비교하는 표 만들기
- 문장을 더 이해하기 쉽게 고치기
- 빠진 항목을 찾아보기
- 아이디어 초안을 여러 개 만들기
이런 일은 결과를 사람이 바로 읽어보고 판단할 수 있다.
조심해야 하는 일
반대로 AI가 혼자 정답을 결정하게 하면 위험한 일이 있다.
계약 조건, 법률 판단, 정확한 숫자, 최신 회사 규정, 인사 평가처럼 틀렸을 때 비용이 큰 정보다.
이때 AI는 최종 결정자가 아니라 조사·정리·검토 보조자로 두는 편이 낫다.
기억할 것
말을 잘한다고 사실을 잘 아는 것은 아니다.
최신 언어모델도 사실과 다른 내용을 자신 있게 생성할 수 있다. OpenAI도 현재 모델에서 환각이 완전히 사라진 것은 아니라고 설명하고 있고, NIST(미국 국립표준기술연구소) 역시 생성형 AI의 주요 위험 중 하나로 자신 있게 제시되는 잘못된 내용을 별도로 분류한다.
그래서 무엇을 다르게 할 것인가
- 사실 여부를 확인해야 하는 일은 검색이나 원문 대조를 먼저 거친다.
- AI에게는 정답을 단정 짓게 하지 말고, 초안 작성이나 가공·비교 작업을 먼저 맡긴다.
- AI가 내놓은 답은 반드시 사람이 확인하는 단계를 둔다.