AI는 작업자가 아니라 검증 대상이다

AI를 처음 쓰면 가장 위험한 순간은 AI가 실수할 때가 아닙니다.

가장 위험한 순간은 AI가 자신 있게 완료했다고 말할 때입니다.

AI는 말투가 안정적입니다. 그래서 사용자는 결과도 안정적일 거라고 착각하기 쉽습니다. 하지만 실제로는 파일이 잘못 저장됐거나, 한글이 깨졌거나, 프롬프트의 핵심 조건을 놓쳤거나, 사용자가 원하지 않은 파일을 만들어 놓고도 완료했다고 말할 수 있습니다.

초보 사용자가 가장 먼저 배워야 할 교훈은 이것입니다.

AI의 완료 보고는 결과가 아니라 주장입니다.

그 주장이 맞는지는 사용자가 검증해야 합니다.

이번 같은 문제가 왜 생기나

예를 들어 AI에게 엑셀 스토리보드를 만들라고 했다고 해봅시다.

프롬프트에는 “증거컷은 한글 텍스트가 들어간 증거 슬라이드”라고 적혀 있습니다. 그러면 AI는 엑셀 안에 한글 문구를 넣어야 합니다.

그런데 실행 과정에서 한글이 ??로 깨질 수 있습니다.

이때 문제가 하나로 끝나지 않습니다.

  1. 엑셀에 깨진 문구가 저장됩니다.
  2. 다음 단계가 그 깨진 문구를 다시 읽습니다.
  3. 이미지 프롬프트에도 ??가 들어갑니다.
  4. 이미지 생성 결과에는 빈 박스나 이상한 텍스트가 나옵니다.
  5. AI는 그래도 “완료했습니다”라고 말할 수 있습니다.

즉, 앞 단계의 작은 깨짐이 뒤 단계 전체를 망칩니다.

AI 자동화에서는 한 단계가 틀리면 다음 단계가 그 틀린 결과를 재료로 씁니다. 그래서 초보자는 “다음 단계에서 고쳐지겠지”라고 생각하면 안 됩니다.

깨진 산출물은 다음 단계의 입력으로 쓰면 안 됩니다.

AI가 틀렸는지 확인하는 방법

AI가 뭔가를 만들었다면 바로 다음 네 가지를 확인해야 합니다.

첫째, 실제 파일이 원하는 위치에 있는지 확인합니다.

AI가 완료했습니다라고 말해도 파일이 다른 폴더에 있으면 실패입니다. 저장 경로를 직접 봐야 합니다.

둘째, 파일 안의 내용을 열어봅니다.

엑셀, 텍스트, CSV, 자막, 프롬프트 파일은 반드시 실제 내용을 봐야 합니다. 파일이 존재한다고 해서 내용이 맞는 것은 아닙니다.

셋째, 깨진 글자를 찾습니다.

한글 작업에서는 특히 아래 표시가 있으면 실패로 봐야 합니다.

??
???
자랑
ê²°
broken Hangul
random letters

이런 문자가 보이면 “조금 이상하지만 쓸 수 있겠지”가 아닙니다. 이미 데이터가 손상된 것입니다.

넷째, 원래 프롬프트와 비교합니다.

AI가 문제를 해결한다고 하면서 원래 요구를 바꿔버릴 때가 있습니다. 예를 들어 “한글 텍스트가 들어간 증거컷”이 필요한데, AI가 “한글을 넣지 말자”고 말할 수 있습니다.

그럴 때는 해결이 아니라 요구사항 변경입니다.

문제를 고치는 것과 목적을 바꾸는 것은 다릅니다.

초보자가 AI에게 맡기면 안 되는 것

초보자는 AI에게 “알아서 잘해줘”라고 말하기 쉽습니다.

하지만 파일 작업에서는 그렇게 하면 안 됩니다.

AI에게 맡기면 안 되는 것은 다음과 같습니다.

  • 저장 위치 판단
  • 파일 덮어쓰기 판단
  • 깨진 글자 검수
  • 원본 프롬프트 해석 변경
  • 성공 여부 판단

이 다섯 가지는 사용자가 기준을 정해줘야 합니다.

AI는 실행을 도울 수 있지만, 성공 기준은 사용자가 정해야 합니다.

AI에게 이렇게 지시해야 한다

파일을 만들거나 수정할 때는 AI에게 이렇게 지시하는 편이 안전합니다.

작업 후 완료라고 말하기 전에 실제 파일을 다시 열어 검수해라.
전체 셀과 전체 텍스트에서 ??, ???, 깨진 한글, random letters가 있는지 확인해라.
하나라도 있으면 성공으로 보고하지 마라.
원본 프롬프트의 목적을 바꾸지 마라.
문제를 해결할 수 없으면 어떤 조건 때문에 실패했는지 먼저 보고해라.

한글이 들어간 파일 생성 작업이라면 한 줄을 더 추가해야 합니다.

한글이 들어간 Python 코드를 PowerShell 파이프로 python -에 넘기지 마라.
반드시 UTF-8 .py 파일을 만든 뒤 실행해라.

이 한 줄이 중요한 이유는 간단합니다. 한글이 실행 과정에서 ??로 바뀌면 나중에 복구할 수 없기 때문입니다.

좋은 AI 사용자는 더 많이 믿는 사람이 아니다

AI를 잘 쓰는 사람은 AI를 무조건 믿는 사람이 아닙니다.

오히려 반대입니다.

AI를 잘 쓰는 사람은 AI가 만든 결과를 빨리 의심하고, 빨리 확인하고, 빨리 실패 처리합니다.

초보자는 AI의 말투에 속기 쉽습니다. “완료했습니다”, “검수했습니다”, “정상입니다” 같은 문장은 편하게 들립니다. 하지만 그 말은 증거가 아닙니다.

증거는 실제 파일입니다.

증거는 실제 셀 값입니다.

증거는 깨진 문자가 없는 결과물입니다.

작업마다 붙여야 할 짧은 체크리스트

AI가 파일을 만들었다면 아래 순서로 확인하세요.

1. 파일이 원하는 폴더에 있는가?
2. 원하지 않은 새 파일을 만들지는 않았는가?
3. 실제 내용을 열어봤는가?
4. ??, ???, 깨진 한글이 없는가?
5. 원래 프롬프트의 목적이 유지됐는가?
6. 다음 단계가 이 파일을 입력으로 써도 되는가?

이 중 하나라도 아니면 다음 단계로 넘어가면 안 됩니다.

결론

AI 자동화의 핵심은 프롬프트를 멋지게 쓰는 것이 아닙니다.

진짜 핵심은 검증 기준을 갖는 것입니다.

AI는 빠르게 실행합니다. 하지만 빠르게 틀릴 수도 있습니다.

초보 사용자가 기억해야 할 한 문장은 이것입니다.

AI가 완료했다고 해도, 내가 확인하기 전까지는 완료가 아니다.