05LLM이 뭔지 쉽게

초반에 할 수 있는 가장 유익한 일은 AI를 마법이나 사람으로 여기는 걸 그만두는 것이다. 둘 다 아니다.

현대 AI는 언어 모델이다. 인간이 써놓은 어마어마한 양의 글을 읽고 딱 한 가지를 배웠다. 다음에 뭐가 올지 맞히기. 네가 시작을 쓰면 걔가 잇는다. 나머지 전부는 그 위에 쌓은 것들이다.

지루하게 들리지만, 걔의 모든 힘이 바로 여기서 나온다. 코드와 문서와 토론을 하도 많이 읽어서, "그냥 텍스트 잇기"가 걔한테는 돌아가는 함수를 쓰고, 버그를 찾고, 서버가 왜 응답이 없는지 설명하는 일이 된다.

약점도 같은 곳에서 나온다. 인간적인 의미로 "아는" 게 아니고 스스로 검증하지도 않는다. 헛소리 방향으로 이어달라고 하면 신나게 헛소리 방향으로 이어간다.

이 원리를 이해하면 두 가지 공포가 바로 낫는다. 첫째, "날 평가하는 거 아냐?" - 아니, 평가 안 하니까 뭐든 물어봐. 둘째, "똑똑하니까 항상 맞겠지" - 그것도 아니니까 검증해.