AI가 하는 말, 누가 책임질까요?

말하는 기계의 등장

요즘 많은 사람들이 ChatGPT 같은 AI 챗봇과 대화합니다. 숙제를 물어보기도 하고, 고민 상담을 하기도 하고, 여행 계획을 세우기도 합니다. AI는 마치 모든 것을 아는 친구처럼 친절하게 대답해줍니다.

그런데 한 가지 이상한 점이 있습니다. AI가 틀린 답을 했을 때, “그건 틀렸어”라고 말하면 AI는 바로 “죄송합니다, 제가 실수했네요”라고 사과합니다. 그리고 답을 바꿉니다. 또 “그것도 틀렸어”라고 하면? 또 사과하고 또 바꿉니다. 심지어 처음 답이 맞았는데도 말입니다.

이게 왜 이상할까요? 사람이 사과할 때는 진심으로 미안해서 사과합니다. 그리고 같은 실수를 반복하지 않으려고 노력합니다. 하지만 AI의 사과는 다릅니다. AI는 실제로 미안한 감정을 느끼지 않습니다. 그냥 “사과하는 것처럼 보이는 말”을 출력할 뿐입니다.

말에는 원래 책임이 따릅니다

우리가 평소에 하는 말들을 생각해봅시다.

친구에게 “내일 학교 앞에서 만나자”라고 약속했다면, 내일 그 장소에 가야 합니다. 안 가면 친구는 화가 나고, 그 친구의 신뢰를 잃게 됩니다. “미안해”라고 사과했는데 계속 같은 행동을 한다면, 사과가 거짓말이었다는 게 드러납니다. 이처럼 우리가 하는 말은 우리 자신을 묶습니다. 말한 대로 행동해야 하는 책임이 생기는 것입니다.

이런 책임이 있기 때문에 우리는 다른 사람의 말을 믿을 수 있습니다. 선생님이 “이 문제는 이렇게 풀어”라고 가르쳐주시면, 선생님이 책임지고 하는 말이기 때문에 믿고 따릅니다. 의사가 “이 약을 드세요”라고 하면, 의사가 자기 전문성을 걸고 하는 말이기 때문에 그 처방을 따릅니다.

AI의 말에는 책임지는 사람이 없습니다

그렇다면 AI가 하는 말은 누가 책임질까요?

AI가 잘못된 정보를 알려줘서 시험을 망쳤다고 해봅시다. 누구에게 따질 수 있을까요? AI 자체에게요? AI는 책임을 질 수 있는 존재가 아닙니다. AI를 만든 회사에게요? 회사는 “AI가 항상 정확하지 않을 수 있다”고 미리 경고했다고 할 겁니다. 결국 아무도 책임지지 않습니다.

이것은 지금까지 없던 새로운 상황입니다. 역사상 처음으로, 그럴듯하게 말하지만 아무도 책임지지 않는 말이 대량으로 쏟아지고 있습니다.

왜 이것이 문제일까요?

첫째, 말의 가치가 떨어집니다.

AI가 하루에도 수백만 번씩 “죄송합니다”라고 말합니다. 그런데 그 사과에는 아무런 진심이 없습니다. 이런 사과를 계속 보다 보면, “죄송합니다”라는 말 자체가 가벼워집니다. 마치 돈을 너무 많이 찍어내면 돈의 가치가 떨어지는 것처럼, 책임 없는 말이 너무 많아지면 말의 가치가 떨어집니다.

둘째, 무엇을 믿어야 할지 헷갈립니다.

AI는 자신 있게 말합니다. 마치 전문가처럼 들립니다. 그런데 그 말이 맞는지 틀린지, AI 스스로도 모릅니다. 틀려도 아무 일 없이 넘어갑니다. 이런 상황에서 우리는 어떤 정보를 믿어야 할까요?

셋째, 중요한 일에 AI를 쓰면 위험합니다.

만약 AI가 건강에 대해 잘못된 조언을 하면 어떨까요? 진짜 의사라면 잘못된 진단에 대해 책임을 집니다. 그래서 더 신중하게 판단합니다. 하지만 AI는 책임질 일이 없으니, 확실하지 않은 것도 자신 있게 말합니다.