AI를 왜 안 쓰시냐고 물어보면 대개 같은 대답이 돌아옵니다. 내가 넣은 정보를 AI가 학습해서 어디에 쓸지 모르겠다는 것입니다. 주변에서도 강의에서도 듣습니다. 안 쓰는 이유 중에 가장 큰 것이 대체로 이것이었습니다.
저는 그 자리에서 이렇게 답해 왔습니다. 걱정하실 만하다고 먼저 말합니다. 실제로 그 두려움을 안고서는 쓰기가 어려우니까요. 그러고는 걱정하실 만큼 우리 데이터를 가져가지는 않는 걸로 안다고 덧붙이고 넘어갔습니다.
그런데 저 말이 마음에 걸렸습니다. 안다고 했지만 확인한 것은 아니었습니다. 어디서 주워들은 것을 제 말인 양 옮기고 있었습니다. 그래서 한번 제대로 알아보기로 했습니다.
하나인 줄 알았던 걱정이 셋이었습니다
알아보고 나니 하나처럼 보이던 걱정이 서로 다른 세 질문이었습니다. 내가 쓴 것이 AI에게 배워지는가. 배워진 것이 남의 화면에 나타나는가. 배움과 상관없이 다른 길로 새는가.
세 질문의 답이 각각 달랐습니다. 그런데 사람들은 이것을 하나로 묻고 저도 하나로 답하고 있었습니다. 그래서 어느 쪽으로 답해도 절반은 틀렸던 것입니다.
졸업하고 나온 사람이었습니다
제가 이해한 것을 제 말로 옮기면 이렇습니다.
지금 제가 대화하고 있는 AI는 이미 공부를 마치고 나온 상태입니다. 학교를 졸업한 사람과 비슷합니다. 졸업한 뒤로는 새로 배우지 않습니다. 오늘 제가 무슨 말을 건네도 지금 이 사람의 학력이 바뀌지는 않습니다.
그런데 여기서 하나 더 확인해야 할 것이 있었습니다. 오늘 건넨 서류가 다음 학기 교재를 만들 때 자료로 들어갈 수는 있다는 것입니다. 개인용 요금제는 대부분 그렇게 하는 쪽이 기본값이었습니다. 회사가 숨긴 것이 아니라 약관에 적혀 있는데 제가 안 읽었을 뿐입니다. 설정에 들어가면 학습을 끌 수 있었고, 끄는 데 3분이면 충분했습니다.
다만 자료로 들어가는 것과 그대로 외워지는 것은 별개였습니다. AI가 무언가를 통째로 외우려면 그 내용이 인터넷 곳곳에 수백 번은 반복돼 있어야 합니다. 유명한 시나 여러 곳에 옮겨 실린 기사 같은 것들입니다. 한 번 쓰인 제 대화는 그 조건과 정반대에 있습니다.
정작 문제가 생긴 자리는 달랐습니다
그러면 마음을 놓아도 되느냐 하면 그렇지는 않았습니다. 다만 조심할 자리가 제가 생각하던 곳이 아니었습니다.
실제로 사고가 난 경우들을 찾아보니 배움과 상관없는 쪽이었습니다. 대화를 밖에서 볼 수 있게 하는 버튼을 눌러 검색에 걸린 일, 계정을 도둑맞은 일, 이름 모를 무료 앱이 대화를 그대로 흘린 일. 회사 자료를 넣었다가 문제가 된 경우도 있었는데, 그것도 AI가 퍼뜨려서가 아니라 넣는 순간 이미 밖으로 나간 것이었습니다.
정리하고 나서 남은 것은 이렇습니다. 무엇을 쓰느냐보다 그것이 어느 창을 지나가느냐가 실제 갈림길이었습니다.
두려움은 그전부터 있었습니다
솔직히 저는 이 걱정이 크지 않은 편이었습니다. 제 개인적인 이야기가 AI가 굳이 배울 만한 것이라고 생각해 본 적이 없어서입니다.
다만 그렇게 느끼는 정도는 사람마다 다릅니다. 내가 쓰는 모든 것을 AI가 지켜보고 있다고 여기며 두려워하는 분들이 지금도 계십니다.
그분들을 보면서 든 생각이 있습니다. 이 두려움은 AI에서 시작된 것이 아닙니다. 휴대전화가 우리 이야기를 듣고 있는 것 같다는 말은 전부터 있었습니다. 오늘 이야기한 물건이 내일 광고로 뜨는 일을 겪고 나면 그 의심은 쉽게 지워지지 않습니다. 그렇게 의심이 이미 자리를 잡은 상태에서 AI가 얼마나 대단한지를 알게 되면, 있던 두려움이 그쪽으로 옮겨 붙어 커지는 것 같습니다.
저는 근거를 확인하고 나서 두려움이 많이 줄었습니다. 그런데 줄어든 것은 배움에 대한 두려움이지 전부가 아닙니다. 배움과 무관한 경로에서 나는 사고는 여전히 걱정스럽습니다. 오늘 찾아본 사고들이 전부 그쪽이었으니까요.
그래서 이제는 걱정이 크신 분께 예전처럼 답하지는 않으려고 합니다. 괜찮다고 넘어가는 대신, 진짜 조심해야 할 자리를 짚어 드립니다.