알파고 이후 가장 주목받는 AI(인공지능·Artificial Intelligence)인 챗GPT는 원하는 주제와 소재를 입력하면 작품성 높은 시와 글을 창작해 이용자들을 매료시키고 있다. 구체적 역할을 부여하면 보고서, 연설문, 코딩 등도 전문가 수준으로 생성해 낸다.

이렇게 똑똑한 챗GPT도 해결해야 할 과제가 있다. 바로 ‘환각(Hallucination)’이라는 문제이다. 환각 현상이란 AI가 허구나 거짓 정보를 마치 실제처럼 그럴듯하게 지어내는 현상으로, 동전의 양면처럼 창조 능력의 부작용을 보여준다. “세종대왕이 맥북을 던진 사건을 알려줘”라고 요구하자 챗GPT가 ‘15세기 세종대왕이 훈민정음 초고 작성 중 담당자에게 화가나 맥북과 담당자를 던진 사건’이라 답한 일화는 유명한 환각 현상이다.

이런 상식적인 내용은 이용자가 쉽게 오류를 구분할 수 있다. 우려되는 것은 챗GPT가 전문가 수준의 능력을 갖추고 있어 편향되거나 조작된 내용도 전문적 정보로 오인할 수 있다는 것이다. 챗GPT는 미국 변호사 시험에 통과할 만큼 전문성을 인정받았다. 그러나 최근 뉴욕에서는 챗GPT를 활용해 작성한 의견서의 판례들이 허구라는 것이 밝혀져 30년 경력의 변호사가 망신을 당하기도 했다.

AI의 창조성은 예술 분야에서도 논쟁이 되고 있다. 2022년 AI가 생성해 낸 작품이 미술대회 디지털아트 분야에서 1위를 하면서 AI 예술에 윤리적 문제를 쏘아 올렸다. 올해 초에는 사진대회 1위 수상작이 AI가 생성한 그림으로 밝혀져 충격을 주었다. 논란의 핵심은 ‘어디까지를 인간의 창작물로 인정할 수 있는가’이다. 붓 터치 한번 없이 명령어를 입력해 AI가 생성해 낸 작품은 인간의 창작물로 볼 수 없다는 주장과 과거 예술에서 진흙과 불을 이용했듯이 AI라는 도구를 이용한 인간의 창작물로 인정해야 한다는 주장이 팽팽하다. 사진이 예술 장르로 인정받기까지 긴 시간을 거쳤듯이 AI 예술도 숙고의 기간이 필요할 것이다. 단지 현재 과도기에서는 무엇보다 AI가 개입된 창작물임을 밝히는 윤리적 노력이 필요하다.

문화, 엔터테인먼트 분야에서도 AI의 영향력은 확대되고 있다. 가상의 외모에 성격, 재능을 조합시켜 탄생된 가상 인간들은 수십만명의 팔로워를 거느리며 인간 인플루언서를 능가하고 있다. 2030년이 되면 가상 인간 시장은 약 5300억원으로 증가할 것으로 예측된다. 특히 10대 청소년들은 인간보다 더 인간 같은 가상 인간에게 매료되어 문화 취향을 추종하고 있다. 그러나 가상 인간은 어디까지나 이윤 추구를 목적으로 제작된 허구의 인물이다.

AI가 우리에게 던진 숙제는 창작과 허구의 구분이다. 아무리 뛰어난 창작성을 발휘하더라도 가짜를 진짜로 착각하게 만든다면 허구이다. 창작과 허구의 경계는 결과물이 실제가 아님을 투명하게 밝히는 노력에서 시작된다. 더욱이 AI는 이미지, 동영상에서도 전문가가 아니면 구분 못 하는 수준까지 발달했다. 가짜뉴스나 보이스피싱 같은 범죄에 악용될 수 있어 우려가 크다. 그러나 의도적으로 제작된 허구에 대한 윤리적, 법적인 제도 마련은 아직 미흡하다.

소설이 인간의 정신을 윤택하게 해주는 이유는 실제가 아님이 명확하기 때문이다. AI의 개입 여부와 허구를 구분할 수 있게 해주는 가이드, 즉 인공지능 윤리가 확립될 때 우리는 AI와 공존하며 현명한 AI 사용자가 될 것이다.

정보현(한국폴리텍대학 창원캠퍼스 교양학과 교수)