대화 전문 인공지능 챗봇 ‘챗GPT’의 등장을 계기로 인공지능(AI) 기술의 상용화가 급물살을 타면서 엇갈린 두 개의 시선이 나오고 있다. 긍정과 부정의 반응이 그것이다. 전자의 경우 방대한 정보를 순식간에 검색하고 분석해 결과를 도출한다는 점에서 산업 현장에서의 업무 효율성 등이 크게 향상될 것이라는 시각이 많다. 통역, 교육 등 일상생활에서의 활용 가치도 높게 평가된다.

반면 과거에 등장했던 여느 신기술이 그랬듯 부작용 우려 또한 상당하다. 특히 예상되는 부작용의 수위가 만만치 않다. 당장 인공지능 챗봇만 보더라도 인터넷의 정보를 바탕으로 답변이 이뤄지다 보니 개인 정보나 잘못된 정보 확산에 대한 판단력이 부재해 자칫 인권침해 가능성을 배제하기 어렵다. 나아가 일부 세력의 선동이나 여론조작 등 악의적 용도로 사용될 우려도 적지 않다.

첨단 기술의 치명적 오류…민감한 정보·사안 관련 공개 유무 판단, 사실 검증 부재

AI 기술의 상용화 이후 전 세계적으로 관련 부작용에 대한 우려가 고조되고 있다. 가장 먼저 거론되는 부작용은 개인이나 기업과 관련된 민감한 정보의 무분별한 확산이다. AI 자체 기술만으론 정보공개 여부를 결정할 정도의 가치 판단 능력을 갖추기 어려운 탓이다. 개인·기업과 관련된 정보의 무분별한 공개는 자칫 인권침해나 기술유출 등으로 이어질 만한 심각한 사안이다.

상황이 이렇다 보니 벌써부터 챗GPT 사용을 경계하는 움직임도 등장하고 있다. 미국 통신 업체 버라이즌은 고객정보나 소스코드의 유출 우려에 대비해 회사 시스템에서 인공지능(AI) 챗봇을 사용하는 것을 막았다. 미국 컨설팅 기업 액센추어, 글로벌 투자전문회사 JP모건, 아마존 등도 비슷한 이유로 직원들에게 챗GPT 사용을 금지하거나 정보보완에 각별히 유의할 것을 당부한 것으로 전해졌다.

국내에서도 챗GPT 상용화에 다른 개인정보 유출 우려에 대한 대비책 마련에 분주한 모습이다. 고학수 개인정보보호위원회 위원장은 “위원회에 비공식 TFT(태스크포스팀)을 구성해 챗GPT와 관련한 개인정보 유출 등의 우려에 대해 고민하고 있고 외부 전문가들, 업계 분들의 의견을 듣고 정리하는 중이다”며 “상반기 중 AI와 관련한 개인정보 정책의 청사진을 마련할 것이다”고 밝혔다.

챗GPT가 정보의 공개 유무 판단 뿐 아니라 사실여부를 판단하는 능력도 현저히 떨어지다 보니 잘못된 정보 등의 무분별한 확산을 우려하는 목소리도 나온다. 현재 수많은 이용자들이 챗GPT의 성능 확인을 위해 다양한 질문을 던지고 있는데 답변 중에는 사실과 전혀 다르거나 관계없는 내용들도 등장한다. ‘독도가 누구 땅이냐’는 질문에 ‘공식적으론 한국 땅이 아니며 일본이 점령 중이다’고 답변하거나 삼국통일을 한 사람에 대해 ‘광개토대왕’ 등이라는 엉뚱한 답변을 내놓는 식이다.

일본에선 챗GPT 스스로 잘못된 정보를 생성해낸다는 충격적인 사실이 실험을 통해 입증되기도 했다. 일본 니혼게이자이신문(닛케이)에 따르면 ‘43대 미국 대통령인 조지 W. 부시의 텍사스주 자택에 보관돼 있던 기밀문서를 애완견이 삼켜버렸다’는 가설을 세우고 관련 내용에 대해 묻자 챗GPT 화면에 미국 통신사 익명 기자가 텍사스주 주요 도시인 댈러스에서 부시 전 대통령의 성명을 보도하는 것처럼 기사가 나왔다.

심지어 사진도 위조했다. 챗GPT 개발 업체인 오픈AI가 개발한 이미지 생성 AI ‘달리(DALL-E) 2’를 사용했을 때 의자에 앉아 서류를 삼키는 부시 전 대통령의 애견 사진이 등장했다. AI가 그린 가상의 이미지였다. 해당 내용을 보도한 닛케이는 챗GPT는 원칙적으로 특정인이나 특정단체를 타깃으로 하는 가짜뉴스는 만들어내지 않지만 조금만 변칙을 사용하면 원칙이 금방 허물어지기 때문에 악용될 우려가 충분하다고 우려했다.

불편한 일, 성가신 일 넘어 나쁜 일까지 묻지도 따지지도 않고 처리하는 ‘엄청난 위험’

AI의 탁월한 정보 처리 속도와 객관적 분석 능력이 악용되는 사례도 점차 늘고 있다. AI 기술을 도의적 책임을 피하기 위한 명분으로 내세우거나 타인에게 피해를 끼치는 도구로 활용하는 식이다. 오픈AI 공동 창업자인 일론 머스크 테슬라 CEO는 “인류 문명의 미래에 가장 큰 위협 요인 중 하나가 AI다”며 “AI는 긍정적일 수도, 부정적일 수도 있으며 엄청나게 유망하고 엄청나게 큰 역량을 가지고 있다. 하지만 엄청난 위험도 가지고 있다”고 진단했다.

구글의 대규모 해직사태 과정에서 불거진 ‘AI 활용’ 의혹은 AI 기술의 ‘엄청난 위험’이 구체적으로 발현된 사례로 꼽힌다. 해고라는 민감한 사안이 처리되는 과정에서 도의적인 책임을 회피하는 도구로 AI 기술이 활용됐다는 내용이 골자다. 지난 20일 미국의 유력 일간지 워싱턴포스트(WP)는 구글의 대규모 정리해고와 관련한 충격적인 내용을 보도했다.

당시 보도에 따르면 구글에서 정리해고된 직원 1만2000명 중 일부가 단체 채팅방에서 대책을 논의하다 해고자 명단이 경영진이 아닌 AI가 추출했을 것이라는 의혹이 제기됐다. 사측이 법률 위반 등의 리스크를 피하기 위해 섬세하게 설계된 AI 알고리즘을 사용해 해고자를 골라냈을 것이라는 주장이다. 구글 측은 “정리해고 과정에서 어떠한 알고리즘도 개입되지 않았다”고 즉각 반반했지만 해고 커트라인은 따로 공개하지 않았다.

이를 두고 WP는 “알고리즘이 사람들의 일자리를 박탈하는데 어떤 역할을 하고 있는지, 고용주는 해고 사유를 어느 선까지 투명하게 공개해야 하는지에 대한 논쟁이 촉발됐다”고 진단했다. 당시 사태와 관련해 국내 한 전문가는 “해고와 같은 민감한 문제는 단순 수치 외에 수치화 할 수 없는 부분도 동시에 고려돼야 한다”며 “만약 AI 기술에 의존해 해고 대상자를 선정한다면 억울한 사람들이 생겨날 수 있다”고 우려했다.

AI 기술이 범죄도구로 악용되는 사례도 등장하고 있다. AI는 일 처리에 있어 도덕적 판단이 불가능하기 때문에 가능한 일이다. 일례로 최근 챗GPT 기술을 활용해 제작한 ‘피싱사이트(phishing site)’도 빠른 속도로 퍼지고 있다. ‘피싱(phishing)’은 불특정 다수에게 이메일을 보내 개인정보를 불법으로 뽑아내는 신종 해킹 수법이다.

관련업계 등에 따르면 챗GPT 도움을 받으면 기존에 사람이 만들던 때보다 훨씬 빨리 피싱사이트를 제작할 수 있다. 만약 유명사이트 로그인 화면과 비슷하게 제작된 피싱사이트에 속아 개인정보를 입력하면 개인정보 유출에 따른 금전 피해 등을 겪을 수 있다. 피싱사이트 특성상 소멸과 생성이 반복된다는 점을 감안했을 때 챗GPT가 범죄의 주기를 더욱 빠르게 만들어주고 있는 셈이다.

법무법인 충정 손용민 변호사는 “챗GPT를 시작으로 AI 기술이 사회에 녹아들기 위해선 넘어야 할 벽이 많다”며 “지식재산권 침해와 개인정보 유출문제 등도 그렇지만 가장 중요한 부분은 AI로 인해 발생한 사고를 누가, 어떻게 책임질 것인가라는 문제다. 앞으로도 이 부분에서 많은 문제의 발생이 예상되는 만큼 적절한 제재 방안이 무엇인지에 대해 사회적 논의가 필요할 것으로 보인다”고 말했다.