AI・ChatGPT

AI 초보의 ChatGPT 관찰기

ChatGPT 사용 균형 잡기

읽는데 15분

·

2023년 4월 12일

By. 신디 (XM)

매일 한걸음

터미네이터, 매트릭스, 바이센테니얼 맨, AI, 아이로봇, 월-E, 빅히어로, HER, 채피, 블레이드 러너, 알리타.
무엇을 나열한 건지 눈치채신 분들이 대부분일 거라 생각됩니다. 최근 빠르게 성장해 나가고 있는 챗봇 ChatGPT 이전에 있었던, 인공지능이 현실 세계에 있다면 벌어질 거란 상상으로 만들어진 영화들입니다. 이때만 하더라도 인공지능에 대한 기대감이나 위기감은 막연하게만 느껴지던 것들이었습니다. 기계가 우리를 대신해 일을 하고 우리처럼 말을 해도, 진짜 사람을 대신할 수는 없는 허술한 부분들이 많았으니까요. 

기술은 빠르게 발전해 왔습니다. 어느 순간 우리는 잠시라도 한눈팔면 어떤 기술들의 결합으로 혁신을 이루어 냈는지 알 수 없는 지경에 이르렀고, 세상의 변화를 강제로 손에 넣은 채 기술의 편의를 손에 쥐고 앞으로 나아가게 되었습니다. 최근 들어 그 흐름에 가속도가 붙었습니다. 이번에는 단순 작업이 반복되는 일자리가 사라진다는 위기가 아닌, 제대로 된 목적과 데이터로 유의미한 결과물을 만들어 내지 못하면 인간이 설 자리가 없어질 수 있을 거란 위협과 함께 다가오고 있습니다. 요즘 여기저기서 쏟아져 나오고 있는 ChatGPT와 관련된 이야기들. ChatGPT는 과연 무엇일까요?
터미네이터, 매트릭스, 바이센테니얼 맨, AI, 아이로봇, 월-E, 빅히어로, HER, 채피, 블레이드 러너, 알리타.
무엇을 나열한 건지 눈치채신 분들이 대부분일 거라 생각됩니다. 최근 빠르게 성장해 나가고 있는 챗봇 ChatGPT 이전에 있었던, 인공지능이 현실 세계에 있다면 벌어질 거란 상상으로 만들어진 영화들입니다. 이때만 하더라도 인공지능에 대한 기대감이나 위기감은 막연하게만 느껴지던 것들이었습니다. 기계가 우리를 대신해 일을 하고 우리처럼 말을 해도, 진짜 사람을 대신할 수는 없는 허술한 부분들이 많았으니까요. 

기술은 빠르게 발전해 왔습니다. 어느 순간 우리는 잠시라도 한눈팔면 어떤 기술들의 결합으로 혁신을 이루어 냈는지 알 수 없는 지경에 이르렀고, 세상의 변화를 강제로 손에 넣은 채 기술의 편의를 손에 쥐고 앞으로 나아가게 되었습니다. 최근 들어 그 흐름에 가속도가 붙었습니다. 이번에는 단순 작업이 반복되는 일자리가 사라진다는 위기가 아닌, 제대로 된 목적과 데이터로 유의미한 결과물을 만들어 내지 못하면 인간이 설 자리가 없어질 수 있을 거란 위협과 함께 다가오고 있습니다. 요즘 여기저기서 쏟아져 나오고 있는 ChatGPT와 관련된 이야기들. ChatGPT는 과연 무엇일까요?
터미네이터, 매트릭스, 바이센테니얼 맨, AI, 아이로봇, 월-E, 빅히어로, HER, 채피, 블레이드 러너, 알리타.
무엇을 나열한 건지 눈치채신 분들이 대부분일 거라 생각됩니다. 최근 빠르게 성장해 나가고 있는 챗봇 ChatGPT 이전에 있었던, 인공지능이 현실 세계에 있다면 벌어질 거란 상상으로 만들어진 영화들입니다. 이때만 하더라도 인공지능에 대한 기대감이나 위기감은 막연하게만 느껴지던 것들이었습니다. 기계가 우리를 대신해 일을 하고 우리처럼 말을 해도, 진짜 사람을 대신할 수는 없는 허술한 부분들이 많았으니까요. 

기술은 빠르게 발전해 왔습니다. 어느 순간 우리는 잠시라도 한눈팔면 어떤 기술들의 결합으로 혁신을 이루어 냈는지 알 수 없는 지경에 이르렀고, 세상의 변화를 강제로 손에 넣은 채 기술의 편의를 손에 쥐고 앞으로 나아가게 되었습니다. 최근 들어 그 흐름에 가속도가 붙었습니다. 이번에는 단순 작업이 반복되는 일자리가 사라진다는 위기가 아닌, 제대로 된 목적과 데이터로 유의미한 결과물을 만들어 내지 못하면 인간이 설 자리가 없어질 수 있을 거란 위협과 함께 다가오고 있습니다. 요즘 여기저기서 쏟아져 나오고 있는 ChatGPT와 관련된 이야기들. ChatGPT는 과연 무엇일까요?
출처 : OpenAI 홈페이지의 ChatGPT (Illustration: Ruby Chen)


“다른 챗봇들과 달리, ChatGPT는 주고받은 대화와 대화의 문맥을 기억할 수 있으며, 모종의 보고서나 실제로 작동하는 파이썬 코드를 비롯한 인간과 같은 상세하고 논리적인 글을 만들어 낼 수 있다. 일부 저술가는 ChatGPT가 놀라울 만큼 인간적이고 상세한 글을 생성할 수 있으며, 이 문제가 학계에서 심각한 문제가 될 수 있다 평가했다. 전작인 InstructGPT에 비해 ChatGPT는 위험하고 부정직한 답변을 가능한 회피 하도록 설계되었다. ChatGPT는 2021년 이후에 발생하는 사건에 대해서는 알지 못한다.”

위키백과의 ChatGPT에 대한 설명입니다. ChatGPT는 질문에 1대 1 상응하는 단순한 형태가 아닌, 앞뒤 정황에 맞는 매끄러운 답을 제시하는 모양입니다. 마치 전문가가 내놓은 것 같은 믿을만한 정보의 형태로요. 그래서일까요? 사람들은 반신반의하면서 ChatGPT를 사용하고 있고, 아티클에서는 앞다투어 ChatGPT의 행보를 다루고 있습니다. 현재 ChatGPT는 어떤 식으로 사용되고 있을까요? 


개인이 활발히 사용하는 ChatGPT

개인이 활발하게 ChatGPT를 사용하는 분야는 이력서와 자소서 작성 부문이라고 합니다. 지시만 명확하게 한다면 직접 작성하는 것보다 훨씬 빠르게 원하는 형태의 지원서를 만들어 내니, 취업이 간절하고 시간이 부족한 사람들의 이용 빈도가 크게 늘었다고 해요. 

출처 : 레쥬메 빌더의 "ChaGPT 사용 이력서" 관련 설문 결과


결과 또한 나쁘지 않은 것으로 보입니다. 온라인 구인구직 사이트 레쥬메 빌더에 따르면 설문조사에 참여한 2,153명의 구직자 가운데 거의 절반이 이력서와 자기소개서 또는 둘 다를 작성하는 데 'ChatGPT’를 사용했고, 대부분은 원하는 곳에 취업할 수 있었다고 하니 말이죠. 면접관이 AI를 사용해 지원서를 작성했다는 사실을 알게 됐을 때는 취업 실패로 이어졌다고는 하나, 설문조사에 참여한 인원의 75%는 ChatGPT가 작성한 자료의 품질이 높거나 매우 높다고 답했다고 합니다. 사용 사실이 발각되지만 않는다면 좋은 결과를 얻을 확률이 높아진다? 사용할 계획이 없는 사람도 사용해보고 싶게 만드는 매력적인 후기인 것 같습니다.


기업에서 다루고 있는 ChatGPT

기업에서는 어떨까요? 브런치 글을 준비하던 중 때마침 ”ChatGPT와 생성 AI가 만드는 미래”라는 주제의 컨퍼런스가 열렸습니다. 국내 기업들의 ChatGPT활용 사례와 추후 행보에 대한 이야기를 통해 ChatGPT가 우리 일상에 어떤 식으로 파고들고 있는지 알아보기 위해 컨퍼런스에 참여해 보았습니다. 컨퍼런스에는 AI기술 기반의 사업을 하고 있는 7곳의 기업의 대표 담당자들이 나와 ‘AI기술이 지금에 이르게 된 역사와 ChatGPT가 그동안의 AI기술과 어떻게 다른지, 현재 그 기술을 사업에 어떤 식으로 녹여내고 있는지’에 대한 이야기를 들려주었습니다.

출처 : 바이라인네트워크 주관 컨퍼런스 "ChatGPT와 생성AI가 만드는 미래"


AI 초보 입장에서 각 기업 발표자별 기억에 남는 내용을 공유드리자면 다음과 같습니다. 

- 정답과 어떤 문장이 훌륭한지에 대한 레이블을 마련해 꾸준히 학습시켜야 한다 (네이버)
- 끊임없는 실마리 제공으로 창작 과정에서의 절망의 구간을 없애 결과물 완성 속도를 높일 수 있다 (뤼튼)
- 입력값을 잘 넣을수록 원하는 답을 얻을 확률이 올라간다 (플리토)
- 우리가 본 세상을 보고 배우도록 AI 안에 우리의 세상을 만들어서 학습시키고 있다 (엔비디아)
- 성우나 배우처럼 인건비가 높은 분야도 AI가 충분히 소화해 낼 수 있다 (네오사피엔스)
- 쉽게 털어놓지 못하는 고민을 친밀한 소통이 가능한 챗봇과 공유할 수 있도록 만들고 있다 (스케터랩)
- 모든 사용자가 안전한 편의를 누릴 수 있도록 보안 체계 구축에 심혈을 기울이고 있다 (마이크로소프트)


ChatGPT를 처음 접하는 사람들을 위한 AI 발전 계보와 관련 용어 설명 덕분에 누구나 고개를 끄덕이며 따라갈 수 있는 컨퍼런스였습니다. 한 가지 아쉬웠던 점이 있다면, AI시대에 접어든 우리들의 미래에 대한 이야기는 많지 않았다는 사실입니다. 현재 빠른 속도로 AI 기술이 발전하고 있고, 그에 따라 데이터 접근성에 대한 불평등과 민주화 역시 가속화되고 있다는 것 정도일까요? AI 학습 데이터에 인간이 알고 있는 거의 모든 정보를 넣고 있다, AI 안에 우리의 세상을 하나하나 옮기고 있다, AI가 우리가 알고 있는 전부를 토대로 우리가 원하는 답을 찾아내도록 교육시키고 있다, 전 세계의 똑똑한 사람들은 전부 로봇 만들기에 매달리고 있다-라는 게 예측할 수 없는 미래로 향하는 현재에 대한 이야기였습니다.

컨퍼런스 참석 후 ChatGPT의 거대한 가능성에 큰 흥미를 느껴졌지만, 가능성이 거대하기 때문에 불안한 것도 사실이었습니다. 지금까지의 일상을 뿌리부터 뒤흔들다 못해 뽑아낼 수도 있는 기술이 등장했는데 그로부터 인간을 지켜낼 보호장치는 아무것도 없으니까요. 


장점을 배제한 ChatGPT 이야기?

컨퍼런스 내용을 구성원들과 공유하던 중, 우리는 ChatGPT의 장점을 배제한 이야기도 알고 싶어 졌습니다. AI 시대를 살아가는 사람으로서, AI를 사용할 회사와 직원의 입장으로서, ChatGPT의 장점만을 쏟아내고 있는 현재의 상황과 멀지 않은 미래에 야기될 곤란한 상황들에 대한 이야기를 나눠보고 싶었습니다. 우리는 썰풀기 자리를 마련해 장점에 편중되지 않은 ChatGPT 이야기를 나누어 보는 시간을 가졌습니다. 소프트웨어 개발과 UX디자인 분야에 평균 20년 정도 몸담아 온, 업에 대한 철학을 구축한 전문가들이 한데 모여 1시간 정도 이야기를 나누었습니다. 


💡썰풀기 주요 내용) AI 수용 기준 및 원칙, 해당 사안을 조정 및 중재할 수 있는 기관 필요

ChatGPT는 세상에 존재하는 모든 데이터가 아닌 인터넷상의 ‘공유된 데이터’만 받아들여 학습했기 때문에 어떤 특정 민족의 문화에 대한 데이터가 인터넷에 올라가 있지 않다면 AI는 이 내용이 학습할 수 없을 테고, 그 결과 아예 세상에 없는 것으로 취급될 수 있습니다. 

또 ChatGPT 등의 신기술에 돈과 기술을 투자한 주류권이 그들의 입맛에 맞게 세상을 마음대로 주무를 위험이 있기 때문에 일부 국가에서 4차 산업에 대비하여 사람의 일자리를 어떻게 보호할 것인지에 대해 법안을 마련한 것처럼 AI가 생산한 거짓과 편향된 결과에 대한 판단하고 수용할 기준과 원칙을 마련해야 합니다. 전쟁 방지와 평화유지를 위해 설립된 국제기구 UN처럼 AI 수용 기준과 원칙을 세워 관련 사안을 조정·중재할 수 있는 기관이 필요하고, 세계 시민에게 앞으로 닥칠 예상이 되지 않는 수많은 사건에 대해 빠르게 대응하여 혼란을 줄여가며 상황을 컨트롤해야 할 필요가 있습니다.


💡ChatGPT 요약) AI의 부정적인 영향으로부터 인간을 보호할 필요성 인지

이 글은 인공 지능, 특히 OpenAI에서 개발한 ChatGPT 챗봇의 잠재력에 대해 논의하고 해결해야 할 저작권 침해, 윤리적 문제 및 개인 정보 보호와 관련된 법적 문제를 강조합니다. 저자는 AI 발전을 위한 윤리적 지침이 수립되어야 하며, AI가 원하는 것과 하지 않는 것을 사회가 결정해야 한다고 주장합니다. 이 글은 ChatGPT의 특징과 기능, 사용과 관련된 잠재적 위험 및 문제, AI를 책임감 있게 사용하고 챗봇을 사용할 때 안전한 환경을 만드는 것의 중요성을 포함하여 ChatGPT의 다양한 측면을 논의하는 세 개의 인터뷰로 구성되어 있습니다. 이 글은 AI에 대한 과도한 의존의 잠재적 위험과 부정적인 영향으로부터 인간을 보호해야 할 필요성을 인식할 필요성을 강조합니다.


처음 ChatGPT를 접했을 때부터 느꼈던 막연한 불안의 원인이 조금 선명해지는 기분이 들었습니다. 이 일에 대해 앞서 고민하고 상상해 있을 법한 이야기를 만들어낸 영화는 다들 그런 이야기를 하고 있었던 것 같습니다. 뛰어난 기술과 그들을 컨트롤할 수단의 부재 혹은 붕괴. 물론 방법은 있을 겁니다. 하지만 그 ‘방법’이란 걸 알 수 없으니, 극단으로 치닫은 상황을 배경으로 일을 다시 바로잡아보려 발버둥 치는 영화를 보며 불안한 와중 동병상련을 느끼는 게 보통이죠. 하지만 역사의 많은 순간에서 그랬듯, 몇몇 사람들은 많은 이들이 이로울 수 있는 방향으로 필사적으로 흐름을 바꾸려고 애썼습니다. 현재 흐름을 바꾸어 우리를 안전한 곳으로 이끄려는 이들은 어떤 움직임은 보이고 있을까요?


출처 : AI타임스 「머스크 등 전문가 1000명 'AI 개발 잠정 중단' 촉구」 기사 이미지_셔터스톡

위험 관리에 대한 확신 없는 기술 상용화 중지 촉구

최근 한 기사에 따르면, 인류적인 수용 한계와 원칙을 정하기 전까지 ChatGPT의 배포를 중지해 달라는 세계의 저명한 학자들과 주요 단체들의 성명이 있었다고 합니다. 미국의 비영리단체 '삶의 미래 연구소(FLI)가 머스크와 AI 전문가, 업계 관계자 등 1000여 명이 서명한 공개서한에서 오픈 AI의 'GPT-4'를 능가하는 대형언어모델(LLM) 개발을 6개월간 중단해야 한다고 주장했습니다. 뛰어난 기술의 빠른 상용화보다 모두가 안전할 수 있는 사용 방안 마련이 우선이라는 사실에 조금씩 무게가 실리고 있는 것 같습니다. 

최근 움직임은 제가 처음 ChatGPT를 접했을 때 보았던 기사의 바통을 이어가는 느낌이 들었습니다. ChatGPT의 등장에 환호하며 인류의 마지막 기술이라는 화려한 수식어가 붙을 때, 과도한 관심에 냉수를 권하며 그 굉장한 기술과 마주하게 될 가까운 미래에 대해 제시하며 경각심을 일깨워준 기사입니다. 그 내용을 공유해 드리며 이번 글을 마무리 지으려 합니다.


AI가 무엇을 하고 무엇을 하지 않기를 원하는지 명확히 하기

기사에서는 “AI 붐과 함께 있는 법적 소송(The AI boom is here, and so are the lawsuit)”이라는 흥미로운 주제로 Vox의 Peter Kafka가 ChatGPT의 상황과 곧 마주하게 될 이슈들에 대해 이야기합니다. ChatGPT를 향한 관심과 투자, 다른 AI 회사에서 겪고 있는 저작권 위반으로 인한 소송을 제시하며 AI 붐이 ‘자신’이 제작자라고 생각하는 사람들 사이에서 ‘내 물건’이 도난당하고 있다는 공통된 반응을 불러올 것이라는 우려를 놓치지 않았습니다. 

AI에 반대하지 않으며 단순히 윤리적이길 원한다고 한 AI소송의 원고 측 변호사 Matthew Butterick은 소송 중인 내용과 함께 ‘오픈AI 초기 투자자였지만 트위터 소유 후 오픈AI가 트위터를 크롤링하는 것을 원치 않는다고 한 Elon Musk’를 예시로 제시합니다. 이를 통해 ‘편리’라는 말 뒤로 숨어있는 기본권 침해를 놓치면 안 된다고 이야기하죠. 또 20년 전 음악 산업을 무료로 다운로드할 수 있는 파일 공유 서비스로 폭파해 버린 사례를 제시하며, 결국 AI 회사들과 문제가 되는 데이터의 가치는 기술기관과의 집단 협상으로 모두가 승리할 것이라는 확신 어린 추측을 내놓습니다. 그리고 가장 중요한 것은 AI가 무엇을 하고 무엇을 하지 않기를 원하는지 함께 이해하는 ‘플레이스 홀더’라고 말합니다. 그리고 “현재 상황은 리허설이자, 앞으로 수십 년 동안 중요한 것으로 판명될 습관을 확립할 기회”라는 Matthew Butterick의 말을 끝으로 Peter Kafka의 아티클은 마무리됩니다.


🤔
벌써 ChatGPT를 사용해 본 사람들은 이제 아는 것은 중요하지 않다고 말합니다. 질문하는 역량과 필요한 정보를 매력적으로 결합하는 능력이 필요한 시대가 왔다고 말하고 있죠. 이미 광범위한 분야의 지식을 가지고 있는 데다 문맥과 맥락을 고려해 답변해 주는, 어쩌면 바쁜 일상을 소화해 내는 현대인보다 더 나은 답을 제시해 줄지 모를 인공지능 챗봇 ChatGPT. 빠르게 일상을 파고드는 만큼 편하다는 이점 뒤에 숨어있는 있는 위험까지 제대로 보고 안전한 상황에서 받아들일 필요가 있을 것 같습니다. 

뛰어난 기술을 갖춘 AI 상용화에 앞서 느끼는 위기와 위협은, 실제 일어났고 일어나고 있는 일들을 통해 더 가까이 와닿습니다. 획기적이고 편하다는 말 뒤에서 당장의 피해가 보이지 상황을 아슬아슬 즐기지 말고, 문제없이 누릴 수 있는 환경을 만드는 데 관심을 기울여야 할 것 같습니다. 앞으로 더 많이 등장하게 될 인간의 설 자리를 위협하는 위험한 편익을 부디 안전하게 동행해 나갈 수 있길 희망합니다.(영화 터미네이터 같은 상황은 너무 무서우니까요)

[참고 자료]
- AI, 플랫폼 전쟁이 시작된다(인공지능 발전 추이) https://blog.lgcns.com/1400 
- [김정호의 AI시대의 전략] 뛰어난 인재와 AI는 자기 주도 자율 학습을 한다 
https://www.chosun.com/site/data/html_dir/2020/07/22/2020072200052.html
- OpenAI https://openai.com/blog/chatgpt/
- ChatGPT 위키백과 https://ko.wikipedia.org/wiki/ChatGPT#%EA%B0%99%EC%9D%B4_%EB%B3%B4%EA%B8%B0
- The AI boom is here, and so are the lawsuit ChatGPT, OpenAI, Napster: AI is the future, and so are the lawsuits - Vox
- [세계의 4차산업 현장] 독일 中企의 4차 산업혁명 대응법 http://www.dailybizon.com/news/articleView.html?idxno=12729
- 머스크 등 전문가 1000명 'AI 개발 잠정 중단' 촉구 https://www.aitimes.com/news/articleView.html?idxno=150231
- Pause Giant AI Experiments https://futureoflife.org/open-letter/pause-giant-ai-experiments/