" ‘기회’를 만드는 인공지능 혁명 ‘챗GPT’
위험도 함께 만든다고?"

최근 글로벌 인공지능(AI) 시장을 뒤흔들고 있는 키워드가 있어요. 바로 ‘챗GPT(Chat GPT)’에요. GPT(Generative Pre-trained Transformer)는 미리 학습해 문장을 생성하는 서비스를 뜻해요. 그리고 챗GPT는 자연어처리(NLP) 기반 대화형 AI 서비스로서, 오픈AI가 작년 11월 말 첫 선을 보였죠.

챗GPT는 질문에 대한 답변은 물론 △번역 △코딩 △프로그래밍 △계산 △작사·작곡 등 고차원의 작업까지 수행할 수 있는 것이 특징인데요. 어떤 텍스트가 주어졌을 때 다음 텍스트가 무엇인지까지 예측하여 글을 생성할 수 있는 고성능 AI 모델 ‘GPT-3.5’가 적용됐으며, 1,750억 개 이상의 매개변수를 활용해 정교한 글을 만들어 낼 수 있죠. 그리고 이 같은 높은 완성도에 대해 극찬이 이어지면서,출시 40일 만에 일일 이용자 수 1천만 명을 돌파할 정도로 세계적인 관심을 받는 중입니다. 일각에서는 앞으로 챗GPT가 구글 등의 검색엔진을 대체할 것이라고 전망하기도 했는데요.

이에 구글을 비롯한 세계 빅테크 기업의 시선 역시 챗GPT로 집중되고 있는 상황이에요. 대표적으로 마이크로소프트(MS)는 챗GPT를 개발한 오픈AI에 100억 달러(약 12조 원) 투자 계획을 밝혔으며, 구글은 챗GPT에 대응하기 위해서 ‘코드레드(적색경보)’를 발령하며 자체 AI 서비스 역량 고도화에 박차를 가하고 있죠.

하지만, 챗GPT가 가진 가능성의 이면에는 상상을 뛰어넘는 위험의 가능성 역시 있다고 볼 수 있는데요. 오늘, 연일 화제가 되고 있는 ‘챗GPT’가 가진 어두운 그림자에 대하여 살펴보도록 하겠습니다.

“악성코드 제작이 쉬워졌다” 다크버스에 부는 챗GPT 열풍

세계의 사이버 범죄자들이 기회를 놓치지 않고 빠르게 챗GPT의 가능성을 시험하고 있어요. 이달 초 이스라엘 보안업체 체크포인트와 보안 전문가들은 “사이버 공격자들이 챗GPT를 사용해 해킹도구를 개발하고 있다” 고 경고했는데요. 체크포인트는 보고서를 통해서 사이버 범죄자(해커)들의 챗GPT 악용 사례를 밝히기도 했죠.

해당 보고서에 따르면, 사이버 범죄자들의 챗GPT 악용 사례는 크게 세 가지로 나눠져요. ① 기업 정보를 훔치는 악성코드를 제작하거나 ② 랜섬웨어 공격에 필요한 데이터 암호화·복호화 도구를 만들거나 ③ 새로운 다크웹 플랫폼을 만들 수 있는 코드 생성법을 공유한다는 것이죠.

실제로 지난해 12월 브렌든 돌란 개빗 뉴욕대 컴퓨터 과학·공학과 조교수는 자신의 SNS에 “(실험에 의하면)챗GPT가 자신이 제시한 코드에 취약점이 포함돼 있음을 찾아내고, 이 결함을 악용하는 코드를 작성했다”고 발표하기도 했는데요.

업계는 앞으로 챗GPT 언어 모델이 더 정교해지면, 사이버 범죄자들이 간단한 명령어만으로 악성코드나 피싱메일 프로그램을 보다 쉽게 개발할 수 있을 것으로 관측하고 있어요. 즉, 초보 해커들도 악성 해킹 도구를 쉽게 제작할 수도 있게 되고, 동시에 사이버 범죄에 대한 진입 장벽이 대폭 낮아질 수 있다는 것이죠.

또한 챗GPT 언어 및 검색 기술이 고도화될 경우, 악성코드를 만들거나 피싱 메일을 만드는 수준을 넘어 시스템 취약점을 찾아내고 이를 악용한 제로데이 공격까지 유발하는 단계로 진화할 것으로 전망 되고 있어요.

※ 용어사전
1. 다크버스(darkverse): 메타버스의 다크웹 버전. 메타버스 플랫폼을 악용하여 범죄를 공모하고 실행하는 것.
2. 다크웹(dark web): 특정 프로그램을 사용해야만 접속할 수 있는 웹으로 일반적인 방법으로는 서버, 접속자 등을 찾을 수 없기 때문에 불법적인 사이버 범죄에 악용되기도 함.
3. 제로데이(zero day, 0day): 운영체제(OS)나 네트워크 장비 등 핵심 시스템의 보안 취약점이 발견된 뒤 이를 막을 수 있는 패치가 발표되기도 전에, 그 취약점을 이용한 악성코드나 프로그램을 제작하여 공격을 감행하는 수법.

| 진화하는 AI 기술, 양날의 검이 될 수 있다

하지만 그렇다고 해도 지금 당장 챗GPT가 거대한 위협으로 존재하고 있는 것은 아니에요. 돌란 개빗 교수의 테스트 결과만 보더라도 챗GPT는 기존 AI 기반 코드 작성 툴과 비슷한 한계를 보여줬으며, 관련 전문가들은 이를 두고 “이 같은 테스트 결과는 챗GPT가 기본 수준의 AI 챗봇이며 대규모 언어 모델의 코드 작성 요청에 대한 답변 능력을 완벽하게 신뢰할 수 없음을 시사한다”, “챗GPT를 이용한 다양한 시도가 포착됐을 뿐, 실제 위협이 될지는 지켜봐야 한다” 고 평가하고 있죠.

하지만 사이버 보안 관점에서 봤을 때 챗GPT와 같은 대규모 언어 모델과 기술이 ‘양날의 검’이라는 사실은 분명해요. 전술한 내용에서 알 수 있듯 이 같은 기술은 인간 개발자의 작업을 보조하는 역할을 해낼 수도 있지만, 반대로 악성코드를 생성·삽입할 위험성도 존재 하죠.

현재 챗GPT 자체는 버그와 취약점으로부터 자유롭지 못하고 스스로 프로그램을 기획할 수는 없다는 한계를 가지고 있지만, 만약 코딩을 할 줄 아는 사이버 범죄자들이 챗GPT를 활용한다면 악용의 가능성은 무한대로 커질 수 있어요. 게다가 챗GPT가 자동으로 시그니처를 조금씩 바꿀 수 있기 때문에 어느 정도의 탐지 회피 능력도 보장된다고 볼 수 있죠.

다시 말해, 악성코드를 챗GPT에 모두 맡기는 것이 아니라 기존 전략에 덧붙여 사용했을 때, 공격의 속도가 빨라지고 범위가 넓어지면서 더 큰 파괴력을 가질 수 있다는 거예요. 인공지능의 코딩 능력 역시 하루가 다르게 급격히 향상되고 있는 상황이고요.

| 챗GPT의 그림자, 가장 시급한 것은 ‘기준’과 ‘표준’의 마련

사이버 공격 기법은 앞으로 챗GPT 등 생성 AI를 만나서 더욱 지능화·고도화될 것 이며, 우리는 새로운 사이버 보안 위협에 직면할 수밖에 없어요. 챗GPT로 생성된 암호화 도구는 작은 수정을 통해 쉽게 랜섬웨어로 변모할 수 있으며, 챗GPT의 사이버 공격 관련 답변은 멀웨어 공격이나 피싱 공격을 쉽게 시작할 수 있는 출발점을 제공할 수도 있으니까요.

그리고 또 다른 측면의 문제도 있어요. 바로 저작권 문제예요. 요즘 같은 멀티미디어 콘텐츠 시대에는 모든 콘텐츠들에 대한 저작권 문제가 필연적으로 대두되는데, 챗GPT를 만들어내는 시, 글, 기사, 논문 등에서 창작 여부나 소유권에 대한 논란이 빚어질 수도 있죠. 만약 챗GPT로 만든 콘텐츠에서 실제 수익이 발생하면 이 소득은 누구의 것이 되는 건지, 반대로 가짜 뉴스나 허위 정보, 부적절한 콘텐츠 등으로 위법에 해당하는 경우 누가 책임질 것인지 등 여러 가지 논란에 대비한 기준이 전혀 없는 상황이죠.

챗GPT의 개발사인 오픈AI 측은 제기되는 논란에도 불구하고 관련된 해결 방법을 밝히지 않은 상황이에요. 그리고 이것은 곧 보안 분야 전체의 숙제로 주어졌다고 볼 수 있죠. 새로운 기술이 가져온 ‘혁명’이 사이버 범죄자들이 악용하는 무기가 될 수 없도록 윤리적 기준안을 서둘러 마련하고, 개인과 기업, 국가가 모두 각각의 차원에서 사이버 보안을 강화하는 데에 만전을 기해야 할 것이에요.