ChatGPT가 지능을 위해 할 수 있는 것과 할 수 없는 것

2022년 11월 ChatGPT는 인공지능(AI) 대형 언어 모델(LLM) 중 선두 주자로 등장하여 CIA 및 기타 미국 국방 기관의 관심을 끌었습니다. 일반 인공지능, 즉 인간과 같이 유연한 추론 능력을 갖춘 AI는 아직 기술적 한계를 넘어서 있으며 결코 실현되지 않을 수도 있습니다. 그러나 대부분의 전문가들은 LLM이 기술적으로 큰 발전을 이룬다는 데 동의합니다. 일부 작업에서는 유용한 결과를 생성하고 다른 작업에서는 완전히 목표를 달성하지 못하는 LLM의 능력을 통해 향후 10년 동안 AI의 기능과 제약을 엿볼 수 있습니다.

지능에 대한 ChatGPT의 전망은 엇갈립니다. 한편으로는 이 기술이 "인상적"이고 "무서울 정도로 지능적"인 것처럼 보이지만, 다른 한편으로 해당 기술의 제작자는 "위대하다는 오해의 소지가 있는 인상을 줄 수 있다"고 경고했습니다. 전문가 합의가 없는 상황에서 연구자와 실무자는 지능 기술의 잠재력과 단점을 탐구해야 합니다. 이러한 격차를 해소하기 위해 인텔리전스 분석을 연구하는 학자이자 정보 기술 엔지니어인 우리는 인텔리전스 분석가의 작업을 보완하기 위해 ChatGPT(GPT-4)의 기능을 테스트하려고 했습니다. 우리는 Colin Powell의 유명한 요청인 "당신이 아는 것을 말해주세요. 당신이 모르는 것을 말해주세요. 그런 다음 당신의 생각을 말해주세요."를 사용하여 예비 테스트를 실시했습니다. 각 작업에 대해 독자가 분석을 재현하고 스스로 결론을 도출할 수 있도록 ChatGPT의 출력을 제공합니다.

이러한 결과를 바탕으로 ChatGPT와 그 후속 버전은 정보 분석가의 업무 측면(예: 지루한 요약, ChatGPT가 인간이 인식할 수 있는 방식으로 요약하지 않는다는 점을 인정하지만)을 제거하고 다른 측면(예: 분석 제품에 대한 비평 생성 지원) 이러한 기능에도 불구하고 다른 사람들이 말했듯이 ChatGPT에는 눈에 띄는 제한 사항(예: 소셜 네트워크 추출)이 있습니다. 또한 "올바른 질문을 하는 것"이 ​​"신속한 엔지니어링"을 포함하도록 확장되는 AI-인간 팀 구성의 분석 기술을 변화시킬 것입니다. 프롬프트 엔지니어링은 AI 모델에서 설정된 응답을 추출하기 위해 질문이나 프롬프트가 표시되는 방식을 최적화하는 프로세스입니다. LLM은 또한 아래에 설명된 것처럼 "데이터 중독"과 같은 전술을 통해 새로운 위험을 야기합니다.

ChatGPT 작동 방식

ChatGPT(Generative Pre-trained Transformer)는 제공된 정보에 따라 텍스트를 생성하는 일종의 AI 모델입니다. 수많은 대본을 통해 배워 다양한 주제를 연결해 낼 수 있는 즉흥 배우와 같습니다. 가상의 즉흥 배우와 마찬가지로 AI는 제공된 정보로 제한됩니다. ChatGPT는 2021년까지의 정보에 대해 교육을 받았지만 사용 가능한 베타 테스트 모델은 웹의 교육 데이터에서 실시간으로 가져옵니다.

ChatGPT는 두 가지 주요 단계로 "학습"됩니다. 첫째, 방대한 양의 텍스트를 학습하여 지식 영역의 기본을 학습합니다. 그런 다음 예제와 지침을 사용하여 특정 작업을 수행하도록 미세 조정됩니다. 이 방법을 통해 사용자의 질문과 진술에 더 잘 응답할 수 있습니다. 응답의 정확성은 모델에 제공되는 데이터의 품질, 사용된 신속한 엔지니어링 기술 등 여러 요소에 따라 달라집니다.

훈련 데이터에 대한 모델 의존도는 순진한 허위 데이터(잘못된 정보)부터 의도적인 허위 데이터(허위 정보)까지 위험을 초래합니다. ChatGPT는 학습 데이터의 편향을 반영하여 생성된 출력의 공정성과 객관성을 잠재적으로 왜곡할 수 있습니다. 도널드 트럼프(Donald Trump), 조 바이든(Joe Biden) 등 논란이 많은 정치인에 대한 편향된 ChatGPT 결과에 대한 언론 보도가 이 점을 잘 보여줍니다. 또 다른 위험은 의도적으로 교육 데이터를 오염시키는 공격자에 의해 모델이 "중독"되는 경우입니다. LLM은 훈련 데이터의 품질에 크게 의존하기 때문에 오염된 데이터에는 감지하고 완화하기 어려운 악의적인 패턴이 포함될 수 있습니다.

시스템에서 더 나은 결과를 얻으려면 사용자가 ChatGPT에서 원하는 작업을 얼마나 잘 설명하는지(프롬프트 엔지니어링이라고 함)가 중요합니다. 현재 형식에서 ChatGPT의 출력은 적어도 중요하고 신중한 프롬프트 없이 표면 수준에 있습니다.