기술 패닉, 생성 AI, 규제적 주의의 필요성

요약: 간단한 사용자 프롬프트에서 새로운 텍스트, 이미지 및 음악을 생성하는 AI 시스템인 생성적 인공 지능(AI)은 엔터테인먼트, 교육, 의료, 소매를 포함한 다양한 분야에서 중요한 응용 프로그램을 가지고 있습니다. 그러나 해를 끼칠 수 있는 도구의 잠재력에 대한 과장되고 오해의 소지가 있는 우려로 인해 기술에 대한 합리적인 논의가 배제되어 익숙하면서도 불행한 "기술 패닉"이 발생했습니다. 히스테리가 사라질 때까지 정책 입안자들은 생성 AI를 직접적으로 겨냥한 새로운 법안이나 규정을 중단해야 합니다. (PDF 다운로드)

중요한 기술 변화는 필연적으로 경제와 사회를 혼란에 빠뜨리고, 큰 변화의 가능성은 부풀려진 두려움과 기대를 불러일으킵니다. 이전에는 인간 지능이 필요했던 작업을 수행하는 컴퓨터 시스템을 연구하는 컴퓨터 과학의 한 분야인 인공 지능(AI)의 최근 발전으로 인해 미래에 대한 상상력이 높아졌습니다. AI의 종말론자들은 직업 파괴, 인간 지능 저하, 개인 정보 보호 상실, 알고리즘 조작, 때로는 인류의 종말을 예측합니다.1

생성 AI의 등장으로 AI에 대한 두려움이 새로운 수준에 이르렀습니다. 간단한 입력으로 복잡한 텍스트, 이미지, 비디오를 생성할 수 있는 새로운 도구인 제너레이티브 AI는 창조 부문을 민주화하고 완전히 새로운 형태의 창의성을 가능하게 할 것을 약속합니다. 이 참신함은 기술 애호가들에게 깊은 인상을 주었지만 다른 많은 사람들, 특히 AI가 인간과 기계를 구분하는 본질적인 차이라고 믿는 창의성을 침해하고 있다고 믿는 사람들을 놀라게 했습니다.

그러나 기술과 인간의 창의성은 오랫동안 서로 얽혀 있었으며, 과거에는 새로운 혁신이 가져올 부정적인 영향에 대한 두려움이 과장되어 왔습니다. 예를 들어, 음악 부문의 이전 혁신으로 인해 음반이 라이브 쇼를 중복하게 만들거나 라디오가 음반 산업을 파괴하거나 샘플링 및 기타 디지털 편집 수단이 음악 예술성을 훼손할 것이라는 두려움이 생겼습니다. 그러나 이러한 우려는 결코 도착하지 않았습니다. 시간이 지남에 따라 대중이 새로운 기술을 받아들이고 시장이 적응했으며 초기 우려는 확실히 과장되었거나 전혀 도달하지 못한 것으로 밝혀지면서 이러한 기술 패닉과 기타 기술 패닉은 사라졌습니다.

새로운 기술에 대한 두려움은 "기술 공황 주기"라고 불리는 예측 가능한 궤적을 따릅니다.2 대중이 기술과 그 이점에 익숙해짐에 따라 두려움은 증가하고 최고조에 이르렀다가 시간이 지남에 따라 감소합니다. 실제로 인쇄기, 축음기, 시네마토그래프와 같은 창조 부문의 다른 이전 "생성" 기술도 이와 동일한 경로를 따랐습니다. 그러나 오늘날과는 달리 정책 입안자들은 이러한 기술을 규제하고 제한하기 위해 많은 노력을 기울이지 않았습니다. 생성적 AI에 대한 패닉이 가장 불안정한 단계에 접어들면서 정책 입안자들은 심호흡을 하고 우리가 처해 있는 예측 가능한 주기를 인식하고 생성적 AI를 직접 겨냥한 모든 규제 노력을 일시적으로 보류해야 합니다.

새로운 기술을 장려하거나 억제하는 것의 장점은 사용 가능한 사용 사례와 잠재적인 피해에 따라 달라집니다. 많은 사람들이 이 전제를 받아들이지만, 경각심은 단지 재앙적인 위험을 상상하거나 기술 상태를 있는 그대로 선호합니다. 많은 경보론자들은 경보의 원인을 찾거나 과장하려는 동기를 갖고 있습니다. 그렇게 하면 옹호를 위한 자금이 조달되기 때문입니다. 이러한 행위자들은 새로운 기술이 등장하면 패닉을 일으키기 시작하고 곧 광란으로 분출되는 연쇄 반응을 촉발합니다.

대중이 새로운 도구를 사용하고 익숙해지기 시작하면 경각심을 불러일으키는 사람들이 위험을 과장하거나 우려 사항에 대해 대중을 호도했다는 것이 곧 분명해집니다. 패닉 상태가 가라앉기 시작하고 미디어는 천천히 관심을 잃습니다(기록을 수정하는 경우는 거의 없지만). 혁신이 주류가 되면서 결국 새로운 기술로 넘어가기 전에 산발적이고 덜 매력적인 우려 사항을 제시하는 경고자만이 남게 됩니다. 이 패턴은 기술 패닉 사이클을 구성합니다(그림 1 참조).

그림 1: 기술 공황 주기3