AI의 미래 전망

우리는 가장 어려운 문제 중 하나로 알려진 미래 예측부터 시작하겠습니다.

이 말을 들으면 실망하실 수도 있지만, 미래의 세상이 어떤 모습일지, AI가 우리의 삶을 어떻게 변화시킬지 보여줄 수정구슬은 없습니다.

과학자로서 우리는 종종 예측을 제공하라는 요청을 받으며, 예측 제공을 거부하면 눈을 굴리게 됩니다(“지루한 학자”). 그러나 실제로 우리는 AI의 미래와 그것이 우리 사회에 미칠 영향을 안다고 주장하는 사람은 누구나 의심받아야 한다고 주장합니다.

현실왜곡장

그러나 모든 사람이 자신의 예측에 대해 그렇게 보수적인 것은 아닙니다. 큰 헤드라인이 팔리고 뉴스를 280자로 분석해야 하는 현대 세계에서는 예약된(지루한?) 메시지가 사라지고 단순하고 극적인 메시지가 확대됩니다. AI에 대한 대중의 인식에서 이것은 분명히 사실입니다.

일부 예측은 적어도 어느 정도 올바른 결과를 얻을 수 있지만 다른 예측은 예측이 얼마나 어려운지 보여주는 데에만 유용할 가능성이 높으며 대부분은 별 의미가 없습니다. 우리가 달성하고 싶은 것은 여러분이 이러한 예측과 기타 예측을 살펴보고 비판적으로 평가할 수 있도록 하는 것입니다.

고슴도치와 여우에

Superforecasting: The Art and Science of Prediction의 저자인 정치학자 Philip E. Tetlock은 사람들을 두 가지 범주, 즉 하나의 큰 아이디어를 가진 사람(“고슴도치”)과 작은 아이디어가 많은 사람(“여우”)으로 분류합니다. Tetlock은 어떤 예측이 정확하고 정확하지 않은지 식별하는 데 도움이 될 수 있는 요인을 연구하기 위해 1984년부터 2003년 사이에 실험을 수행했습니다. 중요한 발견 중 하나는 특히 장기 예측과 관련하여 여우가 고슴도치보다 예측에 더 나은 경향이 있다는 것입니다.

아마도 280자로 표현할 수 있는 메시지는 크고 단순한 고슴도치 아이디어일 가능성이 크다. 우리의 조언은 신중하게 정당화되고 균형 잡힌 정보 출처에 주의를 기울이고, 단일 주장으로 모든 것을 계속 설명하는 사람들을 의심하라는 것입니다.

미래를 예측하는 것은 어렵지만 적어도 우리는 과거와 현재의 AI를 고려할 수 있으며, 이를 이해함으로써 미래가 어떻게 되든 더 잘 대비할 수 있기를 바랍니다.

과대광고의 순환

AI의 역사는 다른 많은 과학 분야와 마찬가지로 다양한 트렌드의 출현과 사라지는 것을 목격해 왔습니다. 과학철학에서 추세를 가리키는 용어는 패러다임이다. 일반적으로 대부분의 연구 커뮤니티에서는 특정 패러다임을 채택하고 있으며 가까운 미래의 진행 상황에 대한 낙관적인 예측이 제공됩니다. 예를 들어, 1960년대 신경망은 자연, 특히 인간 두뇌의 학습 메커니즘을 모방하여 모든 AI 문제를 해결한다고 널리 믿어졌습니다. 다음으로 큰 발전은 1980년대 지배적인 패러다임이었던 논리와 인간이 코딩한 규칙을 기반으로 한 전문가 시스템이었습니다.

AI 겨울

각 물결이 시작될 때마다 수많은 초기 성공 사례가 모든 사람을 행복하고 낙관적으로 만드는 경향이 있습니다. 성공 사례는 제한된 영역에 속하고 어떤 면에서는 불완전하더라도 대중의 관심을 끌게 됩니다. 많은 연구자들이 증가된 연구 자금에 접근하기 위해 AI에 돌진하거나 적어도 연구 AI라고 부릅니다. 기업은 또한 FOMO(Fear of Missing Out)를 염두에 두고 AI에 대한 노력을 시작하고 확장합니다.

지금까지 AI에 대한 포괄적이고 일반적인 해결책이 도달할 수 있다고 말할 때마다 진보는 결국 극복할 수 없는 문제에 부딪혔고, 당시에는 사소한 문제로 여겨졌던 문제였습니다. 1960년대 신경망의 경우 문제는 비선형성을 처리하고 신경망 아키텍처에 필요한 매개변수 수가 증가하는 것과 관련된 기계 학습 문제를 해결하는 것과 관련이 있었습니다. 1980년대 전문가 시스템의 경우, 문제는 불확실성과 상식을 처리하는 것과 관련이 있었습니다. 수년간의 고군분투와 불만족스러운 약속 이후 남은 문제의 본질이 드러남에 따라 패러다임에 대한 비관론이 축적되었고 AI 겨울이 뒤따랐습니다. 해당 분야에 대한 관심이 흔들리고 연구 노력이 다른 곳으로 향했습니다.

현대 AI

현재, 대략 밀레니엄이 시작된 이후 AI가 다시 상승세를 보이고 있습니다. 최신 AI 기법은 문제를 더 작고, 고립되고, 잘 정의된 여러 문제로 나누고 한 번에 하나씩 해결하는 데 초점을 맞추는 경향이 있습니다. 현대 AI는 지능, 정신, 의식의 의미에 대한 거창한 질문을 우회하고 실제 문제에서 실질적으로 유용한 솔루션을 구축하는 데 중점을 두고 있습니다. 그러한 솔루션의 혜택을 누릴 수 있는 우리 모두에게 좋은 소식입니다!

복잡하고 "복잡한" 현실 세계에서 작업하는 것과 밀접하게 관련된 현대 AI 기법의 또 다른 특징은 불확실성을 처리하는 능력입니다. 이는 3장에서 AI의 확률 사용을 연구하여 입증했습니다. 마지막으로, AI의 현재 상승 추세는 이전에 본 것보다 이미지 및 기타 실제 데이터를 더 잘 처리할 수 있는 신경망과 딥 러닝 기술의 복귀로 인해 크게 가속화되었습니다.

예측 1: AI는 계속해서 우리 주변에 있을 것입니다.

기억하시겠지만, 우리는 우리 삶 전체에 영향을 미치는 주요 AI 응용 프로그램을 논의함으로써 AI 연구에 동기를 부여하는 것부터 시작했습니다. 우리는 자율주행차, 추천 시스템, 이미지 및 비디오 처리라는 세 가지 예를 강조했습니다. 이 과정에서 우리는 진행 중인 기술 전환에 기여하는 다양한 다른 응용 프로그램에 대해서도 논의했습니다.

예측 2: 터미네이터는 오지 않는다

AI의 미래와 관련된 가장 광범위하고 지속적인 아이디어 중 하나는 터미네이터입니다. 혹시라도 금속 뼈대와 눈을 반짝이는 잔혹한 인간형 로봇의 이미지를 놓쳤어야 했다면... 뭐, 그게 바로 그겁니다. 터미네이터(The Terminator)는 제임스 카메론 감독의 1984년 영화입니다. 영화에서는 스카이넷(Skynet)이라는 글로벌 AI 기반 방어 시스템이 자신의 존재를 인식하고 핵무기와 첨단 킬러 로봇으로 인류 대부분을 말살하는 이야기를 그린다.

이러한 시나리오가 비현실적인 이유

위의 두 시나리오가 모두 가능성이 매우 낮고 AI의 미래에 대한 진지한 추측이라기보다는 공상 과학 소설에 속하는 데에는 여러 가지 이유가 있습니다.

이유 1:

첫째, 인간을 능가할 수 있는 초지능적이고 의식적인 AI가 AI 기법 개발의 의도하지 않은 결과로 등장한다는 생각은 순진합니다. 이전 장에서 살펴본 것처럼 AI 기법은 완벽하게 이해 가능한 원리와 풍부한 입력 데이터의 조합을 기반으로 하는 자동화된 추론에 불과하며, 둘 다 인간이 제공하거나 인간이 배포한 시스템입니다. 최근접 이웃 분류기, 선형 회귀, AlphaGo 게임 엔진 또는 심층 신경망이 의식을 갖고 초지능 AI 정신으로 진화하기 시작할 수 있다고 상상하려면 (매우) 생생한 상상력이 필요합니다.

우리는 인간 수준의 지능을 구축하는 것이 절대적으로 불가능하다고 주장하는 것이 아닙니다. 고도로 지능적인 물리적 시스템의 가능성에 대한 증거를 보려면 거울까지만 보면 됩니다. 우리가 말하는 것을 반복하자면, 초지능은 좁은 AI 기법을 개발하고 이를 실제 문제를 해결하기 위해 적용하는 것만으로는 나타나지 않을 것입니다(1장의 AI 철학 섹션에서 좁은 AI와 일반 AI를 떠올려 보세요).

이유 2:

둘째, 초지능 AI를 믿는 사람들이 가장 좋아하는 아이디어 중 하나는 소위 특이성(Singularity)입니다. 즉, 스스로 최적화하고 "재배선"하여 자신의 지능을 기하급수적인 속도로 향상시킬 수 있는 시스템입니다. 그러한 초지능은 인류를 너무 뒤쳐지게 만들어서 우리는 주저 없이 멸종될 수 있는 개미처럼 될 것입니다. 지능이 기하급수적으로 증가한다는 생각은 비현실적입니다. 시스템이 자체 작동을 최적화하더라도 그 진행을 늦추는 점점 더 어려운 문제에 계속 직면할 것이기 때문입니다. 마치 인간 과학자의 발전이 전체 연구 공동체, 실제로는 사회 전체의 더 큰 노력과 자원을 필요로 하는 것처럼, 초지능 독립체가 접근할 수 없는 것과 마찬가지입니다. 인간 사회는 여전히 우리가 기술, 심지어 AI 기술을 무엇에 사용할 것인지 결정할 수 있는 힘을 가지고 있습니다. 이 힘의 대부분은 실제로 기술을 통해 우리에게 주어지므로 AI 기술이 발전할 때마다 우리는 AI 기술로 인한 잠재적인 위험을 더욱 강력하고 효과적으로 제어할 수 있게 됩니다.

이야기와 현실을 분리하기

전체적으로 터미네이터는 영화를 만들기에는 훌륭한 이야기지만 당황할 만한 실제 문제는 거의 없습니다. 터미네이터는 많은 관심을 끌 수 있는 쉬운 방법이자 언론인의 클릭률을 높이는 포스터 소년이며, 핵무기, 민주주의 부족, 환경 재앙, 기후 변화와 같은 지루하지만 실제적인 위협으로부터 관심을 돌리기 위한 붉은 청어입니다. 실제로 터미네이터가 제기하는 실제 위협은 실제 문제에서 관심을 돌리는 것입니다. 그 중 일부는 AI와 관련이 있고 대부분은 그렇지 않습니다. 다음에서는 AI가 제기하는 문제에 대해 논의하겠지만 결론은 터미네이터는 잊어버리고 집중해야 할 더 중요한 것들이 있다는 것입니다.