AI가 사회적으로 미치는 영향

본 강좌의 초반부에서 우리는 현재와 미래 사회에서 AI가 갖는 중요성에 대해 간략하게 논의했지만, 당시에는 구체적인 용어에 대한 논의를 뒷받침할 기술적 개념과 방법을 충분히 소개하지 않았기 때문에 제한적인 범위에서만 논의할 수 있었습니다.

이제 우리는 AI의 기본 개념을 더 잘 이해했으므로 현재 AI가 갖는 의미에 대한 합리적인 논의에 참여할 수 있는 훨씬 더 나은 위치에 있습니다.

시사점 1: 알고리즘 편향

AI, 특히 머신러닝은 많은 분야에서 중요한 결정을 내리는 데 사용되고 있습니다. 이는 알고리즘 편향이라는 개념을 불러일으킵니다. 이는 취업 지원, 은행 대출 등에 관한 결정을 내릴 때 인종, 성별 또는 기타 요인에 따라 차별하는 경향이 내재되어 있음을 의미합니다.

알고리즘 편향은 학계 연구자들이 고안한 가상의 위협이 아닙니다. 이는 이미 오늘날 사람들에게 영향을 미치고 있는 실제 현상입니다.

온라인 광고

Google과 같은 온라인 광고주는 남성에 비해 여성 사용자에게 저임금 직업 광고를 표시하는 경향이 있는 것으로 나타났습니다. 마찬가지로, 아프리카계 미국인으로 들리는 이름으로 검색하면 범죄 기록에 접근하는 도구에 대한 광고가 생성될 수 있으며, 그렇지 않은 경우에는 이러한 일이 발생할 가능성이 적습니다.

소셜 네트워크

소셜 네트워크는 본질적으로 다른 사용자의 클릭을 기반으로 콘텐츠 추천을 기반으로 하기 때문에 처음에는 아주 사소하더라도 기존 편견을 쉽게 확대할 수 있습니다. 예를 들어, 여자 이름을 가진 전문가를 검색할 때 LinkedIn은 사용자에게 실제로 비슷한 남자 이름을 의미하는지 묻습니다. Andrea를 검색하면 시스템에서 "Andrew를 의미했나요?"라고 묻는 결과가 나타납니다. 사람들이 단지 호기심 때문에 Andrew의 프로필을 가끔 클릭한다면 시스템은 후속 검색에서 Andrew를 훨씬 더 많이 검색할 것입니다.

우리가 언급할 수 있는 다른 사례가 많이 있으며 아마도 이에 대한 뉴스 기사를 본 적이 있을 것입니다. 규칙 기반 시스템 대신 AI와 머신러닝을 사용할 때 가장 큰 어려움은 투명성이 부족하다는 것입니다. 부분적으로 이것은 회사가 공개 조사를 위해 공개할 가능성이 없는 알고리즘과 데이터가 영업 비밀이기 때문입니다. 그리고 그렇게 한다고 하더라도, 차별적인 결정을 내리는 알고리즘의 일부나 데이터의 요소를 식별하기가 어려울 수 있습니다.

마지막 요점은 즉, Facebook이나 Google과 같은 회사가 적어도 유럽 사용자에게 서비스를 제공할 때 알고리즘 의사 결정 프로세스를 설명해야 한다는 의미입니다. 그러나 정확히 무엇이 설명으로 간주되는지는 여전히 불분명합니다. 예를 들어 최근접 이웃 분류기(4장)를 사용하여 도달한 결정은 설명 가능한 결정으로 간주됩니까, 아니면 로지스틱 회귀 분류기의 계수가 더 좋습니까? 테라바이트 규모의 데이터를 사용하여 훈련된 수백만 개의 매개변수를 쉽게 포함하는 심층 신경망은 어떻습니까? 현재 머신러닝을 기반으로 한 의사결정의 설명 가능성에 대한 기술적 구현에 대한 논의가 집중적으로 이루어지고 있습니다. 어쨌든 GDPR은 AI 기술의 투명성을 향상시킬 수 있는 잠재력을 가지고 있습니다.

함의 2: 보는 것이 믿는 것이다 - 아니면 믿는가?

우리는 우리가 보는 것을 믿는 데 익숙합니다. TV에서 지도자가 자신의 나라가 다른 나라와 무역 전쟁을 벌이게 될 것이라고 말하거나, 유명한 회사 대변인이 중요한 사업 결정을 발표할 때, 우리는 다른 사람이 쓴 뉴스를 통해 그 성명을 간접적으로 읽는 것보다 그들을 더 신뢰하는 경향이 있습니다.

마찬가지로 범죄 현장이나 새로운 기술 시연에서 나온 사진 증거를 볼 때 우리는 상황이 어떻게 보이는지 설명하는 서면 보고서보다 증거에 더 큰 비중을 둡니다.

물론, 우리는 가짜 증거가 조작될 가능성도 알고 있습니다. 사람들은 포토샵을 통해 한 번도 가본 적 없는 장소, 한 번도 만난 적 없는 사람들과 함께 있을 수 있습니다. 조명을 조절하거나 최신 다이어트 약을 광고하는 저렴한 비포 애프터 샷으로 배를 당기는 것만으로도 외모를 바꾸는 것도 가능합니다.

시사점 3: 개인 정보 보호에 대한 개념의 변화

기술 회사가 사용자에 대한 많은 정보를 수집한다는 것은 오랫동안 알려져 왔습니다. 이전에는 주로 식료품점과 기타 소매업체가 고객에게 로열티 카드를 제공하여 구매 데이터를 수집하여 매장에서 개별 고객과 구매를 연관시킬 수 있었습니다.

그러나 위의 데이터 로깅은 아직 AI가 아닙니다. AI의 사용은 개인 정보 보호에 대한 새로운 종류의 위협을 가져오며, 이는 신원 공개에 조심하더라도 피하기가 더 어려울 수 있습니다.

데이터 분석을 사용하여 개인 식별

피하기 어려운 문제의 좋은 예는 익명화 해제로, 우리가 안전하다고 생각했던 데이터의 익명성을 깨뜨립니다. 기본적인 문제는 우리가 분석 결과를 보고할 때 결과가 너무 구체적이어서 분석에 데이터가 포함된 개별 사용자에 대해 뭔가를 알 수 있다는 것입니다. 전형적인 예는 특정 연도에 태어나 특정 우편번호를 가진 사람들의 평균 급여를 묻는 것입니다. 대부분의 경우 이는 매우 작은 그룹일 수 있으며 대개 한 사람만 있을 수 있으므로 잠재적으로 한 사람의 급여에 대한 데이터를 제공할 수 있습니다.

좀 더 미묘한 문제에 대한 흥미로운 예가 오스틴에 있는 텍사스 대학의 연구원들에 의해 지적되었습니다. 그들은 약 50만 명의 익명 사용자가 평가한 천만 개의 영화 등급이 포함된 Netflix에서 제공한 공개 데이터 세트를 연구했으며, Netflix 사용자 중 상당수가 두 애플리케이션에서 여러 영화를 평가했기 때문에 실제로 인터넷 영화 데이터베이스의 사용자 계정에 연결될 수 있음을 보여주었습니다. 따라서 연구원들은 Netflix 데이터의 익명성을 해제할 수 있었습니다. 여러분이 최신 스타워즈 영화를 어떻게 평가했는지 다른 사람이 아는 것이 큰 문제가 아니라고 생각할 수도 있지만 일부 영화는 우리가 비공개로 유지해야 하는 우리 삶의 측면(예: 정치 또는 성적 취향)을 드러낼 수 있습니다.

기타 식별 방법

원칙적으로 유사한 접근 방식을 사용하여 사용자 행동에 대한 자세한 데이터를 수집하는 거의 모든 서비스에서 사용자 계정을 일치시킬 수 있습니다. 또 다른 예는 타이핑 패턴입니다. 헬싱키 대학의 연구원들은 사용자의 입력 패턴, 즉 텍스트를 입력할 때 특정 키 입력 사이의 짧은 간격을 기반으로 사용자를 식별할 수 있음을 입증했습니다. 이는 누군가가 여러분의 입력 패턴에 대한 데이터에 접근할 수 있는 경우(아마도 여러분이 그들의 웹사이트를 사용하고 여러분의 이름을 입력하여 등록했을 수 있음) 여러분이 명시적으로 신원 확인을 거부하더라도 여러분이 다음에 해당 서비스를 사용할 때 여러분을 식별할 수 있음을 의미할 수 있습니다. 또한 이 정보를 사고 싶은 사람에게 판매할 수도 있습니다.

위의 사례 중 상당수는 적어도 부분적으로는 예상치 못한 일이었지만(그렇지 않았다면 피할 수 있었을 것입니다), 이를 해결하기 위한 많은 연구가 진행 중입니다. 특히 차등 개인 정보 보호라는 영역은 결과가 입력된 특정 데이터 포인트의 리버스 엔지니어링을 방지할 만큼 충분히 거친 결과를 보장할 수 있는 기계 학습 알고리즘을 개발하는 것을 목표로 합니다.

시사점 4: 업무 변화

초기 인간이 새로운 영양 공급원에 접근하기 위해 날카로운 돌을 사용하여 죽은 동물의 뼈를 부수는 방법을 배웠을 때, 싸움, 짝 찾기, 더 많은 발명품 만들기와 같은 다른 목적을 위해 시간과 에너지가 방출되었습니다. 1700년대 증기 기관의 발명은 쉽게 휴대할 수 있는 형태의 기계 동력을 활용하여 공장은 물론 선박과 기차의 효율성을 크게 향상시켰습니다. 자동화는 항상 효율성을 향한 길이었습니다. 즉, 적은 비용으로 더 많은 것을 얻는 것입니다. 특히 20세기 중반 이후 기술의 발전으로 자동화는 유례없는 발전을 이루었습니다. AI는 이러한 발전의 연속이다.

더 나은 자동화를 향한 각 단계는 작업 생활을 변화시킵니다. 날카로운 바위 덕분에 사냥이나 식량 채집의 필요성이 줄어들었습니다. 증기기관이 등장하면서 말과 기병의 필요성이 줄어들었습니다. 컴퓨터를 사용하면 타이피스트, 수동 회계 및 기타 많은 데이터 처리가 덜 필요합니다(그리고 분명히 고양이 비디오를 시청할 필요성도 더 커집니다). AI와 로봇공학을 사용하면 여러 종류의 지루하고 반복적인 작업이 훨씬 덜 필요합니다.

AI의 미래를 예측할 수 없기 때문에 이러한 발전의 속도와 정도를 예측하는 것은 극히 어렵습니다. 옥스포드 대학의 연구자들은 미국 일자리의 최대 47%가 위험에 처해 있다고 보고하면서 직업 자동화의 정도에 대한 일부 추정이 있었습니다. 45%나 49%가 아닌 47%와 같은 정확한 숫자, 이를 얻기 위해 사용된 복잡하게 들리는 연구 설계 및 이를 보고하는 최고의 대학은 추정치를 매우 신뢰할 수 있고 정확하게 만드는 경향이 있습니다(제한된 양의 데이터를 기반으로 선형 모델을 사용하여 기대 수명을 추정하는 것에 대한 요점을 상기하십시오). 1%의 정확성에 대한 환상은 오류입니다. 예를 들어 위의 숫자는 수많은 작업 설명(예: 손가락 끝을 핥고 바람을 느끼기 위해 올려 놓음)을 살펴보고 주관적인 근거를 사용하여 어떤 작업이 자동화될 가능성이 있는지 결정하는 데 기반합니다. 사람들이 "작업 모델은 다루기 쉽도록 집계, 규모에 따른 불변 수익, Cobb-Douglas 생산 함수를 가정합니다."와 같은 진술이 포함된 79페이지 보고서를 읽는 데 어려움을 겪지 않는다는 것은 이해할 수 있습니다. 그러나 그렇지 않다면 결론에 대해서도 어느 정도 회의적인 태도를 유지해야 합니다. 이런 종류의 분석에서 실제 가치는 47%와 같은 실제 수치가 아니라 어떤 종류의 직업이 위험에 처할 가능성이 더 높은지를 제시한다는 것입니다. 비극은 "미국 일자리의 거의 절반이 컴퓨터화 위험에 처해 있다"는 헤드라인이 주목되고 나머지는 그렇지 않다는 점이다.

그렇다면 실제로 자동화될 가능성이 높은 작업은 무엇입니까? 이에 관해 우리가 이미 관찰할 수 있는 몇 가지 명확한 징후가 있습니다.

• 자동차, 드론, 보트 또는 배달 로봇을 포함한 자율 주행 차량과 같은 자율 로봇 솔루션은 주요 상용 응용 프로그램의 직전에 있습니다. 자율주행차의 안전성은 추정하기 어렵지만 통계에 따르면 아직 요구되는 수준(일반 운전자의 수준)에는 미치지 못하는 것으로 나타났습니다. 그러나 그 진행은 놀라울 정도로 빨랐고, 사용 가능한 데이터의 양이 늘어나면서 그 속도도 점점 빨라지고 있습니다.
• 헬프 데스크와 같은 고객 서비스 애플리케이션은 매우 비용 효과적인 방식으로 자동화될 수 있습니다. 현재 서비스 품질이 항상 좋은 것은 아닙니다. 병목 현상은 언어 처리(시스템이 음성 언어를 인식하지 못하거나 문법을 구문 분석할 수 없음)와 실제 서비스를 제공하는 데 필요한 논리 및 추론입니다. 그러나 제한된 도메인(레스토랑이나 헤어컷 예약 등)에서 작업하는 애플리케이션이 지속적으로 생겨나고 있습니다.

우선, 인간의 노동을 대체할 수 있는 안전하고 신뢰할 수 있는 자율주행차와 기타 솔루션이 얼마나 빨리 나올지 예측하기 어렵습니다. 이 외에도 트럭이나 택시 운전사는 운전대만 돌리는 것이 아니라는 점을 잊어서는 안 됩니다. 그들은 차량이 올바르게 작동하는지 확인하고, 상품을 취급하고 고객과 협상하며, 화물과 승객의 안전을 보장하고, 실제 운전보다 자동화하기 훨씬 어려울 수 있는 다양한 작업을 처리하는 역할도 담당합니다.

이전의 기술 발전과 마찬가지로 AI로 인해 창출되는 새로운 작업도 있을 것입니다. 미래에는 더 많은 인력이 연구 개발, 창의성과 인간 대 인간의 상호 작용이 필요한 작업에 집중할 가능성이 높습니다. 이 주제에 대해 더 자세히 알고 싶다면 인공 지능과 경제적 불평등의 증가에 관한 Abhinav Suri의 멋진 에세이를 참조하세요.